騰訊云全球首發(fā)NVIDIA vComputeServer vGPU實(shí)例,為任意AI工作負(fù)載提供支持
GN7是全球首個(gè)公有云上基于NVIDIA T4以及vComputeServer的虛擬化實(shí)例,能夠加速人工智能、機(jī)器學(xué)習(xí)和數(shù)據(jù)科學(xué)的工作負(fù)載。今日,騰訊云正式對(duì)外發(fā)布基于 NVIDIA T4 的虛擬GPU(vGPU)計(jì)算產(chǎn)品GN7實(shí)例,這也是全球首家公有云實(shí)現(xiàn)了基于NVIDIA T4 GPU及 NVIDIA vComputeServer 軟件 的vGPU實(shí)例?;诙嗑戎С?,NVIDIA T4擁有可
2019-12-12 17:00:21
來(lái)源:釘科技??

GN7是全球首個(gè)公有云上基于NVIDIA T4以及vComputeServer的虛擬化實(shí)例,能夠加速人工智能、機(jī)器學(xué)習(xí)和數(shù)據(jù)科學(xué)的工作負(fù)載。

今日,騰訊云正式對(duì)外發(fā)布基于 NVIDIA T4 的虛擬GPU(vGPU)計(jì)算產(chǎn)品GN7實(shí)例,這也是全球首家公有云實(shí)現(xiàn)了基于NVIDIA T4 GPU及 NVIDIA vComputeServer 軟件 的vGPU實(shí)例。

image.png

基于多精度支持,NVIDIA T4擁有可加速深度學(xué)習(xí)訓(xùn)練和推理、機(jī)器學(xué)習(xí)以及數(shù)據(jù)科學(xué)工作負(fù)載的 Tensor Core,以及豐富的平臺(tái)堆棧,包括用于深度學(xué)習(xí)的cuDNN、用于數(shù)據(jù)分析和機(jī)器學(xué)習(xí)的NVIDIA RAPIDS、用于云工作站圖形的NVIDIA Quadro虛擬工作站和用于云游戲的NVIDIA游戲軟件。結(jié)合用于GPU虛擬化的 vComputeServer軟件,騰訊云客戶可以靈活選擇在虛擬環(huán)境中運(yùn)行GPU加速的工作負(fù)載,從而在提高安全性和利用率的同時(shí)降低成本。

騰訊云副總裁劉穎表示:“人工智能的迅速發(fā)展對(duì)算力需求提出了各種挑戰(zhàn),而我們專注解決這些問(wèn)題,為客戶提供全方位的產(chǎn)品解決方案。騰訊云GN7實(shí)例通過(guò)部署NVIDIA T4 GPU,提供豐富多樣的實(shí)例規(guī)格,滿足從計(jì)算視覺(jué)到語(yǔ)音以及NLP等不同層次的算力需求。NVIDIA vComputeServer進(jìn)一步豐富了算力粒度,為用戶提供了更多選擇的可能,最終為客戶節(jié)省成本?!?/span>

NVIDIA專業(yè)可視化業(yè)務(wù)副總裁Bob Pette表示:“企業(yè)正在迅速實(shí)施人工智能(AI)策略,AI策略需要依靠現(xiàn)代應(yīng)用程序才能實(shí)現(xiàn),而現(xiàn)代應(yīng)用程序則需強(qiáng)大算力的支持。如今,在NVIDIA vComputeServer的助力之下,騰訊云可以輕松地幫助客戶實(shí)施并擴(kuò)展數(shù)據(jù)分析、機(jī)器學(xué)習(xí)、AI以及企業(yè)中的其他工作負(fù)載?!?/span>

多重特性,廣泛適用不同AI場(chǎng)景

憑借強(qiáng)大的計(jì)算能力和彈性能力,GN7實(shí)例在海量數(shù)據(jù)處理和人工智能領(lǐng)域都具有廣闊的應(yīng)用價(jià)值。它既可以滿足諸如搜索、大數(shù)據(jù)分析等需要對(duì)海量數(shù)據(jù)進(jìn)行處理的業(yè)務(wù)場(chǎng)景,也可以作為深度學(xué)習(xí)訓(xùn)練和推理的系統(tǒng)平臺(tái)。GN7實(shí)例的虛擬化特性也十分適合互聯(lián)網(wǎng)業(yè)務(wù)中人工智能業(yè)務(wù)的批量部署以及云游戲,AR/VR在云端的應(yīng)用。目前GN7實(shí)例已經(jīng)在騰訊云自有的智能鈦彈性模型服務(wù)(TI-EMS)上實(shí)現(xiàn)了應(yīng)用。該平臺(tái)通過(guò)使用vGPU做小模型推理,幫助用戶解決復(fù)雜模型部署和GPU利用成本效益等問(wèn)題。

進(jìn)一步降低成本

GN7實(shí)例降低了GPU加速的初始投資成本,是初創(chuàng)企業(yè)、大學(xué)和企業(yè)在評(píng)估AI時(shí)的經(jīng)濟(jì)選擇。 NVIDIA vComputeServer軟件通過(guò)對(duì)NVIDIA T4進(jìn)行虛擬化,使多臺(tái)虛擬機(jī)(VM)可以同時(shí)訪問(wèn)GPU或者使一臺(tái)虛擬機(jī)可以訪問(wèn)多顆 GPU,從而實(shí)現(xiàn)性能的最大化。因此,騰訊云用戶可以根據(jù)工作負(fù)載的需求靈活選擇對(duì)應(yīng)的GPU加速量。

比如在進(jìn)行簡(jiǎn)單模型推理這一類低算力需求的應(yīng)用時(shí),用戶無(wú)須再像以往必須使用單顆物理GPU,而是可以根據(jù)自身業(yè)務(wù)具體類型對(duì)GPU算力的需求,靈活選擇匹配的vGPU資源,提升了計(jì)算資源的利用率,從而有效降低用戶的使用成本,避免因配置不足或配置過(guò)度而產(chǎn)生成本。比如,通過(guò)使用1/2 vGPU實(shí)例規(guī)格,成本相對(duì)單卡實(shí)例降低了50%。

更出色的安全性

一直以來(lái),騰訊云都在致力于通過(guò)最新虛擬化技術(shù)研發(fā)為用戶提供最安全最便利的異構(gòu)計(jì)算產(chǎn)品。GN7實(shí)例具有更出色的性能與安全性,能夠安全隔離公有云上的實(shí)例。 相比過(guò)往進(jìn)程級(jí)別的虛擬化GPU,GN7的升級(jí)點(diǎn)在于其提供的設(shè)備級(jí)虛擬化vGPU是完全模擬出來(lái)一個(gè)GPU設(shè)備,在支持GPU硬件的絕大多數(shù)特性的同時(shí),還能夠做到操作系統(tǒng)級(jí)別的隔離,而且不同的用戶使用也不用擔(dān)心資源爭(zhēng)搶的問(wèn)題。

下周,在于蘇州舉辦的GTC大會(huì)上,騰訊云海將會(huì)演示NVIDIA GPU加速的云服務(wù),并介紹如何從云端部署AI工作負(fù)載。

最新文章
1
科技點(diǎn)亮未來(lái),創(chuàng)新賦能下一代:索尼探夢(mèng)科普萬(wàn)里行再進(jìn)湖北
2
索尼研究公司與新加坡全國(guó)人工智能核心簽署備忘錄,合作研究東南亞大語(yǔ)言模型
3
索尼宣布與Cellares聯(lián)合開發(fā)基于流式分選和在線分析技術(shù)的自動(dòng)化、高通量 細(xì)胞治療生產(chǎn)平臺(tái)
4
以技術(shù)為基,索尼與墨爾本大學(xué)共同開發(fā)領(lǐng)先的外科培訓(xùn)項(xiàng)目
5
“快舟·inne號(hào)”火箭發(fā)射升空,探索育兒與科技創(chuàng)新的無(wú)限可能
6
掃地機(jī)市場(chǎng)競(jìng)爭(zhēng)烈度加劇,科沃斯石頭追覓云鯨小米表現(xiàn)如何?
7
消費(fèi)電子行業(yè)的即時(shí)零售,“人貨場(chǎng)”是如何進(jìn)化的?
8
又明年有望?全新Siri加持Apple Intelligence,明年1月或?qū)⒌菆?chǎng)
9
2024年凈化器雙十一預(yù)測(cè):雙十一仍將保持20%高增長(zhǎng)
10
10月排產(chǎn)增長(zhǎng)23%,空調(diào)市場(chǎng)又好起來(lái)了?
11
全球首個(gè)真空噪聲芯片發(fā)布
12
高端電視同比實(shí)現(xiàn)增長(zhǎng),Mini LED出貨量和收入占比達(dá)到54%
13
699元!華為路由BE7 Pro開售:全2.5GE網(wǎng)口、主動(dòng)颶風(fēng)散熱
14
首發(fā)供應(yīng)!博主確認(rèn)iPhone 16 Pro有京東方屏幕
15
快手電商新增近800個(gè)“0元開店”類目,推出多項(xiàng)新商入駐權(quán)益
16
快手可靈AI攜手東方衛(wèi)視中秋晚會(huì) 打造文化與科技交融的視聽盛宴
17
3i與科沃斯的“全球首款”爭(zhēng)議背后:清潔電器進(jìn)入創(chuàng)新慢周期?
18
康佳G9Pro新品電視9月23日晚20點(diǎn)正售開啟,多重好禮福利大放送
19
年底新旗艦手機(jī)中,一加13將獨(dú)家搭載24GB LPDDR5X內(nèi)存?
20
三大面板企業(yè)國(guó)慶將放假,減產(chǎn)應(yīng)對(duì)連跌三月的液晶面板價(jià)格?
關(guān)于我們

微信掃一掃,加關(guān)注

商務(wù)合作
  • QQ:61149512