英特爾Sachin Katti:大模型在云端訓練的成熟,將促進AI快速向邊緣遷移
通信世界網(wǎng)消息(CWW)隨著邊緣計算與大模型技術(shù)的不斷成熟,二者可以很好地融合在一起為行業(yè)應用中碰撞出新的“火花”。 近日,在2023英特爾網(wǎng)絡與邊緣產(chǎn)業(yè)高層峰會上,英特爾公司高級副總裁兼網(wǎng)絡與邊緣事業(yè)部總經(jīng)理Sachin Katti和英特爾中國區(qū)網(wǎng)絡與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席AI工程師張宇博士接受了通信世界全媒體記者的采訪,分享了英特爾在邊緣計算和大模型方面的戰(zhàn)略和產(chǎn)品,以及如何推
2023-08-01 10:10:14
來源:通信世界全媒體 程琳琳??

通信世界網(wǎng)消息(CWW)隨著邊緣計算與大模型技術(shù)的不斷成熟,二者可以很好地融合在一起為行業(yè)應用中碰撞出新的“火花”。

近日,在2023英特爾網(wǎng)絡與邊緣產(chǎn)業(yè)高層峰會上,英特爾公司高級副總裁兼網(wǎng)絡與邊緣事業(yè)部總經(jīng)理Sachin Katti和英特爾中國區(qū)網(wǎng)絡與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席AI工程師張宇博士接受了通信世界全媒體記者的采訪,分享了英特爾在邊緣計算和大模型方面的戰(zhàn)略和產(chǎn)品,以及如何推動邊緣智能和大模型在行業(yè)中的落地。

如今邊緣計算市場已經(jīng)在快速增長過程當中,這對英特爾以及對整個英特爾生態(tài)系統(tǒng),以及整個中國市場來說都提供了巨大的機遇。

“英特爾的邊緣計算策略是提供大量的硬件選擇,比如說CPU、加速器、GPU等,達到一流的性能。同時在軟件方面,英特爾希望在應用的時候可以降低復雜性?!盨achin Katti表示:“我們要幫助客戶,為他們提供一些選擇,同時通過我們的軟件解決方案可以使他們的運營更加簡化、更加精簡,而且我們要跟整個的生態(tài)系統(tǒng)的合作伙伴一起合作?!?/p>

隨著大模型在云端訓練的成熟,AI就會快速向邊緣進行遷移。Sachin Katti說:“我們看到AI正在快速地遷移到云端,在這當中邊緣也會發(fā)揮更加重要的作用來推動AI的部署。英特爾有很多邊緣設(shè)備都是在行業(yè)落地的。所以我們要做的是通過所提供的選擇,讓用戶可以更好的使用AI,把AI成果運用在日常運營當中?!?/p>

英特爾認為大模型是AI未來的關(guān)鍵,它可以幫助解決一些人類面臨的重大挑戰(zhàn),比如醫(yī)療、教育、環(huán)境等?!拔覀兿嘈糯竽P涂梢宰孉I更加通用,更加普及,更加有價值。我們也相信大模型需要和行業(yè)結(jié)合起來,要在行業(yè)里去做跟這個行業(yè)相關(guān)的,有針對性的大模型去解決行業(yè)里有針對性的一些問題。”Sachin Katti表示。

為了支持大模型的訓練和推理,英特爾提供了一系列的硬件和軟件解決方案。在硬件方面,英特爾發(fā)布了專門面向大模型訓練的加速器Gaudi 2,它在第三方公開的運用GPT 3這樣一個大模型的評測當中表現(xiàn)出了非常好的性能。同時,英特爾也提供了通用的CPU處理器以及專用的獨立顯卡等加速器來滿足人工智能模型推理對算力的要求。

在軟件方面,英特爾推出了OpenVINO的軟件工具,可以實現(xiàn)模型在不同平臺上的遷移和部署。在最新的OpenVINO版本里,英特爾增加了對大模型的支持,比如說Stable Diffusion這樣一個文生圖的模型,已經(jīng)開始在一些行業(yè)里進行使用了。

除了硬件和軟件之外,英特爾還提供了開放標準的網(wǎng)絡連接技術(shù),來把大量的GPU和加速器連接起來,讓大模型的訓練更加方便。英特爾還推出了IPU(Infrastructure Processing Unit),它能夠給用戶提供一個可靠、高速、低延遲的數(shù)據(jù)傳輸服務。

“我們要做到在中國為中國,在本地客戶需求上做一些行業(yè)需要的相應解決方案,利用總部所提供的軟件基礎(chǔ)來做這個方案,從工具、解決方案、生態(tài)等方面,來為本地行業(yè)客戶賦能?!睆堄畈┦勘硎尽S⑻貭栂Mㄟ^軟硬件結(jié)合、開放標準、生態(tài)構(gòu)建等方式,為客戶提供整體解決方案,讓AI更加通用、普及、有價值。

最新文章
1
小空間投影終級形態(tài)——極米神燈Sunlight來了!全光譜吸頂燈更護眼
2
2024年冷年空調(diào)市場總結(jié):規(guī)模下探,結(jié)構(gòu)降級,空調(diào)行業(yè)邁入新周期
3
下一代工業(yè)智能終端:重新定義制造業(yè)的未來
4
價格戰(zhàn)的烽火將撲向更大功率的機型
5
三折還不夠?消息稱三星計劃 2025 年推出卷軸屏手機,展開后屏幕可達 12.4 英寸
6
云市場將走向何方?財報中一探究竟
7
自主Mini LED崛起,二季度TCL超三星成為Mini LED出貨量第一
8
Mate 70最受期待!華為三款重磅機型蓄勢待發(fā)
9
徹底告別3999元!小米15入網(wǎng) 支持90W快充
10
研發(fā)投入高增、占營收比超5%,科沃斯、石頭科技升高技術(shù)壁壘
11
面對承壓的小家電市場,小熊、蘇泊爾上半年為何一降一增?
12
“向新”發(fā)展賦予激光顯示行業(yè)無限活力,150吋海信激光電視即將量產(chǎn)
13
大宅觀影的“巨幕時代”來臨!120吋海信激光電視星光S1 Max正式發(fā)布
14
全域協(xié)同、全局增長,2024快手雙11商家大會將于9月19日召開
15
快手科技2024年投資者日:以用戶為導向,借助AI賦能實現(xiàn)高質(zhì)量增長
16
快手可靈AI導演合作計劃開“拍” AIGC應用師首次成規(guī)模入駐電影劇組 
17
小模型“反卷”大模型?適用才是真王道!
18
以10%面積代價實現(xiàn)汽車功能安全,Imagination發(fā)布新款GPU IP
19
產(chǎn)能不足、售價高昂、壽命問題,OLED電視的驚艷正在落幕
20
8月線下電視市場銷售額規(guī)模同比下降2.5%,75英寸占比上漲
關(guān)于我們

微信掃一掃,加關(guān)注

商務合作
  • QQ:61149512