4月10日消息,在本周舉行的Cloud Next大會(huì)上,谷歌推出最新一代TPU AI加速芯片。
這款名為Ironwood的芯片是谷歌第七代TPU,同時(shí)也是首款專(zhuān)為人工智能推理優(yōu)化的芯片產(chǎn)品。Ironwood預(yù)計(jì)將在今年晚些時(shí)候向Google Cloud客戶(hù)開(kāi)放,提供256芯片集群和9,216芯片集群兩種配置。
谷歌云副總裁阿明·瓦赫達(dá)特(Amin Vahdat)在博客文章中寫(xiě)道:“Ironwood是我們迄今為止性能最強(qiáng)、功能最全、能效最高的TPU。它專(zhuān)為大規(guī)模驅(qū)動(dòng)具備思考能力的推理型AI模型而打造?!?/p>
Ironwood的發(fā)布正值人工智能加速器領(lǐng)域競(jìng)爭(zhēng)日趨激烈之際。雖然英偉達(dá)暫居領(lǐng)先地位,但亞馬遜和微軟等科技巨頭正在大力推動(dòng)自研解決方案。亞馬遜通過(guò)AWS提供訓(xùn)練專(zhuān)用芯片Trainium、推理芯片Inferentia和通用處理器Graviton,微軟則為Azure云平臺(tái)部署了Maia 100人工智能芯片。
根據(jù)谷歌內(nèi)部基準(zhǔn)測(cè)試,Ironwood峰值計(jì)算能力達(dá)到4,614萬(wàn)億次浮點(diǎn)運(yùn)算/秒(TFLOPs)。每顆芯片配備192GB專(zhuān)用內(nèi)存,帶寬接近7.4太比特/秒(Tbps)。
Ironwood還搭載增強(qiáng)版專(zhuān)用核心SparseCore,用于處理“高級(jí)排序”和“推薦”任務(wù)中常見(jiàn)的數(shù)據(jù)類(lèi)型(例如推薦用戶(hù)可能喜歡的服飾)。谷歌表示,該TPU架構(gòu)通過(guò)最小化芯片內(nèi)數(shù)據(jù)移動(dòng)和延遲來(lái)實(shí)現(xiàn)節(jié)能。
瓦赫達(dá)特補(bǔ)充稱(chēng),谷歌計(jì)劃近期將Ironwood整合到谷歌云中的模塊化計(jì)算集群。
“在推理計(jì)算時(shí)代,Ironwood實(shí)現(xiàn)了計(jì)算能力、內(nèi)存容量、網(wǎng)絡(luò)技術(shù)進(jìn)步及可靠性的獨(dú)特突破?!蓖吆者_(dá)特表示。
來(lái)源: 網(wǎng)易科技報(bào)道
撫順眾聯(lián)網(wǎng)絡(luò)公司轉(zhuǎn)載
撫順網(wǎng)絡(luò)公司 撫順網(wǎng)絡(luò) 撫順軟件公司