4月10日消息,在本周舉行的Cloud Next大會上,谷歌推出最新一代TPU AI加速芯片。
這款名為Ironwood的芯片是谷歌第七代TPU,同時也是首款專為人工智能推理優(yōu)化的芯片產(chǎn)品。Ironwood預(yù)計將在今年晚些時候向Google Cloud客戶開放,提供256芯片集群和9,216芯片集群兩種配置。
谷歌云副總裁阿明·瓦赫達特(Amin Vahdat)在博客文章中寫道:“Ironwood是我們迄今為止性能最強、功能最全、能效最高的TPU。它專為大規(guī)模驅(qū)動具備思考能力的推理型AI模型而打造?!?/p>
Ironwood的發(fā)布正值人工智能加速器領(lǐng)域競爭日趨激烈之際。雖然英偉達暫居領(lǐng)先地位,但亞馬遜和微軟等科技巨頭正在大力推動自研解決方案。亞馬遜通過AWS提供訓(xùn)練專用芯片Trainium、推理芯片Inferentia和通用處理器Graviton,微軟則為Azure云平臺部署了Maia 100人工智能芯片。
根據(jù)谷歌內(nèi)部基準測試,Ironwood峰值計算能力達到4,614萬億次浮點運算/秒(TFLOPs)。每顆芯片配備192GB專用內(nèi)存,帶寬接近7.4太比特/秒(Tbps)。
Ironwood還搭載增強版專用核心SparseCore,用于處理“高級排序”和“推薦”任務(wù)中常見的數(shù)據(jù)類型(例如推薦用戶可能喜歡的服飾)。谷歌表示,該TPU架構(gòu)通過最小化芯片內(nèi)數(shù)據(jù)移動和延遲來實現(xiàn)節(jié)能。
瓦赫達特補充稱,谷歌計劃近期將Ironwood整合到谷歌云中的模塊化計算集群。
“在推理計算時代,Ironwood實現(xiàn)了計算能力、內(nèi)存容量、網(wǎng)絡(luò)技術(shù)進步及可靠性的獨特突破。”瓦赫達特表示。
來源: 網(wǎng)易科技報道
撫順眾聯(lián)網(wǎng)絡(luò)公司轉(zhuǎn)載
撫順網(wǎng)絡(luò)公司 撫順網(wǎng)絡(luò) 撫順軟件公司