谷歌下月上線A3實(shí)例：搭載英偉達(dá)H100，可提供26 exaFlops AI性能

谷歌下月上線A3實(shí)例：搭載英偉達(dá)H100，可提供26 exaFlops AI性能

IT之家 8 月 31 日消息，Google Cloud 在今天召開的云 Next 大會(huì)上，宣布下月上線 A3 虛擬機(jī)實(shí)例。谷歌云在今年 5 月召開的 I / O 開發(fā)者大會(huì)上宣布 A3 實(shí)例，最大的亮點(diǎn)在于配備英偉達(dá) H100 Tensor Core GPU，滿足生成式 AI 和大語(yǔ)言模型的需求。

IT之家此前報(bào)道，A3 實(shí)例采用了第 4 代英特爾至強(qiáng)可擴(kuò)展處理器、2TB DDR54800 內(nèi)存，以及 8 張英偉達(dá) H100“Hopper”GPU，通過 NVLink 4.0 和 NVSwitch 實(shí)現(xiàn)了 3.6 TBps 的對(duì)分帶寬。

新的 A3 超級(jí)計(jì)算機(jī)“專門用于訓(xùn)練和服務(wù)要求最苛刻的人工智能模型，這些模型為當(dāng)今的生成人工智能和大型語(yǔ)言模型創(chuàng)新提供動(dòng)力”。據(jù)介紹，這款超級(jí)計(jì)算機(jī)可以提供 26 exaFlops 的人工智能性能。

谷歌云在今天的發(fā)布會(huì)上還介紹了全新的 TPU v5e，是迄今為止最具成本效益和可訪問的云 TPU。這些 TPU 或定制 ASIC 旨在加速 AI 和 ML 工作負(fù)載。

SDxCentral 報(bào)道稱，TPU v5e 相比較前代，每美元的訓(xùn)練性能提高了一倍，每美元的推理性能提高了 2.5 倍。