亞馬遜發(fā)布全新服務(wù)器芯片Graviton3:機器學(xué)習(xí)性能是原來的三倍,能耗降低60%
關(guān)鍵詞: 亞馬遜 服務(wù)器芯片 Graviton3 機器學(xué)習(xí)
近日,亞馬遜AWS(Amazon Web Services)在re:Invent 2021 大會上,正式發(fā)布了其第三代自研的服務(wù)器芯片Graviton3,同步推出3 款基于Graviton3的Amazon Elastic Compute Cloud(Amazon EC2)執(zhí)行個體。
早在2018年,亞馬遜就推出了第一代自研的Arm服務(wù)器芯片Graviton,此次推出的Graviton3已經(jīng)是第三代的AWS自研服務(wù)器芯片。AWS表示,Graviton3相比Graviton2,計算性能提高了25%,浮點性能和加密性能是原來的兩倍,機器學(xué)習(xí)性能則是原來的三倍,同時能耗降低了60%。Graviton3還增加了新的指針身份驗證功能,以提高安全性。
雖然AWS沒有詳細介紹Graviton3的具體參數(shù),不過有消息顯示,Graviton3使用了ARMv9架構(gòu)的Neoverse N2內(nèi)核,支持DDR5內(nèi)存。
Graviton3將會為AWS的EC2 C7g實例提供支持,適用于HPC、EDA、分布式分析和基于CPU的機器學(xué)習(xí)推理等計算密集型工作負載。EC2 C7g實例提供了30 Gbps的網(wǎng)絡(luò)帶寬和彈性結(jié)構(gòu)適配器(EFA)支持,目前正在運行預(yù)覽階段。
此外,AWS還推出了基于其2020年自研AI芯片Trainium的最新的Trn1實例。Trainium主要用于機器學(xué)習(xí)模型訓(xùn)練,其所支持的Trn1實例,為客戶在Amazon EC2 中深度學(xué)習(xí)模型訓(xùn)練提供最佳性價比及最快的機器學(xué)習(xí)模型訓(xùn)練速度;與目前的P4d 執(zhí)行個體相比,透過Trn1實例訓(xùn)練深度學(xué)習(xí)模型的成本降低多達40%,能與如Nvidia 的芯片產(chǎn)品競爭。
此外,AWS的EC2 M6a實例中,采用了AMD基于Zen 3架構(gòu)的EPYC 7003系列處理器。相比上一代的EC2 M5a實例,性價比提高了35%,成本比其他基于x86處理器的EC2實例降低了10%。據(jù)了解,AWS計劃未來會推出更多采用AMD第三代EPYC系列處理器的實例。
