與NVIDIA等企業(yè)深度合作,Arm Neoverse在AI時(shí)代大放異彩
數(shù)字經(jīng)濟(jì)浪潮下,以 ChatGPT 為代表的生成式 AI 應(yīng)用的爆發(fā),正在引發(fā)新一輪服務(wù)器的算力需求。
Arm 高級(jí)副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理 Mohamed Awad
AI的發(fā)展對(duì)服務(wù)器的架構(gòu)提出了新的需求
不過(guò),目前市場(chǎng)上的服務(wù)器大部分采用的都是傳統(tǒng)的系統(tǒng)架構(gòu),不僅無(wú)法達(dá)到內(nèi)存的一致性,而且也直接限制了產(chǎn)品最終的性能水平。
基礎(chǔ)設(shè)施領(lǐng)域的傳統(tǒng)系統(tǒng)架構(gòu)
“為了更好的支持生成式 AI對(duì)于服務(wù)器的需求,新的現(xiàn)代化系統(tǒng)架構(gòu)在基礎(chǔ)設(shè)施領(lǐng)域應(yīng)運(yùn)而生。以其中一種新型架構(gòu)來(lái)看,和傳統(tǒng)服務(wù)器的架構(gòu)相比,新型架構(gòu)中的每一個(gè)CPU都可以單獨(dú)和一個(gè)加速器相連,由于此架構(gòu)中的CPU是根據(jù)用戶(hù)的實(shí)際場(chǎng)景需求所進(jìn)行定制化設(shè)計(jì),會(huì)帶來(lái)更優(yōu)異的內(nèi)存一致性,讓加速器的使用更加高效,體現(xiàn)出產(chǎn)品的最佳性能,如此一來(lái),才能更好地滿足包括生成式 AI在內(nèi)的未來(lái)基礎(chǔ)設(shè)施的市場(chǎng)需求。”Arm 高級(jí)副總裁兼基礎(chǔ)設(shè)施事業(yè)部總經(jīng)理Mohamed Awad在11月27日在深圳舉辦的Arm Tech Symposia 年度技術(shù)大會(huì)上說(shuō)道。
面向新的技術(shù)需求,基礎(chǔ)設(shè)施領(lǐng)域出現(xiàn)了新的現(xiàn)代化系統(tǒng)架構(gòu)
Arm Neoverse已被 NVIDIA等眾多客戶(hù)采用
基于這樣的技術(shù)發(fā)展趨勢(shì),目前在服務(wù)器等基礎(chǔ)設(shè)施領(lǐng)域, Arm已經(jīng)針對(duì)于人工智能 (AI) 正在發(fā)生的一些變化推出了一系列的創(chuàng)新解決方案。
“以NVIDIA GH200 Grace Hopper 超級(jí)芯片為例”,Mohamed Awad介紹道,“該芯片所使用的架構(gòu)中采用了72 顆 Arm Neoverse 核心,借助 Arm 技術(shù)帶來(lái)的靈活性進(jìn)一步實(shí)現(xiàn)了系統(tǒng)的優(yōu)化。此外,該芯片還能充分利用Arm強(qiáng)大的軟件生態(tài)系統(tǒng),加上來(lái)自 NVIDIA 的 GPU的組合,其AI 性能較基于x86架構(gòu)的系統(tǒng)可提升 10 倍?!?/span>
NVIDIA GH200 Grace Hopper 超級(jí)芯片采用 Arm Neoverse 搭配 NVIDIA GPU,滿足 AI 性能的需求
除了英偉達(dá)之外,目前阿里巴巴等超大規(guī)模云服務(wù)商也都選擇了和 Arm 合作。比如,阿里巴巴的倚天 710 就是基于 Arm Neoverse 平臺(tái)打造的 CPU;另外,像鴻鈞微電子以及遇賢微電子等初創(chuàng)企業(yè),也都基于 Arm Neoverse平臺(tái)打造了服務(wù)器 SoC 的解決方案;而中國(guó)本土的公司云豹智能,也借助 Neoverse 來(lái)引領(lǐng)DPU的創(chuàng)新發(fā)展;聯(lián)想則更多地是將基于Arm架構(gòu)的解決方案部署到 5G 領(lǐng)域。通過(guò)與上述中國(guó)本土公司強(qiáng)有力的合作,不僅為這些企業(yè)打造了最適合自己需求的解決方案,而且也促進(jìn)了Arm Neoverse平臺(tái)業(yè)務(wù)在中國(guó)的進(jìn)一步發(fā)展。
從超大規(guī)模云服務(wù)商到初創(chuàng)企業(yè),在 Arm 平臺(tái)上賦能創(chuàng)新
Arm Neoverse CSS將進(jìn)一步為客戶(hù)提質(zhì)增效
基于Arm Neoverse平臺(tái)良好的客戶(hù)基礎(chǔ)與市場(chǎng)需求,現(xiàn)在Arm又推出了Arm Neoverse 計(jì)算子系統(tǒng) (CSS),合作伙伴可以直接采用也可按需選用,以進(jìn)一步幫助客戶(hù)加速產(chǎn)品的上市進(jìn)程。
Arm Neoverse 計(jì)算子系統(tǒng) (CSS)
Mohamed Awad指出:“通過(guò) Neoverse CSS 能夠幫助我們的合作伙伴進(jìn)一步降低投資,加速整個(gè)生態(tài)系統(tǒng)對(duì)我們解決方案的可訪問(wèn)性,同時(shí)也加速合作伙伴產(chǎn)品的上市時(shí)間。目前,我們已經(jīng)得到了很多合作伙伴的反饋。其中,一個(gè)合作伙伴反饋說(shuō),通過(guò)使用 Neoverse CSS,節(jié)省了長(zhǎng)達(dá)80人/年的工程師時(shí)間。與此同時(shí),根據(jù)另外一個(gè)客戶(hù)的反饋,通過(guò)使用我們的 Neoverse CSS,助力他們的項(xiàng)目從概念到流片僅耗時(shí)13個(gè)月?!?/span>
值得一提的是,近期微軟發(fā)布的Cobalt 100 CPU,采用了128 個(gè)Arm Neoverse核心,也是基于Arm的 Neoverse CSS所設(shè)計(jì)的方案。此外,也有中國(guó)的合作伙伴正在基于 CSS 進(jìn)行開(kāi)發(fā),未來(lái)類(lèi)似的案例還將不斷增多。
微軟 Azure Cobalt 100
為了進(jìn)一步結(jié)合生態(tài)系統(tǒng)的力量、簡(jiǎn)化定制芯片的開(kāi)發(fā)流程,并且讓交付變得更加容便捷,在 Neoverse CSS的基礎(chǔ)之上,Arm也推出了Arm全面設(shè)計(jì) (Arm Total Design) 生態(tài)計(jì)劃,這個(gè)生態(tài)計(jì)劃結(jié)合了專(zhuān)用集成電路 (ASIC) 設(shè)計(jì)公司、IP 供應(yīng)商、EDA 工具提供商、代工廠和固件開(kāi)發(fā)廠商等芯片設(shè)計(jì)全鏈路所需的生態(tài)支持,幫助計(jì)劃采用 Arm Neoverse CSS 的客戶(hù)奠定生態(tài)支持的基礎(chǔ),加速他們的產(chǎn)品開(kāi)發(fā)進(jìn)程。
Arm 全面設(shè)計(jì) (Arm Total Design) 生態(tài)系統(tǒng)助力合作伙伴加速基于 Neoverse CSS 的芯片開(kāi)發(fā)
“近年來(lái),Arm在致力于IP 授權(quán)業(yè)務(wù)發(fā)展的同時(shí),也在不斷為合作伙伴提供完整的解決方案,以幫助他們快速地將產(chǎn)品推向市場(chǎng),形成差異化的競(jìng)爭(zhēng)優(yōu)勢(shì)。Arm 全面計(jì)算解決方案 (Arm Total Compute Solutions)、Arm Neoverse平臺(tái)、Arm Corstone 以及 SOAFEE 等,都是 Arm 的計(jì)算平臺(tái)在市場(chǎng)當(dāng)中得以廣泛應(yīng)用的例證,這些平臺(tái)可以幫助我們向生態(tài)伙伴提供一個(gè)完整、集成的解決方案,可助力客戶(hù)快速采用并推出他們的產(chǎn)品及服務(wù)?!盡ohamed Awad說(shuō)。
Arm 為移動(dòng)、基礎(chǔ)設(shè)施、物聯(lián)網(wǎng),以及汽車(chē)領(lǐng)域推出對(duì)應(yīng)的計(jì)算平臺(tái),可以加速合作伙伴產(chǎn)品上市進(jìn)程
最后,在談及對(duì)于中國(guó)市場(chǎng)的看法時(shí),Mohamed Awad表示:“中國(guó)是 Arm 非常重要的市場(chǎng)之一,來(lái)自中國(guó)市場(chǎng)的創(chuàng)新也是 Arm 不斷發(fā)展,并在業(yè)務(wù)上取得成功的原因之一。如今,中國(guó)合作伙伴基于 Arm 架構(gòu)芯片的總出貨量已累計(jì)達(dá)300億顆,這個(gè)數(shù)字確實(shí)驚人。目前我們?cè)谥袊?guó)有近 400 家技術(shù)授權(quán)客戶(hù),這個(gè)數(shù)字每個(gè)月都在不斷攀升。未來(lái),我們也將持續(xù)通過(guò)與安謀科技的合作,以進(jìn)一步助力中國(guó)本土合作伙伴的發(fā)展?!?/span>
