說(shuō)起“存儲(chǔ)”和“AI”，很多人會(huì)說(shuō)存儲(chǔ)對(duì)AI很重要，因?yàn)锳I的發(fā)展是由海量數(shù)據(jù)支撐起來(lái)的，這就使得人們對(duì)數(shù)據(jù)處理提出了極高的要求，需要更大的內(nèi)存去存儲(chǔ)更多的數(shù)據(jù)，不得不承認(rèn)，高性能的存儲(chǔ)能讓AI技術(shù)發(fā)揮出最大威力。但其實(shí)AI對(duì)存儲(chǔ)也很重要，AI 時(shí)刻推動(dòng)著存儲(chǔ)的發(fā)展，究其原因繞不開(kāi)存內(nèi)計(jì)算（PIM ：Processing in-memory）。

存內(nèi)計(jì)算是一項(xiàng)打破傳統(tǒng)馮諾依曼架構(gòu)的新型運(yùn)算架構(gòu)，通過(guò)將存儲(chǔ)和計(jì)算有機(jī)結(jié)合，直接利用存儲(chǔ)單元進(jìn)行計(jì)算，極大地消除了數(shù)據(jù)搬移帶來(lái)的開(kāi)銷(xiāo)，解決了傳統(tǒng)芯片在運(yùn)行人工智能算法上的“存儲(chǔ)墻”與“功耗墻”問(wèn)題，可以數(shù)十倍甚至百倍地提高人工智能運(yùn)算效率，降低成本。

雖然存內(nèi)計(jì)算的基本概念早在上個(gè)世紀(jì)七十年代就已經(jīng)被提出，但直到近些年才逐漸成為人們關(guān)注的焦點(diǎn)，原因在于，算力和運(yùn)算數(shù)據(jù)量的激增導(dǎo)致存儲(chǔ)墻問(wèn)題愈發(fā)凸顯，想要進(jìn)一步提高算力，只有解決存儲(chǔ)墻問(wèn)題，而在各種解決方案中存內(nèi)計(jì)算是最直接的一種方式，可以實(shí)現(xiàn)高能效、低功耗、低成本。

早在2019年，美光首席執(zhí)行官 Sanjay Mehrotra 就指出，曾經(jīng)的計(jì)算架構(gòu)并不適合未來(lái)的發(fā)展趨勢(shì)，從長(zhǎng)遠(yuǎn)來(lái)看認(rèn)為計(jì)算最好在內(nèi)存中完成。當(dāng)時(shí)美光另一位技術(shù)高管也堅(jiān)信計(jì)算和內(nèi)存的融合對(duì)于提高性能效率和降低延遲是必要的，并愿意為此付出努力。不少業(yè)內(nèi)人士認(rèn)為，未來(lái)存儲(chǔ)器可能不僅僅是存儲(chǔ)設(shè)備，還可能是加速器，或者還會(huì)具備其他的功能，例如更好的ECC等。

那么，面對(duì)數(shù)據(jù)量激增的未來(lái)，如何應(yīng)對(duì)內(nèi)存帶寬挑戰(zhàn)，實(shí)現(xiàn)更優(yōu)質(zhì)的 PIM來(lái)減輕各種 AI 驅(qū)動(dòng)所面對(duì)的諸如HPC、培訓(xùn)和推理等工作負(fù)載？AI就是一個(gè)很好的選擇，隨著技術(shù)的演進(jìn)，越來(lái)越多的存儲(chǔ)廠商開(kāi)始加入AI戰(zhàn)…

卡位AI，投資先行

如何最快獲得一項(xiàng)新技術(shù)，投資/收購(gòu)就是極為常見(jiàn)的一種方式，存儲(chǔ)廠商開(kāi)啟AI投資熱潮大約是在2018年前后，這一年也是人工智能的狂歡年，Google Duplex代替人類自動(dòng)接打電話、歐盟正式發(fā)布的人工智能道德準(zhǔn)則草案、OpenAI的5v5 DOTA AI“Open AI Five”再次完勝人類、全球第一個(gè)“AI合成主播”正式上崗…種種一切似乎讓人們意識(shí)到，只在小說(shuō)中存在的AI時(shí)代真的要來(lái)了。

2018年6月，存儲(chǔ)龍頭三星公布了一項(xiàng)專注于 AI 科技和初創(chuàng)公司的新基金“Samsung NEXT Q Fund ”，將為那些解決AI問(wèn)題以及使用AI解決計(jì)算機(jī)科學(xué)問(wèn)題的初創(chuàng)公司提供種子輪和 A 輪融資支持，公告中特別提到，包括的領(lǐng)域涉及模擬學(xué)習(xí)、場(chǎng)景理解，問(wèn)題學(xué)習(xí)方案和人機(jī)交互。

到了2018年8月，三星集團(tuán)宣布，未來(lái)三年將在AI、汽車(chē)零部件等領(lǐng)域投資逾220億美元，其中大部分投資由三星電子承擔(dān)；2021年8月，三星再次公布未來(lái)三年會(huì)投資240萬(wàn)億韓元（約合2055億美元）到生物制藥、人工智能、半導(dǎo)體、機(jī)器人等領(lǐng)域。從2018年的220億美元，到2021年的2055億美元，十倍的增長(zhǎng)，雖然AI并不是三星電子加大投資的惟一領(lǐng)域，但顯然已經(jīng)是被鎖定的新成長(zhǎng)領(lǐng)域。

在2018年三星宣布成立新基金后不久，美光也宣布通過(guò)美光創(chuàng)投投入一億美元在人工智能及機(jī)器學(xué)習(xí)新創(chuàng)公司，當(dāng)時(shí)消息顯示，投資新創(chuàng)不僅有助于加速人工智能的發(fā)展，還能間接帶動(dòng)對(duì)于DRAM與NAND內(nèi)存與3D Xpoint等次世代內(nèi)存的需求。

或許是投資已經(jīng)沒(méi)辦法滿足需求，又或許是美光進(jìn)一步認(rèn)識(shí)到了存內(nèi)計(jì)算的重要性，到了2019年，美光科技直接收購(gòu)了人工智能硬件和軟件初創(chuàng)公司Fwdnxt，這在當(dāng)時(shí)的行業(yè)內(nèi)掀起了不小的波瀾。美光認(rèn)為，F(xiàn)wdnxt的技術(shù)與美光的存儲(chǔ)芯片結(jié)合使用時(shí)，能夠使美光具備探索數(shù)據(jù)分析所需的深度學(xué)習(xí)AI解決方案的能力，尤其是物聯(lián)網(wǎng)和邊緣計(jì)算。

美光方面還表示，收購(gòu)Fwdnxt不僅不會(huì)與英特爾、英偉達(dá)等有更多的競(jìng)爭(zhēng)，相反反而會(huì)有更多的合作。在美光看來(lái)，沒(méi)有人可以在數(shù)據(jù)中心領(lǐng)域與他們競(jìng)爭(zhēng)，存儲(chǔ)廠商想要分得一杯羹，為英特爾等提供更多幫助，那么在邊緣計(jì)算方面進(jìn)行研究，將會(huì)是美光獲得最大效率和規(guī)模經(jīng)濟(jì)的地方。

數(shù)據(jù)中心是互聯(lián)網(wǎng)、云計(jì)算和人工智能等領(lǐng)域的通用支撐技術(shù)，中國(guó)信通院《數(shù)據(jù)中心白皮書(shū)2022》報(bào)告顯示，2021年全球數(shù)據(jù)中心市場(chǎng)規(guī)模超過(guò)679億美元，預(yù)計(jì)2022年市場(chǎng)收入將達(dá)到746億美元。而存儲(chǔ)和AI都是數(shù)據(jù)中心不可缺少的重要部分，一方面任何數(shù)據(jù)中心的數(shù)據(jù)最終都要放置到存儲(chǔ)設(shè)備上。另一方面，AI能夠幫助數(shù)據(jù)中心提高能源效率，進(jìn)而節(jié)省成本，還能幫助優(yōu)化運(yùn)維，使用預(yù)測(cè)分析來(lái)幫助數(shù)據(jù)中心分配工作負(fù)載。那么，當(dāng)數(shù)據(jù)中心的“左膀右臂”結(jié)合在一起，勢(shì)必會(huì)帶來(lái)奇效，這或許也是美光收購(gòu)Fwdnxt的一部分考量。

而在2019年，SK海力士也加入了這場(chǎng)AI投資戰(zhàn)，甚至攻勢(shì)十分兇猛。2019年年初，SK海力士投資了地平線；2020年9月，宣布投資Gauss Labs公司，旨在通過(guò)工業(yè)人工智能（AI）解決方案引領(lǐng)半導(dǎo)體制造業(yè)創(chuàng)新；2022年1月，SK 海力士又同SK Telecom 以及 SK Square一起宣布，成立聯(lián)合發(fā)展協(xié)會(huì)，首先將砸 800 億韓元，在美國(guó)設(shè)立 AI 半導(dǎo)體公司 SAPEON，SK 海力士持有25%的股份，這對(duì)于SK 海力士來(lái)說(shuō)，在 NAND 閃存以及AI領(lǐng)域的事業(yè)也會(huì)更進(jìn)一步擴(kuò)張。



AI對(duì)存儲(chǔ)提出了新的要求

在談及AI時(shí)代下的新型存儲(chǔ)產(chǎn)品，首先要了解AI的到來(lái)，對(duì)存儲(chǔ)技術(shù)提出了哪些新的需求。

華邦電子是中國(guó)臺(tái)灣最大的DRAM廠商，同時(shí)他們也是全球SPI NOR Flash的主要供應(yīng)商之一，專注于利基型 DRAM 和 NOR Flash 等存儲(chǔ)業(yè)務(wù)的他們，對(duì)于AI時(shí)代的到來(lái)有著更為深刻的理解。

華邦電子DRAM產(chǎn)品營(yíng)銷(xiāo)部經(jīng)理曾一峻在接受半導(dǎo)體行業(yè)觀察的采訪時(shí)提到：“最初行業(yè)認(rèn)為AI將發(fā)生在云端，但是在接下來(lái)兩年中，邊緣計(jì)算則更加盛行。究其原因，物聯(lián)網(wǎng)設(shè)備數(shù)據(jù)量的增多，使得云端數(shù)據(jù)處理的負(fù)荷過(guò)大，因而，數(shù)據(jù)處理開(kāi)始向邊緣計(jì)算轉(zhuǎn)移。在這個(gè)過(guò)程當(dāng)中，就需要RAM來(lái)提供支持，但邊緣端無(wú)法像云端那樣可以把存儲(chǔ)器無(wú)限制地?cái)U(kuò)張，所以需要對(duì)AI網(wǎng)絡(luò)模型進(jìn)行壓縮?！?/span>

“目前市場(chǎng)上有很多工具可以對(duì)AI模型進(jìn)行壓縮，甚至可以控制在10MB以下，在這樣的情況下Micro Controller就可以利用這樣的很小型神經(jīng)網(wǎng)絡(luò)做AI運(yùn)算?！痹痪赋觯骸爱?dāng)然，Micro Controller里面不會(huì)配置擁有高容量的SRAM，因?yàn)槌杀咎?。所以它就?huì)采用外掛內(nèi)存的處理方式。

AI時(shí)代同樣對(duì)于閃存產(chǎn)品有著新的要求，而對(duì)于閃存產(chǎn)品來(lái)說(shuō)，終端用戶永遠(yuǎn)都會(huì)期待閃存產(chǎn)品擁有以下三個(gè)優(yōu)點(diǎn)，即PCB占地小，成本低，組合多樣化。

多種技術(shù)架構(gòu)待產(chǎn)學(xué)研共同探索

面向智能化時(shí)代的算力需求和計(jì)算服務(wù)業(yè)態(tài)變革，英特爾、三星等IDM廠商和新銳的算力芯片廠商都在探索存算一體芯片，并衍生出不同的架構(gòu)和技術(shù)路線。

劉洪杰表示，目前全球存算一體仍處于蓬勃發(fā)展階段，沒(méi)有一種技術(shù)架構(gòu)占據(jù)絕對(duì)主導(dǎo)地位。2017年，第一批存內(nèi)計(jì)算公司興起，目前存內(nèi)計(jì)算中有一些技術(shù)已經(jīng)可以落地，需要產(chǎn)業(yè)界加大投入，研發(fā)質(zhì)量過(guò)關(guān)的產(chǎn)品。

“存內(nèi)計(jì)算本身也有一個(gè)類似摩爾定律的發(fā)展過(guò)程，包括代工廠針對(duì)存內(nèi)計(jì)算專用的工藝提升。其次是先進(jìn)的材料，目前能夠量產(chǎn)的存內(nèi)計(jì)算存儲(chǔ)器中，F(xiàn)lash和SRAM新型存儲(chǔ)器更適合做存內(nèi)計(jì)算，需要更多在新型存儲(chǔ)器件上的研究。另外，存內(nèi)計(jì)算從算法到供應(yīng)鏈生態(tài)上也需要產(chǎn)學(xué)研結(jié)合，相互融合促進(jìn)發(fā)展。” 劉洪杰說(shuō)。

作為多年來(lái)DRAM市場(chǎng)份額的冠軍，三星于2021年推出了結(jié)合DRAM的高帶寬內(nèi)存-內(nèi)存內(nèi)處理 (HBM-PIM)，將AI計(jì)算能力引入內(nèi)存。通過(guò)將經(jīng)過(guò)DRAM優(yōu)化的 AI 引擎置于每個(gè)存儲(chǔ)子單元內(nèi)，將處理能力直接引入到數(shù)據(jù)的存儲(chǔ)位置，從而實(shí)現(xiàn)并行處理并盡可能減少數(shù)據(jù)移動(dòng)。相較三星此前的高帶寬內(nèi)存方案，新架構(gòu)能夠提供超過(guò)兩倍的系統(tǒng)性能，并降低 70% 以上的能耗。

英特爾的神經(jīng)擬態(tài)計(jì)算芯片Loihi也采用了存算一體的架構(gòu)，使之更加容易擴(kuò)展。Loihi芯片的裸片包含128個(gè)小核，每個(gè)核里面模擬1024個(gè)神經(jīng)元的計(jì)算結(jié)構(gòu)，每個(gè)神經(jīng)元又有1000個(gè)突觸連接，這意味著768個(gè)芯片連接起來(lái)可以構(gòu)建接近1億神經(jīng)元的系統(tǒng)。

國(guó)內(nèi)聚焦存算一體芯片的企業(yè)則大多采用SRAM（靜態(tài)隨機(jī)存取存儲(chǔ)器）和Flash路線。

九天睿芯基于“模擬特征提取+模數(shù)混合電荷域SRAM”架構(gòu)實(shí)現(xiàn)存內(nèi)計(jì)算，第一顆感存算一體芯片ADA100于2021年回片。后摩智能第一代芯片基于SRAM、第二代芯片基于PRAM。蘋(píng)芯科技的兩款產(chǎn)品也基于28nm SRAM。

知存科技主要采用嵌入式Flash工藝，于2020年發(fā)布第一代存算一體芯片產(chǎn)品WTM1001，2022年實(shí)現(xiàn)存算一體SoC芯片WTM2101量產(chǎn)并落地應(yīng)用。

“近年來(lái)，隨著新興非易失存儲(chǔ)器的發(fā)展，國(guó)內(nèi)開(kāi)始出現(xiàn)做存算一體大算力的公司，同時(shí)不斷有新玩家涌入。但距離大規(guī)模應(yīng)用，還有約10年的時(shí)間，從工藝、材料、算法、工具鏈到生態(tài)，都需要產(chǎn)業(yè)界和學(xué)術(shù)界的不斷投入與共同推進(jìn)?！蓖踅B迪說(shuō)。



寫(xiě)在最后

AI從概念被提出來(lái)開(kāi)始就似乎是一個(gè)“萬(wàn)金油”般的存在，5G需要AI、元宇宙需要AI、自動(dòng)駕駛需要AI，甚至于連EDA都需要AI。如今，AI又已經(jīng)“滲入”存儲(chǔ)芯片領(lǐng)域，各大存儲(chǔ)廠商為此展現(xiàn)出“十八般武藝”，但未來(lái)誰(shuí)能成為拔得頭籌者，我們拭目以待。