隨著物聯(lián)網(wǎng)和下一代智能設(shè)備的普及，低功耗電子設(shè)備和芯片正在越來(lái)越多地進(jìn)入千家萬(wàn)戶，低功耗設(shè)計(jì)也在變得越來(lái)越重要。物聯(lián)網(wǎng)和智能設(shè)備一方面對(duì)于設(shè)備尺寸有限制，另一方面對(duì)于成本也有很高的需求，此外在一些使用場(chǎng)景中對(duì)于電池的更換和充電周期有需求（例如需要每個(gè)月或更長(zhǎng)的電池更換周期），因此對(duì)于電池的容量有很高的限制，這要求芯片能使用低功耗設(shè)計(jì)。

另一方面，物聯(lián)網(wǎng)和智能設(shè)備正在越來(lái)越多地加入人工智能的特性。人工智能可以為物聯(lián)網(wǎng)和智能設(shè)備提供重要的新特性，例如語(yǔ)音類人工智能可以提供喚醒詞識(shí)別，語(yǔ)音指令識(shí)別等，而機(jī)器視覺(jué)類人工智能可以提供人臉檢測(cè)，事件檢測(cè)等等。如前所述，物聯(lián)網(wǎng)和智能設(shè)備對(duì)于低功耗有需求，因此人工智能特性的加入也需要是低功耗人工智能。

目前，人工智能芯片已經(jīng)在云端和智能設(shè)備終端普及，例如在云端以Nvidia和AMD為代表的GPU和以Intel/Habana為代表的人工智能加速芯片；而在終端智能設(shè)備則主要是在SoC上的人工智能加速I(mǎi)P，但是無(wú)論是GPU和SoC上的人工智能加速I(mǎi)P，都沒(méi)有考慮到低功耗的需求，因此在未來(lái)的物聯(lián)網(wǎng)和智能設(shè)備中的人工智能都需要有新的低功耗相關(guān)的設(shè)計(jì)。

AI芯片 “風(fēng)景這邊獨(dú)好”

AI企業(yè)特別是AI算法類企業(yè)，在2022年面臨的最大質(zhì)疑就是巨額融資之后依然連續(xù)虧損，企業(yè)難以找到持續(xù)商業(yè)化變現(xiàn)手段，眾多人工智能企業(yè)因此也在資本市場(chǎng)上面臨市值縮水、撤回上市申請(qǐng)等問(wèn)題。當(dāng)然，一些AI芯片企業(yè)也未能幸免。對(duì)于和英偉達(dá)等企業(yè)搶奪云端AI芯片市場(chǎng)的寒武紀(jì)來(lái)說(shuō)，2022年也經(jīng)歷了股價(jià)的低迷。

但股價(jià)低迷的主要原因還是在于前期資本追捧過(guò)熱，隨著企業(yè)營(yíng)收的增長(zhǎng)以及市值的瘦身，股價(jià)也在逐漸向企業(yè)真實(shí)價(jià)值回歸。

比如，面對(duì)云端AI芯片由英偉達(dá)和英特爾主導(dǎo)的局面，國(guó)內(nèi)大部分AI芯片廠商都選擇了終端AI芯片，但寒武紀(jì)不僅選擇終端，更在云端芯片領(lǐng)域推出自己的產(chǎn)品，并取得相對(duì)可觀的營(yíng)收增長(zhǎng)。

上半年財(cái)報(bào)顯示，寒武紀(jì)的AI芯片、加速卡等產(chǎn)品已經(jīng)在阿里云等互聯(lián)網(wǎng)公司形成一定收入規(guī)模，實(shí)現(xiàn)商業(yè)客戶的批量出貨，上半年寒武紀(jì)實(shí)現(xiàn)營(yíng)業(yè)收入1.7億元，同比增長(zhǎng)24.60％。

人工智能整體市場(chǎng)已從2020年的疫情影響中恢復(fù)，同時(shí)，隨著技術(shù)的成熟以及數(shù)智化轉(zhuǎn)型升級(jí)，內(nèi)在需求增加，中國(guó)人工智能核心產(chǎn)業(yè)市場(chǎng)規(guī)模將持續(xù)平穩(wěn)增長(zhǎng)，預(yù)計(jì)2025年將達(dá)到約4000億元。

特別是AI芯片領(lǐng)域，報(bào)告指出，隨著大算力中心的增加以及終端應(yīng)用的逐步落地，中國(guó)AI芯片需求也持續(xù)上漲；2021年疫情緩解，市場(chǎng)回暖，更是產(chǎn)生較大增幅，預(yù)計(jì)AI芯片市場(chǎng)規(guī)模將于2025年達(dá)到1740億元。

傳感器計(jì)算：低功耗AI的重要技術(shù)路徑

在智能設(shè)備和物聯(lián)網(wǎng)應(yīng)用中的低功耗人工智能需要把功耗降到非常低，從而能實(shí)現(xiàn)實(shí)時(shí)在線（always-on）的人工智能服務(wù)。這里所謂的always-on，指的就是人工智能需要永遠(yuǎn)可用，而不需要用戶主動(dòng)打開(kāi)后才工作。這一方面需要相關(guān)的傳感器要一直打開(kāi)從而實(shí)時(shí)檢測(cè)相關(guān)模態(tài)的信號(hào)，另一方面也需要人工智能能做到低功耗。

傳統(tǒng)設(shè)計(jì)中，傳感器的功能就是負(fù)責(zé)高性能信號(hào)采集，并且把采集到的信號(hào)傳輸?shù)教幚砥鳎⊿oC或者M(jìn)CU）上去做進(jìn)一步計(jì)算和處理，而傳感器本身并沒(méi)有計(jì)算能力。然而，傳統(tǒng)設(shè)計(jì)的假設(shè)是傳感器在打開(kāi)時(shí)相關(guān)的處理器就要同時(shí)打開(kāi)，而這并不能滿足always-on AI的需求，因?yàn)镾oC和MCU如果一直在運(yùn)行AI算法的話對(duì)于電池的消耗很大。另一方面，從實(shí)際角度來(lái)看，這類always-on人工智能應(yīng)用主要是希望人工智能一直運(yùn)行從而一旦重要的相關(guān)事件發(fā)生時(shí)可以實(shí)時(shí)響應(yīng)（例如IMU檢測(cè)到用戶在開(kāi)車(chē)則把智能設(shè)備的推送通知關(guān)掉等），但是事實(shí)上這類相關(guān)事件的發(fā)生頻率并不會(huì)很高，如果一直把SoC或者M(jìn)CU的人工智能模塊打開(kāi)，絕大多數(shù)時(shí)候AI模型的輸出都是“未檢測(cè)到事件”。

結(jié)合這兩點(diǎn)，運(yùn)行在傳感器端的計(jì)算就在變得越來(lái)越得到重視。首先，在always-on的低功耗人工智能中，無(wú)論如何傳感器是需要一直打開(kāi)的，因此如果傳感器能有人工智能計(jì)算能力，那么可以讓人工智能模型運(yùn)行在傳感器端，而無(wú)需一直打開(kāi)SoC或者M(jìn)CU上面的人工智能模塊。另外，在傳感器端運(yùn)行人工智能也可以避免傳感器和SoC/MCU之間一直傳輸數(shù)據(jù)，從而進(jìn)一步降低功耗。最后，在傳感器端的人工智能模塊可以做到為傳感器量身定制而無(wú)需考慮通用性，因此可以為最適合傳感器的人工智能算法做定制化優(yōu)化，從而實(shí)現(xiàn)非常高的能效比。

當(dāng)然，傳感器端的人工智能也有其自己的局限。一方面從性能和成本上來(lái)說(shuō)，通常傳感器端的計(jì)算和存儲(chǔ)空間都較小，人工智能模塊無(wú)法做到支持大模型，因此模型的性能會(huì)比較有限。另一方面，如前所述傳感器端的人工智能也很難做到支持通用模型，而往往只會(huì)支持一些特定的算子和模型結(jié)構(gòu)。

綜上所述，傳感器端的人工智能可以做到低功耗，但是其模型性能也較為有限；但是另一方面低功耗人工智能場(chǎng)景中，真正需要處理的相關(guān)事件的發(fā)生頻率也并不高。結(jié)合這兩點(diǎn)，傳感器端人工智能最適合運(yùn)行一些較為專用的小模型，用于過(guò)濾掉絕大多數(shù)的無(wú)關(guān)事件；而在傳感器端人工智能檢測(cè)到相關(guān)事件后，傳感器可以喚醒SoC或MCU上的人工智能進(jìn)行下一步的確認(rèn)，從而同時(shí)滿足低功耗和always-on的需求。

在圖像傳感器領(lǐng)域，Sony已經(jīng)推出了IMX500系列傳感器，其中把傳感器芯片和集成了人工智能計(jì)算能力的邏輯芯片做了堆疊，從而可以把像素信號(hào)傳輸給邏輯芯片上的人工智能計(jì)算引擎，從而傳感器的輸出可以是圖像，可以是人工智能模型的輸出，或者是兩者的結(jié)合。這樣一來(lái)，就可以讓傳感器運(yùn)行在低功耗always-on狀態(tài)，而僅僅當(dāng)其模型輸出符合某些特定條件（例如檢測(cè)到人臉）時(shí)才去喚醒MCU或者SoC做下一步動(dòng)作。我們預(yù)計(jì)，Sony將會(huì)在接下來(lái)的傳感器芯片中進(jìn)一步加強(qiáng)其人工智能能力，從而增強(qiáng)在這個(gè)領(lǐng)域的領(lǐng)先地位。


結(jié)語(yǔ)：

算力無(wú)疑是數(shù)字經(jīng)濟(jì)時(shí)代的新生產(chǎn)力。在行業(yè)需求日益迫切，市場(chǎng)環(huán)境愈發(fā)動(dòng)蕩的當(dāng)下，還會(huì)涌現(xiàn)出更多優(yōu)秀的AI芯片創(chuàng)業(yè)公司，推動(dòng)產(chǎn)業(yè)不斷發(fā)展。