高通和聯(lián)發(fā)科在MWC 2024上爭(zhēng)奇斗彩,AI端側(cè)落地已做好準(zhǔn)備
關(guān)鍵詞: 高通 聯(lián)發(fā)科 人工智能
高通(Qualcomm)繼去年推出Snapdragon X Elite PC處理器,以AI實(shí)力直接挑戰(zhàn)蘋果與英特爾同級(jí)產(chǎn)品后,在MWC 2024更一口氣推出75個(gè)可供開發(fā)商快速導(dǎo)入的AI模型庫,涵蓋PC、智能手機(jī)、軟件定義汽車、物聯(lián)網(wǎng)等領(lǐng)域,高通加速實(shí)現(xiàn)AI商業(yè)化,將挹注包括英業(yè)達(dá)、緯創(chuàng)、聯(lián)陽、奇景、瑞昱、友達(dá)、新唐等生態(tài)系臺(tái)廠開發(fā)加速前進(jìn)。
AI時(shí)代來臨,發(fā)展遠(yuǎn)出乎市場(chǎng)預(yù)期,除超大型數(shù)據(jù)中心不斷加速建置外,芯片巨頭已將眼光轉(zhuǎn)向邊緣運(yùn)算商機(jī),過往以手機(jī)芯片為翹楚的高通,看準(zhǔn)全世界終端應(yīng)用產(chǎn)品導(dǎo)入AI需求暴增,直接提供75個(gè)AI模型資料庫,幫助業(yè)者快速將圖像生成、圖像辨識(shí)、文件摘要等AI功能,增添至安卓應(yīng)用程式中,試圖以軟件更緊密包裹生態(tài)系伙伴。
MWC上,高通發(fā)布AI最佳化WiFi7系統(tǒng)-FastConnect 7900及5G數(shù)據(jù)機(jī)射頻系統(tǒng)--Snapdragon X80,兩者皆充分發(fā)揮整合AI優(yōu)勢(shì)。前者于單一芯片上整合Wi-Fi、藍(lán)牙和超寬頻技術(shù),提供高效能、低延遲和低功耗連接;5G射頻保持高通在數(shù)據(jù)機(jī)領(lǐng)域的領(lǐng)先優(yōu)勢(shì),推動(dòng)5G Advanced應(yīng)用于更多領(lǐng)域。
高通強(qiáng)調(diào),云端AI需要快速、可靠的上傳以處理多媒體資料,獨(dú)家高頻段同步Wi-Fi技術(shù),可降低延遲,進(jìn)一步提升使用者體驗(yàn)。國內(nèi)產(chǎn)業(yè)人士則估計(jì),今年Wifi 7滲透率雖然相對(duì)有限,但將與前幾代增長軌跡相符,因此,各界皆爭(zhēng)相搶進(jìn)包括PC、手機(jī)等迭代商機(jī),爭(zhēng)取AI時(shí)代高速連線霸主。
MWC各家業(yè)者精銳盡出,主軸皆環(huán)繞AI進(jìn)行,人工智能焦點(diǎn)逐漸自云端推論、運(yùn)算轉(zhuǎn)變?yōu)槿藱C(jī)互動(dòng)應(yīng)用,其中邊緣設(shè)備為關(guān)鍵要角;高通從硬體設(shè)備出發(fā),往軟件生態(tài)系構(gòu)建,以突破性創(chuàng)新徹底革新AI與連接領(lǐng)域的未來。
另,AI PIN也使用Snapdragon 平臺(tái)運(yùn)行,將AI以對(duì)話式、無螢?zāi)坏娜滦蛻B(tài),雖然臺(tái)廠供應(yīng)鏈指出,并未能完全取代手機(jī)功能,不過也增添AI使用場(chǎng)景的更多想像。
聯(lián)發(fā)科也不甘示弱
天璣9300作為首款在移動(dòng)平臺(tái)上采用全大核設(shè)計(jì)的芯片方案,自發(fā)布以來就出現(xiàn)在不同品牌的高端旗艦機(jī)型上,天璣9300芯片成為了聯(lián)發(fā)科登頂之作。此次MWC上,聯(lián)發(fā)科為我們展示了天璣9300更為強(qiáng)大的落地應(yīng)用場(chǎng)景。
不可否認(rèn)的是,除CPU和GPU的性能足夠強(qiáng)悍外, 天璣9300在AI方面也是下足了功夫。其中,最引人注目的是天璣9300和8300芯片已經(jīng)優(yōu)化支持谷歌的Gemini Nano1,這是谷歌為智能手機(jī)設(shè)計(jì)的大型語言模型(LLM),可以在設(shè)備上實(shí)現(xiàn)生成型AI的功能。生成型AI可以讓用戶通過語音或文本輸入,生成各種有用或有趣的內(nèi)容,比如摘要、詩歌、歌詞、笑話等。這些功能不需要云端計(jì)算,而是直接在手機(jī)上運(yùn)行,從而提高了性能、隱私、安全和可靠性,降低了延遲和運(yùn)營成本。
MWC聯(lián)發(fā)科展臺(tái)上展示了端側(cè)生成式 AI 技能擴(kuò)充技術(shù),它可以基于基礎(chǔ)大模型持續(xù)在端側(cè)進(jìn)行LoRA(LoRA,Low-Rank Adaptation)Fusion,進(jìn)而賦予基礎(chǔ)大模型更加全面的能力。如在日常生活中通過此項(xiàng)技術(shù)智能設(shè)備能夠?qū)崟r(shí)將攝像頭錄制的人像,用戶使用智能設(shè)備錄制的人物影像能夠被實(shí)時(shí)處理,生成不同動(dòng)畫風(fēng)格的視頻,或者生成一個(gè)AI 虛擬形象。
端側(cè)AI變革將至
端側(cè)AI是AI發(fā)展的下一階段,其具備獨(dú)立性、低時(shí)延等性能,能夠完成各種AI推理任務(wù),大模型小型化、端側(cè)AI框架開源等為終端硬件承載AI算法提供了可能。此外,端側(cè)AI芯片性能提升,存儲(chǔ)、模組等升級(jí)打通了終端硬件運(yùn)行AI算法的道路。
AI PC、AI Phone作為端側(cè)AI的核心持續(xù)向前發(fā)展,英特爾、高通、聯(lián)想等國內(nèi)外廠商發(fā)布相關(guān)產(chǎn)品、戰(zhàn)略規(guī)劃,打造智能終端的同時(shí)也完善相關(guān)產(chǎn)業(yè)生態(tài),我們看好端側(cè)AI產(chǎn)業(yè)進(jìn)展。
端側(cè)AI具備安全性、獨(dú)立性、低時(shí)延、高可靠性等特點(diǎn),能很好地完成各種AI推理任務(wù)。多個(gè)大模型均已推出“小型化”和“場(chǎng)景化”版本,其輕量化提供了端側(cè)運(yùn)行基礎(chǔ)。對(duì)于數(shù)據(jù)精度例如INT4、INT8的支持優(yōu)化、ExecuTorch等AI框架的開源,為端側(cè)AI進(jìn)展鋪平道路。
AI Phone和AI PC將開啟新時(shí)代。高通展示了其手機(jī)端離線運(yùn)行大模型,微軟開發(fā)者大會(huì)高通展示其PC運(yùn)行AI大模型,英特爾、聯(lián)想等發(fā)布AI PC加速計(jì)劃、發(fā)布首款A(yù)I PC等,國內(nèi)外廠商持續(xù)發(fā)力AI Phone和AI PC,端側(cè)AI將走入新的時(shí)代。
AI PC不同于傳統(tǒng)PC的主要之處在于其SoC芯片中要有AI模塊,通過AI芯片中的NPU等模塊為硬件終端提供算力支撐,從而運(yùn)行端側(cè)AI大模型。生態(tài)上,Windows也開始全力支持ARM體系,自去年開始了多輪支持Arm架構(gòu)芯片的操作系統(tǒng)更新,高通大概率會(huì)在PC市場(chǎng)上拿到部分份額。DRAM、計(jì)算模組等有望迎來新的升級(jí)與市場(chǎng)機(jī)遇。
通過將大模型賦能終端硬件,AI應(yīng)用浪潮將有望開啟。我們看好端側(cè)AI產(chǎn)業(yè)進(jìn)展,尤其是AI Phone和AI PC領(lǐng)域,其已有相關(guān)產(chǎn)品落地,將傳統(tǒng)PC、Phone結(jié)合上AI能力有望帶動(dòng)整個(gè)PC、Phone產(chǎn)業(yè)鏈復(fù)蘇。
