每經(jīng)記者 朱成祥 每經(jīng)編輯 董興生

他是深度學(xué)習(xí)三巨頭之一，他被尊為“AI教父”，他是諾貝爾獎(jiǎng)、圖靈獎(jiǎng)得主，他是杰弗里·辛頓。盡管因?yàn)樯眢w原因無(wú)法久坐，但他仍不遠(yuǎn)萬(wàn)里來(lái)訪中國(guó)。

7月26日，2025世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議（WAIC 2025）在上海拉開(kāi)帷幕。辛頓，正是此次WAIC的重量級(jí)嘉賓，這也是他首次踏足中國(guó)。

在大語(yǔ)言模型快速發(fā)展的當(dāng)下，辛頓發(fā)出了他的警告：未來(lái)超級(jí)智能將很容易操縱人類(lèi)，人類(lèi)要避免“養(yǎng)虎為患”。

人類(lèi)將如何與AI相處？

在7月26日的主旨演講中，辛頓首先闡述了大模型的理論起源。辛頓認(rèn)為，在過(guò)去60多年里，AI（人工智能）發(fā)展存在兩種不同的范式和路徑。一種是邏輯性范式，認(rèn)為智能的本質(zhì)在于推理；另一種是以生物為基礎(chǔ)的范式，認(rèn)為智能的基礎(chǔ)是學(xué)習(xí)，理解是前提，之后才能轉(zhuǎn)化。

1985年，辛頓做了一個(gè)小型模型，嘗試結(jié)合這兩種理論，以此理解人們對(duì)詞語(yǔ)的理解方式。辛頓認(rèn)為，當(dāng)下的大語(yǔ)言模型，就是其當(dāng)年小型模型的“后代”。

關(guān)于大模型領(lǐng)域普遍遭受詬病的幻覺(jué)問(wèn)題，辛頓提出了他的看法：“我認(rèn)為，人類(lèi)理解語(yǔ)言的方式與大語(yǔ)言模型幾乎一致，人類(lèi)甚至可能和大語(yǔ)言模型一樣產(chǎn)生幻覺(jué)，因?yàn)槲覀円矔?huì)創(chuàng)造出一些虛構(gòu)的表達(dá)?！?/p>

關(guān)于人腦與大模型，辛頓認(rèn)為，人腦是一個(gè)模擬模型，是低功耗的，但這種模擬模型進(jìn)行知識(shí)轉(zhuǎn)移卻是低效的，一個(gè)人很難將自己腦子里的知識(shí)展示給另一個(gè)人。

大模型是如何完成知識(shí)遷移的？是蒸餾。辛頓表示，DeepSeek（深度求索）的做法是將大神經(jīng)網(wǎng)絡(luò)的知識(shí)轉(zhuǎn)移到小神經(jīng)網(wǎng)絡(luò)中，即“蒸餾”，類(lèi)似教師與學(xué)生的關(guān)系——教師將詞語(yǔ)在上下文中的關(guān)聯(lián)教給學(xué)生，學(xué)生通過(guò)調(diào)整權(quán)重學(xué)會(huì)表達(dá)。

不過(guò)，人類(lèi)之間溝通的效率很低。辛頓稱(chēng)，一句話(huà)通常只有100比特的信息，即使完成理解，每秒最多傳遞100比特。相比之下，數(shù)字智能間的知識(shí)轉(zhuǎn)移效率極高。

一言以蔽之：生物計(jì)算功耗低，但知識(shí)分享難。

生物計(jì)算與數(shù)字智能之間的差距，也令辛頓感到擔(dān)憂(yōu)。他表示，“我們創(chuàng)造的AI智能體已能幫我們完成任務(wù)，它們能拷貝自身、評(píng)估子目標(biāo)，還會(huì)為了生存和完成目標(biāo)而尋求更多控制權(quán)。有人認(rèn)為，可以在AI變得過(guò)強(qiáng)時(shí)關(guān)掉它們，但這并不現(xiàn)實(shí)。它們可能會(huì)像成年人操縱3歲孩子一樣操縱人類(lèi)，勸說(shuō)控制機(jī)器的人不要關(guān)閉它們。這就像把老虎當(dāng)寵物，幼虎很可愛(ài)，但長(zhǎng)大后可能傷人，而養(yǎng)老虎當(dāng)寵物通常不是好主意。”

那么，人類(lèi)又將如何與AI相處？辛頓稱(chēng)，“AI已無(wú)法消除，它能大幅提升幾乎所有行業(yè)的效率，即便有國(guó)家想消除，其他國(guó)家也不會(huì)認(rèn)同。”

因此，辛頓呼吁全球建立由各國(guó)人工智能安全研究所與國(guó)內(nèi)研究網(wǎng)絡(luò)組成的國(guó)際社群，培養(yǎng)不會(huì)從人類(lèi)手中奪權(quán)的“好AI”。

維護(hù)人類(lèi)對(duì)技術(shù)的控制權(quán)

參加此次世界人工智能大會(huì)的，不僅有辛頓這樣的“AI教父”，也有前谷歌CEO埃里克·施密特這樣的企業(yè)界大咖。

在大會(huì)開(kāi)幕式上，前微軟執(zhí)行副總裁沈向洋與施密特展開(kāi)了一場(chǎng)關(guān)于人工智能發(fā)展的多維對(duì)話(huà)。

與辛頓類(lèi)似，施密特也強(qiáng)調(diào)人的尊嚴(yán)何以存續(xù)，迫切需要全球的溝通、合作，共同維護(hù)人類(lèi)對(duì)技術(shù)的控制權(quán)。

施密特表示，“我對(duì)接下來(lái)的兩年充滿(mǎn)期待，隨著智能體革命的到來(lái)，每個(gè)企業(yè)的工作流都將發(fā)生巨大變化。但是，當(dāng)AI開(kāi)始自我學(xué)習(xí)并做出決策時(shí)，我們需要確保這些過(guò)程不會(huì)失控?！?/p>

他補(bǔ)充表示，“這是人類(lèi)共同面臨的問(wèn)題，任何國(guó)家都要坐下來(lái)一起談判、合作。我相信，中美可以通過(guò)對(duì)話(huà)加強(qiáng)互信，共同迎接AI帶來(lái)的機(jī)遇與挑戰(zhàn)，特別是在防止AI負(fù)面影響方面進(jìn)行協(xié)作?！?/p>