AI教父杰弗里·辛頓:避免“養(yǎng)虎為患”，要訓(xùn)練“善良”的AI)

7月26日，2025世界人工智能大會(huì)開幕，來自全球人工智能(AI)領(lǐng)域的創(chuàng)新力量齊聚上海，其中備受關(guān)注的便是圖靈獎(jiǎng)得主、2024年諾貝爾物理學(xué)獎(jiǎng)得主杰弗里·辛頓。

今年78歲高齡的杰弗里·辛頓曾被麻省理工學(xué)院評(píng)為“深度學(xué)習(xí)之父”，在AI領(lǐng)域也被冠以“教父”之譽(yù)。

7月26日下午，當(dāng)杰弗里·辛頓步入會(huì)場(chǎng)，觀眾近乎全體起立，鼓掌致意。對(duì)這些身處AGI時(shí)代的年輕人，杰弗里·辛頓建議他們專注真正原創(chuàng)的研究，甚至可以去尋找那些“所有人都可能做錯(cuò)”的領(lǐng)域去探索新思路。

26日上午，杰弗里·辛頓在《數(shù)字智能是否會(huì)取代生物智能？》的主題演講中強(qiáng)調(diào)，AI大語言模型是“永生”的，即便程序依賴的特定硬件被毀掉了，程序中的知識(shí)仍可以保留，而人類若想讓自己所學(xué)的知識(shí)實(shí)現(xiàn)“永生性”則是相當(dāng)困難的。

杰弗里·辛頓指出，AI大模型一旦具備了比人類更強(qiáng)的智能，“關(guān)掉”大模型或這種智能往往會(huì)變得不現(xiàn)實(shí)，他呼吁建立一個(gè)全球性的組織，聯(lián)合研究如何訓(xùn)練出一個(gè)既聰明又不會(huì)想著統(tǒng)治世界乃至消滅人類的AI。

為了闡釋AI向善的重要性，杰弗里·辛頓將當(dāng)下AI時(shí)代的人類處境類比為“養(yǎng)一只老虎當(dāng)寵物”，在他看來，“人類要么把老虎訓(xùn)練得永遠(yuǎn)不攻擊你，要么你把它干掉”。其實(shí)，在AI發(fā)展的現(xiàn)實(shí)中，這早已不是一個(gè)選擇題，杰弗里·辛頓認(rèn)為，這將是人類長(zhǎng)期面臨的重要問題，即AI向善正成為全球共識(shí)，且各國(guó)為了解決問題可以展開合作。

如何訓(xùn)練“善良”的超級(jí)智能，也成為杰弗里·辛頓與上海AI實(shí)驗(yàn)室主任、首席科學(xué)家周伯文交流的一個(gè)重點(diǎn)論題。

面對(duì)周伯文提出的“多模態(tài)模型發(fā)展出主觀體驗(yàn)”的問題，杰弗里·辛頓認(rèn)為，當(dāng)今的多模態(tài)聊天機(jī)器人已經(jīng)具有意識(shí)，不少AI大語言模型甚至學(xué)會(huì)了預(yù)測(cè)人們會(huì)說的下一個(gè)詞。

由此衍生的問題是，人類開發(fā)訓(xùn)練AI，是想讓它變得聰明還是讓它變得善良？杰弗里·辛頓認(rèn)為，這背后可以是同一個(gè)AI，但需要不同的技術(shù)支撐。即使各國(guó)不太愿意分享各自將AI變聰明的技術(shù)，卻可以分享讓AI變善良的技術(shù)。