“沒有一個(gè)國家希望AI統(tǒng)治世界，如果有一個(gè)國家找到辦法預(yù)防和防止AI操控世界，這個(gè)國家肯定很樂意告訴其他國家。所以希望能夠有一個(gè)AI安全機(jī)構(gòu)構(gòu)成的國際社群研究技能、培訓(xùn)AI，讓他們向善?！?/p>

2025世界人工智能大會暨人工智能全球治理高級別會議于7月26日上午在上海世博中心開幕。2024年諾貝爾物理學(xué)獎(jiǎng)得主、2018年圖靈獎(jiǎng)得主、加拿大多倫多大學(xué)計(jì)算機(jī)科學(xué)名譽(yù)教授杰弗里·辛頓（Geoffrey Hinton）作為大會主論壇的首位重量級演講嘉賓，發(fā)表了關(guān)于“是否數(shù)字智能會取代生物智能”的主旨演講，對通用人工智能（AGI）的前沿趨勢展開探討與研判。

杰弗里·辛頓（Geoffrey Hinton）

“大語言模型比人類更厲害”

被稱為“AI教父”的辛頓，自1985年起就投身于語言模型的研究。大會主持人稱他為深度學(xué)習(xí)泰斗、神經(jīng)網(wǎng)絡(luò)之父、人類大腦的探究者。

辛頓表示，60多年來，AI存在兩種不同的范式和路徑。一種是邏輯型，過去一個(gè)世紀(jì)都秉持邏輯式范式，認(rèn)為人工智能的本質(zhì)在于推理，人們通過符號規(guī)則和對符號的表達(dá)操作來實(shí)現(xiàn)推理；另一種是以生物為基礎(chǔ)理解AI，這是圖靈和馮·諾依曼所堅(jiān)信的，即理解是首位的，而后才能學(xué)習(xí)AI。

“1985年，我做了個(gè)小模型，試圖將這兩個(gè)理論結(jié)合，以更好地理解人們?nèi)绾卫斫庖粋€(gè)詞。我為每個(gè)詞設(shè)置多個(gè)不同特征，記錄前一個(gè)數(shù)字的特征，進(jìn)而預(yù)測下一個(gè)數(shù)字、下一個(gè)詞，再預(yù)測下下一個(gè)詞?！毙令D說，如今的大語言模型和人類理解語言的方式相同，都是把語言轉(zhuǎn)化為特征，再完美整合這些特征，這也是AI各層次的工作。

辛頓以樂高積木為例，“用樂高積木能搭建任何3D模型，比如造一輛小車模型。若把一個(gè)詞看作多維度的樂高積木，可能有幾千個(gè)不同維度，這種樂高積木可用于多種建模，包括語言建模，每個(gè)積木代表一個(gè)詞。樂高模型相對確定，正方形插在正方形小孔里?！?/p>

“但語言不同，每個(gè)詞都有很多‘手’。若想更好理解一個(gè)詞，就要讓它和另一個(gè)詞合適地‘握手’。一旦詞的造型改變，和另一個(gè)詞的‘握手’方式就不同，這里存在優(yōu)化問題。詞變形后意思改變，它如何與下一個(gè)詞‘握手’、理解變化的意思，這是人腦或神經(jīng)網(wǎng)絡(luò)理解意思的根本?！毙令D認(rèn)為，人類理解語言的方式和大語言模型相似，人類也可能像大語言模型一樣產(chǎn)生幻覺，因?yàn)槿祟愐矔?chuàng)造出有幻覺的語言。

不過，辛頓也指出，大語言模型比人類更厲害，這正是計(jì)算機(jī)科學(xué)的意義所在。在軟件里，知識永恒存在，即便毀滅所有硬件，只要軟件在，知識隨時(shí)可復(fù)活，從這個(gè)意義上說，計(jì)算機(jī)程式不會死亡。“人的腦子和硬件不同，我們無法永生，而知識軟件和硬件可以。”

“必須找一個(gè)辦法訓(xùn)練AI，讓他們不要消滅人類”

談到人工智能的安全性，辛頓說，現(xiàn)在的情況就像有人把老虎當(dāng)寵物，小虎仔可愛，但要確保它長大后不傷人，一般來說，養(yǎng)老虎當(dāng)寵物不是好主意。對待AI，有兩個(gè)選擇：要么訓(xùn)練好它，讓它不傷害人類；要么放了它。但我們無法消除AI，因?yàn)锳I在很多方面表現(xiàn)出色，如醫(yī)療、教育、氣候變化、新材料等領(lǐng)域，能讓各行業(yè)更高效。

“我們沒辦法消除AI，即便一個(gè)國家消除，其他國家也不會這么做，所以若想人類生存，必須找到訓(xùn)練AI的辦法，讓它們不消滅人類?！毙令D強(qiáng)調(diào)，“沒有國家希望AI統(tǒng)治世界，每個(gè)國家都希望人類掌控世界。若有國家找到預(yù)防AI操控世界的辦法，肯定會告知其他國家。所以希望有一個(gè)由AI安全機(jī)構(gòu)組成的國際社群，研究技能、培訓(xùn)AI，讓它們向善。訓(xùn)練AI向善的技巧和訓(xùn)練AI變聰明的技術(shù)不同，每個(gè)國家可自行研究?！?/p>

演講最后，辛頓提議：全球主要國家或AI主要國家應(yīng)考慮建立一個(gè)網(wǎng)絡(luò)，涵蓋各國相關(guān)機(jī)構(gòu)，研究如何訓(xùn)練已很聰明的AI，讓其不想消滅人類、統(tǒng)治世界，而是樂于做輔助工作。

“盡管AI比人類聰明得多，但我們還不知如何做到。從長遠(yuǎn)看，這可能是人類面臨的最重要問題，好在各國能在這個(gè)問題上合作。”辛頓說。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com