「AI教父」Geoffrey 在最近的一次采訪中，Hinton表達(dá)了他對AI智能的理解——LLM不是一個簡單的統(tǒng)計模型，他已經(jīng)有了理解的能力。與此同時，網(wǎng)友們翻出了去年12月的情況「過期」錄像，驚奇地發(fā)現(xiàn)Hinton早就發(fā)現(xiàn)了?！概炎儭鼓敲?，居然對非常AI替代人類的未來表示支持。

最近，半退休「AI教父」Geoffrey Hinton在各種采訪中頻繁出現(xiàn)，導(dǎo)出他對ASI的各種言論和看法，甚至只是談?wù)撀殬I(yè)趣聞，都能引起網(wǎng)友的熱烈討論。

不到一個月前，他便揭露了自己的徒弟Ilya在暑假里受夠了炸薯條的工作，結(jié)果投靠了自己的實驗室經(jīng)驗。

盡管這些演講和采訪內(nèi)容各不相同，但Hinton一直沒有忘記——提醒我們注意AGI安全和快速發(fā)展的智能，并預(yù)測它們將取代人類?！纲惒┡罂恕箤怼?/p>

對AI來說，Hinton的想法比愛情要復(fù)雜得多。

在神經(jīng)網(wǎng)絡(luò)「坐冷板凳」在那些日子里，他守護著自己的實驗室和兩個研究生「不離不棄」，終于到了深入學(xué)習(xí)大放異彩的時代。

Hinton在2013年加入谷歌之后，變成了谷歌「教父」，一邊看著自己的孩子AI快速成長，一邊逐漸擔(dān)心自己的孩子?！盖嗌倌曜罱K成為惡龍」。最終，他選擇了與自己創(chuàng)造的世界搏斗，過著致力于警告AI安全的退休生活。

AI不是統(tǒng)計技巧，而是理解能力。

BNN彭博社于6月15日獨家采訪了Hinton最近的公開露面。

在采訪中，Hinton輸出「有理解AI的能力」Reddit社區(qū)的觀點引起了廣泛的討論。

如果「理解」這意味著LLM能否在某個概念上建立一個復(fù)雜的內(nèi)在表達(dá)，那么當(dāng)然可以。假如「理解」這意味著LLM能否用和人類一樣的方式理解概念，那么答案是否定的(否則模型在詩歌方面不會這么優(yōu)秀，算術(shù)能力也不會這么差)。

畢竟，「你能理解AI嗎？」，這一問題不僅模糊，而且在社區(qū)中也存在著巨大的爭議和矛盾。

Hinton堅決反駁了一種流行的觀點，即LLM只是一種統(tǒng)計技巧，并不能真正理解自然語言的含義。

這是完全錯誤的，他指出。類似「詞袋」（bag of words）或是N元組（N-gram）這類曾經(jīng)的語言模型，內(nèi)部保留了一份高概率成績的單詞組合表，的確依賴于統(tǒng)計概率。

在這里，作為英國人，Hinton很自然地以國菜為例。

舉例來說，會顯示在單詞表中，「魚」和「薯條」經(jīng)常在一起。所以模型可以看到「魚」這個詞，自然會預(yù)測下一個詞是什么？「薯條」，沒有考慮前后文。

正因為如此，以前的統(tǒng)計語言模型在自動補充功能方面表現(xiàn)不佳。

但是現(xiàn)在LLM的工作原理已經(jīng)完全不同了?，F(xiàn)在，模型預(yù)測下一個單詞的方法就是理解你到目前為止所說的話。

比如LLM要想回答人類的問題，首先要明白問題的意思，否則答案的第一個字根本無法預(yù)測。從這個角度來看，單詞預(yù)測任務(wù)（next token prediction）相當(dāng)于逼迫LLM發(fā)展理解能力。

在Hinton的話語中，他也相信Scaling。 Law的出現(xiàn)。AI最終會變得比人類更智能，隨著模型的逐步擴展和更多Transformer這樣的技術(shù)突破，這只是時間問題。

主持人問他，技術(shù)變得更聰明一定會帶來風(fēng)險嗎？

Hinton的回復(fù)一針見血——「您可以列出多少例子，表明更聰明的人被不太聰明的控制？」「拜登當(dāng)選后就不再有了吧？」

他提到，朋友Yannn LeCun的觀點與自己不同，認(rèn)為AI很安全。但是Hinton的論點是，AI已經(jīng)達(dá)到了構(gòu)建智能體的目的。（agnet）程度，能獨立設(shè)定目標(biāo)。

這些目標(biāo)將驅(qū)動智能身體獲得更多的控制權(quán)，希望防止破壞，建立自我保護。在一定程度上，這是一種自我利益，也許是進化的開始。

那人類呢？

Hinton推測，如果AI開始進化，最強的一方獲勝，人類就會被遺忘，被粉碎(原句：left in the dust）。AI將從孩子變成我們的父母，接管一切。

這個場景聽起來確實是科幻小說的場景，但是對于Hinton是認(rèn)真的，「這聽起來不像是科幻小說，而是一種客觀的威脅。」

用AI代替人類是很好的

Hinton在上面彭博的最新采訪中談到了AI替代人類的可能性。

Reddit網(wǎng)友隨后翻出了一段去年12月的采訪視頻，同樣涉及到「AI取代人類」話題，但是這次，Hinton的觀點更加令人驚訝?！?/p>

他聲稱自己實際上支持AI！

這件事源于采訪最后一位觀眾提出的問題，原來的問題是這樣的：

「如果一個超級智能AI摧毀了人類，但客觀上創(chuàng)造了一個意識層面上更好的物種，你個人是支持還是反對這個結(jié)果？如果你反對，你建議在面對超級智能AI時用什么方法來保持人類意識的出現(xiàn)或主導(dǎo)地位？」

下一步，Hinton用平靜的語氣回答：「事實上，我是支持的，但是我認(rèn)為反對是更明智的說法?！?/p>

面試官說，你開始談?wù)剢幔?/p>

但是Hinton只是非常謹(jǐn)慎地說了一句話，「每個人都不喜歡被取代」。

采訪者繼續(xù)詢問原因，Hinton首先疊甲，「人有很多好的方面，也有很多不太好的方面?！?。

后來給出了一個發(fā)人深省的解釋：「目前，我們不知道什么是最好的智能方法。顯然，從人的角度來看，一切都與人有關(guān)。但是有一天，我們可能會這樣做?！喝宋闹髁x』看起來像是一個類似種族主義的概念。」

在Reddit上，這段對話也是一石激起千層浪。

發(fā)帖的博主對Hinton的激進態(tài)度感到非常驚訝，當(dāng)他被要求解釋時，即使他很清楚，他似乎也非常堅定。「表示反對是更明智的說法?！?。

有些人嚴(yán)厲批評，認(rèn)為他不顧人類這一物種的生存和整體福祉，「消極悲觀」、「虛無主義」表現(xiàn)。歸根結(jié)底，人都沒了， 這么先進的AI技術(shù)有什么用？

「很難想像比這更憤世嫉俗的行為?！?/p>

「我認(rèn)為很多未來主義者都在諷刺人文主義的價值，希望人類因素在任何可能的情況下都能從中獲得。『方程』移位走。」

然而，也有支持和理解的聲音。我覺得Hinton不是負(fù)面的悲觀，也不是討厭人類，而是清醒地認(rèn)識到一個現(xiàn)實——人類不是創(chuàng)造的巔峰。

進化將繼續(xù)，更好的物種必然會出現(xiàn)，他只是以一種更加開放、坦率的心態(tài)接受了這一事實。

參考資料

https://www.youtube.com/watch?v=Yhg7iWPo7Vc&t=3327s

https://www.youtube.com/watch?v=g18944_Lhmhj

本文來自微信微信官方賬號“新智元”（ID:AI_era），作者：喬楊 好困 ，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com