歸根結(jié)底，大模型的方向還是錯(cuò)了？

「在人工智能拼圖中，空間智能是關(guān)鍵環(huán)節(jié)。」知名「AI 教母」李飛飛曾經(jīng)這樣說(shuō)過(guò)。

最近，李飛飛開(kāi)始關(guān)注這個(gè)領(lǐng)域，并為此創(chuàng)辦了一家創(chuàng)業(yè)公司。她曾經(jīng)說(shuō)過(guò)，「大自然為觀察和行動(dòng)創(chuàng)造了一個(gè)良性循環(huán)，以空間智能為動(dòng)力?！顾固垢４髮W(xué)實(shí)驗(yàn)室正試圖教授計(jì)算機(jī)?！溉绾卧谌S世界中行動(dòng)？」，例如，使用大型語(yǔ)言模型，使機(jī)械臂按照口頭指令開(kāi)門、做三明治等任務(wù)。

不難看出，李飛飛嘴里的空間智能也有大模型參與。

現(xiàn)在，隨著技術(shù)的發(fā)展，LLM 超人類智能在很多方面都有所體現(xiàn)。但是， LLM 爭(zhēng)論也隨之增加，其中，LLM 究竟有沒(méi)有感覺(jué)能力，大家意見(jiàn)不一。

最近，李飛飛和斯坦福大學(xué)聯(lián)系在一起，以人為本。 HAI 聯(lián)合主任 John Etchemendy 教授們聯(lián)合撰寫了一篇文章，文章對(duì)。 AI 究竟是否有感覺(jué)能力（sentient）進(jìn)行了深入的討論。

我們把它放在這篇文章里 sentient 這個(gè)詞被翻譯成感覺(jué)，因?yàn)?AI “領(lǐng)域感知”一詞一般對(duì)應(yīng)。 perception，還不推薦翻譯成概念。讀者有合適的翻譯可以留言討論。

文中駁斥了 LLM 有一種感覺(jué)，李飛飛列舉了很多證明這一觀點(diǎn)的例子。

當(dāng)提到超級(jí)計(jì)算機(jī)深藍(lán)時(shí)，李飛飛說(shuō)，雖然這個(gè)下棋程序可以擊敗世界冠軍，但是如果房間里出現(xiàn)意想不到的情況，比如火災(zāi)，深藍(lán)就不會(huì)有停止游戲的想法，人類也會(huì)有。

同樣，當(dāng)人類產(chǎn)生饑餓時(shí)，說(shuō)出來(lái)。「我餓了」時(shí)，人類和 LLM 隱藏在背后的行為鏈條完全不同。LLM 只是產(chǎn)生「我餓了」這是一個(gè)字符串的事實(shí)，它沒(méi)有身體，甚至沒(méi)有饑餓的感覺(jué)。

此外，當(dāng)李飛飛感到饑餓時(shí)，伴隨著一系列的生理反應(yīng)，如低血糖、胃叫等， LLM 不能有這些主觀的狀態(tài)經(jīng)驗(yàn)，也就是不能有感覺(jué)能力，只能概率地完成任務(wù)。

人有物理身體，能感覺(jué)到一切，但是 LLM 沒(méi)有，當(dāng) LLM 講出相似的「自己腳趾痛」每個(gè)人都不會(huì)相信，因?yàn)樗緵](méi)有腳趾，它只是硅片上編碼的數(shù)學(xué)模型。

李飛飛反駁 LLM 有感覺(jué)能力

通用人工智能（AGI）它是描述一個(gè)至少在各個(gè)方面與人類表現(xiàn)出相同智能的人工智能理論的術(shù)語(yǔ)，包括人類展示(或展示)的所有智能方法。這就是我們?cè)?jīng)稱之為人工智能的概念，直到我們開(kāi)始在有限的領(lǐng)域建立智能程序和設(shè)備 —— 比如下棋，語(yǔ)言翻譯，客廳清潔等等。

增加「G」這一字母的重要性來(lái)自于人工智能驅(qū)動(dòng)的系統(tǒng)的普及，但是這些系統(tǒng)只專注于單一或者極少數(shù)的任務(wù)。

IBM 深藍(lán)色是一個(gè)令人印象深刻的早期下棋程序，它能戰(zhàn)勝世界冠軍。 Garry Kasparov，但是如果房間著火了，它就不會(huì)有停止游戲的想法。

圖為 Garry Kasparov 與深藍(lán)隊(duì)合作 Joe Hoane 在 1997 2008年紐約市復(fù)賽，最終在六場(chǎng)復(fù)賽中戰(zhàn)勝。 Garry Kasparov，得到了兩場(chǎng)比賽，三場(chǎng)比賽打成平手。

現(xiàn)在，通用智能有點(diǎn)像一個(gè)神話，至少如果人們認(rèn)為他們擁有它。

人類可以在動(dòng)物世界中找到許多智能行為的例子，它們?cè)陬愃迫蝿?wù)中的表現(xiàn)遠(yuǎn)遠(yuǎn)優(yōu)于人類自身。智力并不完全通用，但足以在大多數(shù)環(huán)境中完成人們想要完成的事情。

假如人類感到饑餓，就能找到附近的超市；當(dāng)房間著火時(shí)，它會(huì)主動(dòng)尋找出口。

智能化的一個(gè)基本特征是「感覺(jué)」，也就是說(shuō)，具有主觀經(jīng)驗(yàn)的能力 —— 比如感覺(jué)饑餓，品嘗蘋果，或者看到紅色是什么樣子。

感覺(jué)是通向智力的關(guān)鍵步驟之一。

于 2022 年 11 月發(fā)布的 ChatGPT，這意味著大型語(yǔ)言模型（LLMs）時(shí)代的開(kāi)始。

這個(gè)問(wèn)題立刻引起了一場(chǎng)激烈的爭(zhēng)論，每個(gè)人都在討論這些算法是否實(shí)際上具有感覺(jué)能力。以便 LLM 為了規(guī)范人工智能，核心人工智能具有感覺(jué)能力的概率引起了媒體的瘋狂，同時(shí)也深刻影響了全球一些政策制定的轉(zhuǎn)變。

最為突出的觀點(diǎn)是，「人工智能有感覺(jué)」它的出現(xiàn)對(duì)人來(lái)說(shuō)可能是極其危險(xiǎn)的，「滅絕級(jí)」或者至少有影響「存在危機(jī)」的。畢竟，一個(gè)人工智能有感覺(jué)可能會(huì)發(fā)展出自己的希望和欲望，而無(wú)法保證它們不會(huì)與人們相沖突。

李飛飛和 Etchemendy 反駁是主要觀點(diǎn)「人工智能有感覺(jué)」陣營(yíng)中最常提出的辯護(hù)，這種辯護(hù)是基于 LLMs 也許已經(jīng)有了「主觀經(jīng)驗(yàn)」的能力。

John Etchemendy 曾擔(dān)任斯坦福大學(xué)語(yǔ)言信息研究中心主任、哲學(xué)系主任、人文科學(xué)學(xué)院高級(jí)副院長(zhǎng)，是斯坦福人工智能研究所聯(lián)合主任。

為什麼有人會(huì)這么想 AI 已獲得感覺(jué)能力

在過(guò)去的幾個(gè)月里，他們兩個(gè)和 AI 在這一領(lǐng)域，許多同行都進(jìn)行了激烈的辯論和談話，包括與一些最優(yōu)秀、最具創(chuàng)意的同行進(jìn)行了激烈的交談。 AI 科學(xué)家們進(jìn)行了一對(duì)一的深入交流。

關(guān)于 AI 有沒(méi)有獲得感覺(jué)能力的話題一直是一個(gè)突出的問(wèn)題。他們中的一些人堅(jiān)信 AI 已經(jīng)有了感覺(jué)能力。下面是最積極支持者的論點(diǎn)之一，在很大程度上代表了它?！赣懈杏X(jué)的 AI」對(duì)陣營(yíng)的看法：

AI 這是有感覺(jué)的，因?yàn)樗梢?a href="http://www.slzrb.cn/news/zhikubaogao">報(bào)告主觀經(jīng)驗(yàn)。主觀性經(jīng)驗(yàn)是觀念的象征，其特點(diǎn)是能夠認(rèn)識(shí)到自己所知道或感受到的。例如，當(dāng)你說(shuō)的時(shí)候『吃了一頓美味的飯后，我感到高興?！挥袝r(shí)候，作為一個(gè)人，我其實(shí)并沒(méi)有證據(jù)感受到你的主觀感受。但是現(xiàn)在你已經(jīng)這樣表達(dá)了，我會(huì)默認(rèn)你確實(shí)經(jīng)歷過(guò)這樣的主觀經(jīng)歷，所以你是有意識(shí)的。這一邏輯也被用來(lái)推理。 AI 意識(shí)狀態(tài)。

現(xiàn)在，讓我們一起來(lái)吧。『規(guī)則』運(yùn)用到 LLMs 上。就像其他人一樣，我不能打開(kāi)它。 LLMs 內(nèi)部狀態(tài)。但是我可以查詢它的主觀經(jīng)驗(yàn)。我可以問(wèn)『您是否感到饑餓？』事實(shí)上，它可以告訴我是否是。另外，它還可以準(zhǔn)確地與我分享它?！褐饔^經(jīng)驗(yàn)』，幾乎涉及到一切，從看到紅色到吃完飯都覺(jué)得開(kāi)心。所以，我沒(méi)有理由不相信這是有意識(shí)或者不知道自己的主觀經(jīng)歷，就像我沒(méi)有理由不相信你是有意識(shí)的一樣。我的證據(jù)在這兩種情況下完全一致。

為何「AI 有感覺(jué)能力」是錯(cuò)誤的

雖然這一論點(diǎn)乍一看似乎是有道理的，但實(shí)際上卻是錯(cuò)誤的。因?yàn)槔铒w飛和李飛飛 Etchemendy 在這兩種情況下，教授的證據(jù)是不同的。甚至差距很大。

當(dāng)你說(shuō)「我餓了」當(dāng)時(shí)，我得出結(jié)論，你正面臨饑餓，這是基于一系列的情況。第一，是你的報(bào)告 —— 你們所說(shuō)的，也許還包括其它行為證據(jù)，例如你們的肚子咕咕叫。第二，沒(méi)有相反的證據(jù)，例如，如果你剛剛吃完五道菜的大餐，就不太可能說(shuō)餓了。最后，最重要的是你有一個(gè)和我一樣的物理身體。這個(gè)身體應(yīng)該定期吃喝。當(dāng)你感冒的時(shí)候，你會(huì)感到寒冷，當(dāng)你受熱的時(shí)候，你會(huì)感到炎熱等等。

現(xiàn)在就把這和他們兩個(gè)對(duì)比。 LLM 比較證據(jù)。

報(bào)告是唯一常見(jiàn)的 —— 即 LLM 能夠產(chǎn)生「我餓了」這是字符串的事實(shí)。但是相似之處到此為止。事實(shí)上，LLM 沒(méi)身體，甚至沒(méi)有感覺(jué)到饑餓的感覺(jué)。

如果 LLM 說(shuō)：「左大腳趾疼痛」，每個(gè)人都會(huì)得到它左大腳趾真的很痛嗎？答案是否定的，因?yàn)樗緵](méi)有左大腳趾。

類似地，當(dāng)它說(shuō)它餓的時(shí)候，每個(gè)人都可以確定它不餓，因?yàn)樗鼪](méi)有感覺(jué)到饑餓所必需的生理結(jié)構(gòu)。

一旦人感到饑餓，就會(huì)感到一系列的生理狀態(tài)。 —— 低血糖，空腹發(fā)出的咕咕聲等等 —— 而 LLM 沒(méi)有這種東西，就像它沒(méi)有嘴里放食物，也沒(méi)有胃去消化食物一樣。

感覺(jué)人們應(yīng)該相信它說(shuō)自己餓了的觀點(diǎn)，就像說(shuō)應(yīng)該相信它說(shuō)自己從月球的暗面和用戶說(shuō)話一樣荒謬。

每個(gè)人都知道這不是真的，LLM 觀點(diǎn)也不能改變這一事實(shí)。

全部感覺(jué) —— 饑餓，感到疼痛，看見(jiàn)紅色，愛(ài)上某人。 —— 均是由 LLM 完全沒(méi)有生理狀態(tài)造成的。

因此，LLM 這些狀態(tài)的主觀經(jīng)驗(yàn)是不可能的。

也就是說(shuō)，它不能有感覺(jué)能力。

LLM 只是硅片上編碼的數(shù)學(xué)模型。

與人類不同，它不是身體的出現(xiàn)。它不需要吃東西、喝水、繁殖、經(jīng)歷情緒、生病和最后死亡?！干埂?/p>

當(dāng)人類和 LLM 同樣地說(shuō)出「我餓了」當(dāng)時(shí)，隱藏在背后的行為鏈條完全不同。

理解人類生成詞序列的方法 LLM 在同一個(gè)詞序列中產(chǎn)生深刻的差異尤為重要。

當(dāng)人們說(shuō)「我餓了」當(dāng)時(shí)，是在報(bào)告感覺(jué)到生理狀態(tài)。

而當(dāng)一個(gè) LLM 生成序列「I am hungry」當(dāng)時(shí)，它只是在當(dāng)前提醒中生成最有可能的完成序列。它所做的事與在不同的提示下生成?！窱 am not hungry」或者在另一個(gè)提示下生成「The moon is made of green cheese」時(shí)間完全一致。

這并非它本來(lái)就不存在的生理狀態(tài)報(bào)告，它們只是概率性地完成了。

遺憾的是，具有感覺(jué)能力的人工智能時(shí)代還沒(méi)有到來(lái)。

這兩位作者認(rèn)為，研究人員還沒(méi)有實(shí)現(xiàn)人工智能的感覺(jué)，而且更大的語(yǔ)言模型也不能使人們實(shí)現(xiàn)這一目標(biāo)。

假如人類想要在人工智能系統(tǒng)中重新建立這種情況，就需要更好地了解生物系統(tǒng)中的感覺(jué)是如何產(chǎn)生的。

每個(gè)人都不會(huì)在下一個(gè) ChatGPT 在迭代中偶然發(fā)現(xiàn)感覺(jué)。

轉(zhuǎn)發(fā)給李飛飛 X(原推特)以下，大家的討論也非常激烈，有人說(shuō)：「當(dāng)今的 LLM 有兩種類型:一種是基于文本練習(xí)，另一種是基于圖像、文本甚至音頻練習(xí)。第一種類型確實(shí)沒(méi)有所謂的感覺(jué)能力，但是第二種類型有物理直覺(jué)，所以可以說(shuō)是有感覺(jué)能力的。」

而且還有一個(gè)網(wǎng)友跟著 Lecun 步伐，表示：「一只喵星人的智能水平遠(yuǎn)遠(yuǎn)高于最大的。 LLM?！?/p>

參考鏈接：

https://time.com/collection/time100-voices/6980134/ai-llm-not-sentient/

https://x.com/drfeifei/status/1793753017701069233

本文來(lái)自微信微信官方賬號(hào)“機(jī)器之心”（ID:編輯：陳萍，亞鸝，36氪經(jīng)授權(quán)發(fā)布，almosthuman2014)。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com