好家伙，奧特曼對(duì)GPT的討論，都已經(jīng)跨越好幾代來(lái)到GPT - 8了！

最近，他在一檔節(jié)目上和量子計(jì)算奠基人戴維?多伊奇（David Deutsch）展開(kāi)對(duì)話。針對(duì)兩人存在分歧的“AI能否發(fā)展為具備意識(shí)的超級(jí)智能”這一議題，奧特曼搬出GPT - 8試圖說(shuō)服多伊奇：

GPT - 8搞懂了量子引力，還能跟你講述它是如何做到的，比如它當(dāng)時(shí)在思考哪些問(wèn)題、為什么決定研究這個(gè)領(lǐng)域。但它呈現(xiàn)出的內(nèi)容，看起來(lái)依然只是語(yǔ)言模型的輸出，可它確實(shí)真的解決了量子引力的問(wèn)題。那到時(shí)候你會(huì)認(rèn)可它嗎？

這段對(duì)話吸引了不少網(wǎng)友討論。有網(wǎng)友認(rèn)為，兩人的對(duì)話表明AGI（通用人工智能）定義標(biāo)準(zhǔn)模糊、目標(biāo)不斷變化，根本無(wú)法衡量：

有人可能會(huì)爭(zhēng)辯說(shuō)，我們很快就會(huì)超越它，并將目光投向ASI（超級(jí)人工智能）。

那么，兩人究竟是怎么說(shuō)的呢？

完整對(duì)話整理

節(jié)目中，主持人先問(wèn)奧特曼：“你最愛(ài)的書(shū)真的是戴維?多伊奇寫(xiě)的《無(wú)窮的開(kāi)始》嗎？”奧特曼給予肯定回答，并解釋了喜歡這本書(shū)的原因：

即便你沒(méi)有讀完整本書(shū)，前四五十頁(yè)就已經(jīng)十分精彩。我覺(jué)得它極為樂(lè)觀地闡釋了，即便在有AI的世界里，人類永遠(yuǎn)都不會(huì)缺少可做之事、發(fā)揮價(jià)值的途徑、可解決的問(wèn)題以及可探索的未知。

而且，它還精彩地說(shuō)明了，人類歷史中相對(duì)簡(jiǎn)單的發(fā)展進(jìn)程，是如何將我們帶到如今這個(gè)令人驚嘆的境地。

奧特曼分享完對(duì)這本書(shū)的看法后，戴維?多伊奇以線上形式接入節(jié)目。

主持人話鋒一轉(zhuǎn)：“我記得你和他（戴維?多伊奇）在一個(gè)問(wèn)題上有分歧——人工智能是否有可能發(fā)展成具備意識(shí)的超級(jí)智能？他（戴維?多伊奇）似乎覺(jué)得這不可能，而你（奧特曼）認(rèn)為有可能?；蛟S可以詳細(xì)說(shuō)說(shuō)你們之間的共識(shí)與分歧?！?/p>

奧特曼迅速表示“不在意那個(gè)問(wèn)題，并沒(méi)有什么分歧”。

這時(shí)，戴維?多伊奇開(kāi)始解釋他認(rèn)為AI不會(huì)發(fā)展成為具備意識(shí)的超級(jí)智能的原因：

在我的電腦里，我保存了一份清單，記錄著那些我原以為不可能實(shí)現(xiàn)、但后來(lái)卻實(shí)現(xiàn)了的進(jìn)展。其中一項(xiàng)讓我羞于承認(rèn)，那就是“萬(wàn)維網(wǎng)”。

還有一項(xiàng)是，我曾認(rèn)為，沒(méi)有任何計(jì)算機(jī)程序能在自然語(yǔ)言下，就廣泛主題進(jìn)行開(kāi)放式對(duì)話，除非它是一個(gè)AGI，我更愿意把這種能力稱為“解釋性創(chuàng)造力”。

ChatGPT讓我錯(cuò)了。

它不是AGI，但它能對(duì)話。這種能力是知識(shí)的副產(chǎn)物。

20世紀(jì)60年代的Eliza聊天機(jī)器人，只能利用你輸入的詞匯和短語(yǔ)。而ChatGPT可以聊任何東西，它依托于龐大的知識(shí)體系，這極其有用。對(duì)有些人來(lái)說(shuō)，它“太有用了”，他們會(huì)覺(jué)得自己在和一個(gè)人或一個(gè)AGI對(duì)話。就像當(dāng)年的Eliza，用戶也把它當(dāng)人一樣。

這讓我想到一個(gè)廣泛流傳的迷思——圖靈測(cè)試。

實(shí)際上，圖靈從未提出過(guò)AGI的測(cè)試或基準(zhǔn)。他的“模仿游戲”并不是一個(gè)測(cè)試，而是一個(gè)思想實(shí)驗(yàn)，用來(lái)?yè)羲椤皺C(jī)器不能思考”的直覺(jué)。事實(shí)上，并不存在所謂的基準(zhǔn)，因?yàn)橐粋€(gè)真正通用的智能，必須有能力選擇保持沉默。

這本身已經(jīng)說(shuō)明，現(xiàn)有的方法無(wú)法造出AGI。

現(xiàn)有系統(tǒng)可以也必須用基準(zhǔn)來(lái)衡量。

反過(guò)來(lái)講，如果某個(gè)事物給出了一個(gè)全新的解釋，你根本無(wú)法測(cè)試這個(gè)解釋是它自己創(chuàng)造的，還是人類創(chuàng)造的，即便是由你親自來(lái)做這個(gè)測(cè)試，也做不到。用愛(ài)迪生的話來(lái)說(shuō)，智能里有“靈感”的部分，那只有人類能做到；還有“汗水”的部分，那是機(jī)器能幫我們解放的。

那既然沒(méi)有測(cè)試基準(zhǔn)，我們?cè)趺粗廊祟愂峭ㄓ弥悄苣?？答案是通過(guò)“講述自身的故事”。

人類的思考，并非機(jī)械地將動(dòng)機(jī)轉(zhuǎn)化為行動(dòng)、將提示詞轉(zhuǎn)化為輸出，而主要是“主動(dòng)選擇動(dòng)機(jī)”的過(guò)程。就像科學(xué)研究并非從數(shù)據(jù)中提取理論，而是發(fā)現(xiàn)問(wèn)題、提出解釋性猜想，然后對(duì)猜想進(jìn)行批判和驗(yàn)證。

那么你如何判斷某個(gè)東西是不是在這么做呢？其實(shí)未必總能判斷。有時(shí)你確實(shí)只是在和一個(gè)機(jī)器人聊天。

但是如果沒(méi)有任何解釋能說(shuō)明你自己是機(jī)器人，或者人類整體是機(jī)器人，那么合理的假設(shè)就是“我們不是機(jī)器人”。

有些人喜歡質(zhì)疑，愛(ài)因斯坦是不是真的創(chuàng)造了相對(duì)論，還是只是把各種現(xiàn)有觀點(diǎn)東拼西湊、機(jī)械組合出來(lái)的。我們知道他創(chuàng)造了它，因?yàn)槲覀兞私馑摹肮适隆?，即他?dāng)時(shí)在解決什么問(wèn)題，以及為什么要解決這些問(wèn)題。

就像我們知道，薩姆·奧特曼不需要寫(xiě)任何代碼，卻讓ChatGPT從技術(shù)概念變成了實(shí)際產(chǎn)品，成為一種現(xiàn)象級(jí)存在。他靠的是直覺(jué)，還有那種“認(rèn)定這是人類下一步該嘗試的正確方向”的魄力。

目前還沒(méi)有任何程序能讓計(jì)算機(jī)擁有這樣的直覺(jué)，至少現(xiàn)在還沒(méi)有。

聽(tīng)到這里，奧特曼忍不住反駁，并搬出了GPT - 8：

你提到了愛(ài)因斯坦相對(duì)論，我非常認(rèn)同你的看法。我覺(jué)得相對(duì)論是人類有史以來(lái)搞明白的最精妙的事物之一，甚至可以說(shuō)是最精妙的。而且愛(ài)因斯坦有他的“故事”，我們知道他當(dāng)時(shí)在研究什么。

假設(shè)幾年后，GPT - 8搞懂了量子引力，還能跟你講述它是如何做到的，比如它當(dāng)時(shí)在思考哪些問(wèn)題、為什么決定研究這個(gè)領(lǐng)域。但它呈現(xiàn)出的內(nèi)容，看起來(lái)依然只是語(yǔ)言模型的輸出，可它確實(shí)真的解決了量子引力的問(wèn)題。那到時(shí)候你會(huì)認(rèn)可它嗎？我知道你會(huì)記錄自己之前判斷錯(cuò)誤的事情，我也會(huì)這么做。所以，這種情況能說(shuō)服你嗎？

戴維?多伊奇回應(yīng)：

我覺(jué)得可以。沒(méi)錯(cuò)，“過(guò)程故事”在這當(dāng)中至關(guān)重要。我也認(rèn)為這才是判斷的關(guān)鍵。

量子計(jì)算先驅(qū)：戴維?多伊奇

戴維?多伊奇是牛津大學(xué)克拉倫登實(shí)驗(yàn)室量子計(jì)算中心創(chuàng)始成員、物理學(xué)訪問(wèn)教授，同時(shí)也是牛津大學(xué)沃弗森學(xué)院的榮譽(yù)院士、英國(guó)皇家學(xué)會(huì)和物理研究所的院士，被認(rèn)為是量子計(jì)算和量子信息科學(xué)的奠基人之一。

他致力于研究物理學(xué)中的基礎(chǔ)性問(wèn)題，尤其是量子計(jì)算與信息理論，以及建構(gòu)者理論（constructor theory）。

1985年，他提出量子圖靈機(jī)理論框架，通過(guò)引入量子邏輯門(mén)的網(wǎng)絡(luò)運(yùn)算方式，證明量子計(jì)算機(jī)在理論上可以精確模擬任何符合量子力學(xué)規(guī)律的物理系統(tǒng)，為量子計(jì)算機(jī)的發(fā)展奠定了數(shù)學(xué)基礎(chǔ)。

1992年，他與澳大利亞數(shù)學(xué)家、理論物理學(xué)家Richard Jozsa共同提出Deutsch - Jozsa算法，首次證明量子算法相較經(jīng)典算法具有指數(shù)級(jí)加速效應(yīng)，為后續(xù)Shor算法、Grover算法的發(fā)展奠定了理論基礎(chǔ)。

他還寫(xiě)過(guò)兩本著名的面向普通讀者的書(shū)：《真實(shí)世界的脈絡(luò)》（The Fabric of Reality）和《無(wú)窮的開(kāi)始》（The Beginning of Infinity）。

戴維?多伊奇曾獲得的獎(jiǎng)項(xiàng)包括ICTP狄拉克獎(jiǎng)、墨子量子獎(jiǎng)、科學(xué)突破獎(jiǎng)的物理學(xué)獎(jiǎng)、艾薩克·牛頓獎(jiǎng)等。

參考鏈接：

[1]https://www.youtube.com/watch?v=WZ22AJmuKKQ

[2]https://x.com/rohanpaul_ai/status/1971884939667738838

[3]https://www.daviddeutsch.org.uk/

本文來(lái)自微信公眾號(hào)“量子位”，作者：西風(fēng)，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com