人們離第一個AGI的出現(xiàn)越來越近了！

今年早些時候，馬斯克預(yù)測AGI可能會在2026年投入使用。首席AGI科學(xué)家ShaneepMind創(chuàng)始人 在一次采訪中，Legg認(rèn)為，在2028年，人類開發(fā)第一個AGI的概率為50%。不過，百度CEO李彥宏的觀點(diǎn)更加謹(jǐn)慎，他認(rèn)為AGI還需要10多年才能出現(xiàn)。

自1956年達(dá)特茅斯會議提出“人工智能”的概念以來，實(shí)現(xiàn)人類水平的智能一直是AI領(lǐng)域的圣杯。去年上半年，一些主流研究人員提出，大語言模型已經(jīng)表現(xiàn)出“通用人工智能的火花”（sparks of AGI）。

這似乎表明AGI已經(jīng)從哲學(xué)猜測變成了未來。然而，關(guān)于AGI的觀點(diǎn)有不同的看法，大語言模型中經(jīng)常出現(xiàn)愚蠢的行為，這些都引起了對AGI的質(zhì)疑。

我們離實(shí)現(xiàn)真正的AGI還有多遠(yuǎn)？如何預(yù)防AGI帶來的潛在風(fēng)險？

AGI，未到的黎明

人與AI的關(guān)系可以從性能強(qiáng)度和實(shí)用性兩個方面分為六個階段：沒有AI。、智能化涌現(xiàn)，擔(dān)任，專家，大師，超人。而且現(xiàn)在大語言模型的出現(xiàn)，正處于AGI的第一個時期：AGI原型。

AGI（Artificial General Intelligence），也就是說，通用人工智能的目標(biāo)是實(shí)現(xiàn)人類通用智能，這意味著AI可以像人類一樣理解隨機(jī)通用任務(wù)，并以人類的智商水平完成。基本上，AGI是人類對人工智能的終極夢想，除了“自我意識”的形成。

AGI是讓智能身體像人一樣，不僅能獨(dú)立感知環(huán)境，思考，做出決定，學(xué)習(xí)新技能，做出任務(wù)，還能與人類或其他智能身體有效合作。同時，智能身體可以理解人類的情緒，遵循社會倫理和道德規(guī)范。

一個完整的AGI需要三個基本特征:第一，它必須能夠完成無限的任務(wù)，而不是只能完成人們定義的有限的任務(wù)。第二，我們應(yīng)該在場景中獨(dú)立發(fā)現(xiàn)任務(wù)，這通常意味著“眼睛里有工作”。第三，它需要獨(dú)立的價值來驅(qū)動，而不是被動的數(shù)據(jù)驅(qū)動。

同時，AGI還應(yīng)該處理一些關(guān)鍵的技術(shù)問題，比如構(gòu)建智能身體的認(rèn)知結(jié)構(gòu)，讓智能身體在現(xiàn)實(shí)世界中有效行動，由價值驅(qū)動，與社會現(xiàn)狀互動，使智能身體的決策過程透明可解釋，與人類建立信任關(guān)系。

ChatGPTOpenAI、谷歌Bard、以MetaLlama為代表的大模型在實(shí)用性上顯示了AGI的潛力。因?yàn)榇笳Z言模型可以完成廣泛的各種任務(wù)，展示“元認(rèn)知”能力，比如學(xué)習(xí)新技能。

與大模型的“鸚鵡模式”相比，AGI是一種以“小數(shù)據(jù)、大任務(wù)”為結(jié)構(gòu)的“禿鷹模式”。智能體現(xiàn)為獨(dú)立的智能，能夠獨(dú)立感知、認(rèn)知、推理、學(xué)習(xí)和實(shí)施，不依賴大數(shù)據(jù)，基于無標(biāo)記數(shù)據(jù)進(jìn)行無監(jiān)督學(xué)習(xí)，智能系統(tǒng)功耗低。就像烏鴉喝水一樣，看似簡單，卻屬于自我推理行為。它是一種由價值和因果驅(qū)動的高級智能，也是AI未來的發(fā)展趨勢。

假如僅從AI的性能維度來看，“窄AI”（Narrow AI）“AI類型已達(dá)到完全超越人類理解的水平。使用AlphaFold、以AlphaZero為代表的專業(yè)領(lǐng)域AI，已經(jīng)可以在特定領(lǐng)域找到人類智商無法發(fā)現(xiàn)的新事物，這種新事物被稱為“超人類窄AI”。而且在某些領(lǐng)域，AI可以達(dá)到90%的人類水平，比如文件糾正AI。 Grammarly，DALL·E Imagen等生圖AI被稱為“專家級窄AI”。一般智能助理，如Siri、谷助手等，在特定領(lǐng)域可以達(dá)到普通人的平均水平，被稱為“一般窄AI”。

所謂“窄AI”，是指那些特別擅長處理單一任務(wù)或在特定范圍內(nèi)工作的系統(tǒng)。在許多情況下，他們在特定領(lǐng)域的表現(xiàn)遠(yuǎn)遠(yuǎn)優(yōu)于人類。然而，一旦他們遇到的問題超過了適用空間，效果就會急劇下降。換句話說，他們不能把學(xué)到的知識從一個領(lǐng)域轉(zhuǎn)移到另一個領(lǐng)域。

雖然窄AI不能完全執(zhí)行需要人類智能的任務(wù)，但在特定的場景中仍然非常實(shí)用，并且已經(jīng)在許多應(yīng)用中發(fā)揮了自己的作用。谷歌搜索查詢現(xiàn)在可以用窄AI算法回答問題。窄AI系統(tǒng)將推薦用戶可能感興趣的視頻在YouTube和Netflix，并根據(jù)自己的喜好在Spotify中整理出周推音樂列表。

然而，在窄AI已經(jīng)覆蓋的能力維度上，AGI還沒有相應(yīng)的案例。人類還沒有達(dá)到對AGI概念的統(tǒng)一認(rèn)知，因?yàn)檎嬲饬x上的AGI還沒有出現(xiàn)。

AGI的開始是誰？

從信息時代到智能時代，“語言”已經(jīng)成為開啟新時代的關(guān)鍵。著名作家、思想家路德維?！ぞS特根斯坦在他的《邏輯哲學(xué)論》一書中提到:“我的語言邊界代表著我的世界邊界。”

對于人們來說，語言是承載世界知識、思考、交流和文化的關(guān)鍵。語言本身的發(fā)明意味著每一個單詞都增加了世界的認(rèn)知維度，單詞之間的邏輯關(guān)系和表達(dá)意味著人類對世界的完整建模。這一模型并非在圖像中，而是通過語言來承載，所以語言邊界就是世界邊界。AI的核心是將現(xiàn)實(shí)世界中的現(xiàn)象翻譯成數(shù)學(xué)模型，通過語言使機(jī)器充分理解現(xiàn)實(shí)世界與數(shù)據(jù)的關(guān)系。

如今，人們已經(jīng)走出了用一個公式解釋世界的原始物理方法，更多的是依靠海量數(shù)據(jù)在各個層面進(jìn)行獨(dú)立建模。上層建模是由大量數(shù)據(jù)驅(qū)動的。語言模型也是如此，生命建模也是如此，2021年最大的成就就是DeepMind的AlphaFord系統(tǒng)，針對基因到蛋白質(zhì)的三維結(jié)構(gòu)建模，通過這種模型預(yù)測基因被轉(zhuǎn)錄或表達(dá)為蛋白質(zhì)后所擁有的形態(tài)，也是世界生命領(lǐng)域轟動一時的突破，也是由數(shù)據(jù)和AI驅(qū)動的。

雖然大型模型已經(jīng)取得了一些驚人的進(jìn)展，但是如果對比AGI的三個特征，就會發(fā)現(xiàn)大型模型還沒有達(dá)到AGI的要求。

首先，大模型處理任務(wù)的能力有限，只能處理文本領(lǐng)域的任務(wù)，不能與物理和社會環(huán)境互動。這意味著像ChatGPT這樣的模型并不能真正“理解”語言的含義，因?yàn)樗鼪]有身體去體驗(yàn)物理空間。

其次，大模型不是獨(dú)立的。它們需要人類具體定義每一項(xiàng)任務(wù)，就像一只“鸚鵡”，只能模仿受過訓(xùn)練的文字。真正的自主智能應(yīng)該類似于“禿鷹智能”，可以獨(dú)立完成比現(xiàn)在的AI更智能的任務(wù)。目前的AI系統(tǒng)沒有這個潛力。

第三，雖然ChatGPT在不同的文本數(shù)據(jù)詞庫中進(jìn)行了大規(guī)模的訓(xùn)練，包括隱含人類價值觀的文本，但它沒有能力理解人類價值或與人類價值保持一致，即缺乏所謂的道德指南針。

但是，這并不妨礙科技巨頭對大型模型的推崇。OpenAI、包括谷歌在內(nèi)的科技巨頭，都把大模型視為走向AGI的關(guān)鍵一步。OpenAI CEO Sam Altman多次表示，GPT模型是AGI發(fā)展的重要突破。

然而，Meta人工智能首席科學(xué)家楊立昆（Yann LeCun）感覺現(xiàn)在的大模型路線不能通向AGI，而且極其危險。

他指出，雖然目前的大模型在自然語言理解、對話交互、文本創(chuàng)作等領(lǐng)域表現(xiàn)良好，但它仍然只是一種“統(tǒng)計(jì)建模”技術(shù)，實(shí)際上并不具備真正的“理解”和“推理”能力，而是在學(xué)習(xí)數(shù)據(jù)中的統(tǒng)計(jì)規(guī)則中完成相關(guān)任務(wù)。

他認(rèn)為，“世界模型”更接近真正的智能，而不僅僅是學(xué)習(xí)數(shù)據(jù)的統(tǒng)計(jì)特征。以人類的學(xué)習(xí)過程為例，孩子在成長過程中，更多的是通過觀察、互動和實(shí)踐來認(rèn)識世界，而不是簡單地“注入”知識。LeCun的“世界模型”路線是通過模擬和補(bǔ)充視頻、音頻等媒體，讓AI也能經(jīng)歷這樣一個獨(dú)立學(xué)習(xí)的過程。

同時，他也承認(rèn)，實(shí)現(xiàn)“世界模式”并不容易，這個雄心勃勃的目標(biāo)可能需要10年的時間才能實(shí)現(xiàn)。

在可控范圍內(nèi)控制風(fēng)險

圖靈是最早警告AGI帶來的風(fēng)險的人之一。1951年，他說:“一旦機(jī)器開始考慮，它很快就會超過我們。因此，在某個時候，我們應(yīng)該期望機(jī)器能夠被控制。”因?yàn)楫?dāng)一個比人類更強(qiáng)大的智能體出現(xiàn)時，人類很難維持自己的權(quán)力，尤其是當(dāng)這些智能體目標(biāo)不正確或不完整時。

如果有人認(rèn)為現(xiàn)在考慮到這些危險的言論，如何回答這樣一個問題:如何在比人類更強(qiáng)大的智能體面前永遠(yuǎn)保持權(quán)力？此外，在AI領(lǐng)域，一些人試圖避免這個問題，否認(rèn)AGI的可實(shí)現(xiàn)性，但沒有提供任何證據(jù)。

OpenAI CEO Sam 在他的文章中，Altman《Planning for AGI and Beyond》在此基礎(chǔ)上，探討了AGI對社會、技術(shù)和倫理的潛在影響，并強(qiáng)調(diào)了謹(jǐn)慎規(guī)劃和責(zé)任發(fā)展的重要性。

文章指出，AGI有很大的潛力通過增加資源豐富度、促進(jìn)全球經(jīng)濟(jì)增長和幫助新技術(shù)知識的發(fā)現(xiàn)來提高人類的生活質(zhì)量。這不僅是智商的巨大增長，也是人們創(chuàng)造力和想象力的巨大拓展。

然而，AGI的出現(xiàn)也可能帶來嚴(yán)重的濫用風(fēng)險、事故和極端事件的可能性以及對社會結(jié)構(gòu)的劇烈動蕩。因此，OpenAI倡導(dǎo)AGI開發(fā)者和全社會在探索AGI時，必須找到正確的實(shí)現(xiàn)和利用這項(xiàng)技術(shù)的方法，以確保其與人類核心價值觀一致，并公平分享其利益。

另外，OpenAI認(rèn)為，從長遠(yuǎn)來看，AGI的出現(xiàn)只是智商發(fā)展的一個節(jié)點(diǎn)，未來AI的進(jìn)步可能會持續(xù)很長時間。OpenAI提出了一個安全的AGI發(fā)展愿景，即在短時間內(nèi)以較慢的速度轉(zhuǎn)換為AGI，讓社會有時間去適應(yīng)和優(yōu)化。

雖然未來不可預(yù)測，但OpenAI表達(dá)了一些他們最關(guān)心的原則:希望AGI能最大限度地促進(jìn)人類在宇宙中的繁榮；希望AGI帶來的好處、瀏覽權(quán)和治理能夠得到廣泛公平的分享，成功應(yīng)對巨大的風(fēng)險。

因此，OpenAI提倡在短時間內(nèi)進(jìn)行漸進(jìn)過渡，繼續(xù)創(chuàng)建越來越符合目標(biāo)的模型，并在全球范圍內(nèi)進(jìn)行長期對話，討論如何控制這些系統(tǒng)，如何公平分配它們的好處，如何公平分享瀏覽權(quán)。在極高的風(fēng)險和收益下，人類需要團(tuán)結(jié)一致，讓AGI以最有利的方式在未來世界綻放。

至于如何防止AGI對人類的威脅，AGI的能力空間和價值空間可以逐漸放開，一開始就關(guān)在“鐵籠”里，慢慢打開權(quán)限。

對于AGI來說，它的適用場所和運(yùn)動空間可以先限制在特定的區(qū)域。隨著人們對機(jī)器的信任度的增加，在確定AGI的安全性和可控性后，可以逐漸給予更多的空間。此外，算法決策過程的透明度應(yīng)該進(jìn)一步推動。如果你能清楚地了解AGI的認(rèn)知結(jié)構(gòu)，然后知道它是如何工作的，你就能更好地控制它。

人類對AGI的探索和思考才剛剛開始，我們還有很長的路要走。AGI的進(jìn)步不僅代表了技術(shù)創(chuàng)新，也是對未來人機(jī)交互方式的重新想象。隨著AGI未知領(lǐng)域的逐步發(fā)展，穩(wěn)健有序的發(fā)展變得更加重要，我們應(yīng)高度警惕AGI帶來的問題，并充分重視AGI創(chuàng)造的機(jī)遇。兩千多年前，蘇格拉底說：“認(rèn)識自己”，今天，隨著AGI技術(shù)的發(fā)展，人類需要“重新認(rèn)識自己”。

本文來自微信微信官方賬號“科技云報道”（ID：ITCloud-BD），作者：科技云報道，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com