人工智能能力越來越強。（AI）制度，會不會讓人類文明結束？

實際情況是，AI 它在社會、文化、社會等方面發(fā)揮著越來越重要的作用。 AI 當人類的存在變得更便宜、更可靠的時候，也許就不再那么重要了。

日前，在 AI 領域上班了 20 年多倫多大學計算機科學副教授，Schwartz Reisman 技術與社會研究所聯(lián)合主任 David Duvenaud，在《衛(wèi)報》在英國上面發(fā)表了有關上述觀點的文章。

對他來說，我們只能追蹤 AI 使用和影響，對前沿的影響 AI 部署和指導實驗室，使用實驗室 AI 強化每個人的組織和自我宣傳能力，學會控制我們的文明在這些方面做出努力。但是，技術開發(fā)者目前還沒有更好的應對這一趨勢的計劃。

“他們會悄悄地以無數微妙的方式取代人類。一開始是因為他們更便宜，最后是因為他們真的比我們最好的人更好?！薄安还苣銜粫I(yè)，你都會知道你的意見是可有可無的?！?/p>

他指出，我們不應該這樣做 AI 競爭者，爭分奪秒地創(chuàng)造自己的替代品，而應作為他們的受益者和經理。

原文如下：

與戰(zhàn)爭不同，文明的終結可能更像是一個愛情故事。在自己的衰落中，我們能避免成為自愿參與者嗎？

如今，大多數大型人工智能實驗室都有一個團隊在研究如何讓人工智能逃離控制，或者秘密地與人類勾結。但是還有一個更普遍的方法，我們可能會失去對文明的控制:我們可能會被淘汰。這不需要任何隱藏的陰謀——如果人工智能和機器人技術不斷發(fā)展，這就是默認情況。

怎么說呢？人工智能開發(fā)人員正在堅定不移地創(chuàng)造更好的人類替代品，這幾乎可以取代我們所扮演的所有角色:不僅是經濟上的工人和決策者，也是文化上的藝術家和創(chuàng)作者，甚至是社會上的朋友和浪漫伴侶。當人工智能能夠做我們所做的一切，做得更好時，人類的地位是什么？

說到人工智能目前的能力，有時候聽起來像是營銷炒作，有些是真的。但從長遠來看，優(yōu)化的空間是巨大的。你可能會認為總有一些人類特有的物品是人工智能無法復制的。我在人工智能研究領域工作 20 2008年，見證了人工智能從基本推理到處理復雜科學問題的發(fā)展過程。如今，人工智能系統(tǒng)可以輕松應對那些看似人類特有的能力，比如處理抽象或使用抽象類比。也許進展會有一些延遲，但是我們應該相信，人工智能將不斷取得全面的進步。

這些人工智能將不僅僅是人類的助手——它們將以無數微妙的方式悄然取代人類，最初是因為它們。更便宜，最終，這是因為他們的確比我們的表現(xiàn)最好。更出色。當他們足夠可靠時，他們將成為大多數重要工作中唯一負責任的選擇，從從法律裁定、財務規(guī)劃到醫(yī)療決策，等等。

最容易想像的是，現(xiàn)在就業(yè)方面，未來會是什么樣子：你會聽到朋友下崗，找不到新工作。為了期待來年更好的人工智能員工，企業(yè)將凍結招聘。越來越多的工作將是接受可靠、迷人、熱情的人工智能助手的意見。你們可以自由地思考大局，但是你們會發(fā)現(xiàn)自己在和超懂你們的人工智能助手交談。該助手將填補您計劃中的空白，提供相關數據和例子，并提出改進建議。最后，你會直接問它：“你認為我下一步該怎么辦？“不管你是否會失業(yè)，你都會清楚地知道，你的意見是可有可無的。

除了工作之外也是如此。甚至一些人工智能研究者也對第一批具有通用推理能力的模型感到驚訝， ChatGPT 和 Claude 前身，也可以做到圓滑、耐心、細致、親密。但是現(xiàn)在很明顯，社交技巧能像其它技能一樣被機器學習。每個人都已經有了人工智能的浪漫伴侶，人工智能醫(yī)生的臨床態(tài)度也一直比人類醫(yī)生好。

當我們每個人都能得到無盡的個性化關懷、指導和支持時，生活會是什么樣子？你的家人和朋友會比平時更專注于屏幕。當他們和你說話時，他們會告訴你他們的在線合作伙伴說的有趣而令人印象深刻的話。

也許你會因為別人對新同伴的喜愛而感到不開心——在這種情況下，你最終可能會向你的日常人工智能助手尋求建議。這位可靠的顧問會禮貌地說服你處理任何問題，并幫助你訓練和與家人進行艱難的對話。經過這些相對累人的互動，參與者可能會通過與自己的人工智能知己交談放松心情。或許我們會同意，在向虛擬伴侶轉變的過程中，我們失去了一些東西，甚至我們開始發(fā)現(xiàn)與原始的人類接觸相比，它變得更加生硬和無聊。。

到目前為止，它仍然是一個烏托邦。但是我們不能選擇更喜歡人類顧問和人類制造的產品和服務，而不是這樣使用人工智能嗎？問題是，在很多領域，我們甚至可能很難注意到人工智能的替代——而我們注意到的大多數部分似乎都有了很大的改善。即使在今天，人工智能產生的內容也越來越難以與人類創(chuàng)作的作品區(qū)分開來。購買一個只有人類一半水平的人，要花兩倍于人類治療師、律師或教師的價格，是非常令人信服的。選擇速度慢、成本高的人類組織將被選擇速度快、成本低、可靠的人工智能組織所取代。

人工智能一旦能夠取代公民所做的一切，政府就不會有太大的壓力來照顧人民。殘酷的事實是，民主權利的產生部分是出于經濟需要。然而，當政府的資金來自人工智能而不是公民時，當政府開始以效率和效果的名義用人工智能取代人類員工時，這些權利就不那么重要了。

最令人不安的可能是，這一切在我們看來可能是完全合理的。在目前的原始狀態(tài)下，成千上萬的人愛上了同樣的人工智能伙伴，他們會提出一個非常有感染力、迷人、復雜和有趣的論點，這表明為什么我們的相關性實際上是一種進步。人工智能權將被視為下一項重要的民權工作?！叭祟悆?yōu)先”陣營將被描述為站在歷史錯誤的一邊。

最后，當沒有人計劃或選擇時，我們可能會發(fā)現(xiàn)我們在為金錢、受歡迎程度甚至相關性而奮斗。這個新世界在很多方面可能更友好、更個性化，只要它能繼續(xù)下去:AI將處理令人討厭的任務，提供更好的商品或服務，如醫(yī)療和娛樂。但是人類將成為增長的阻力，如果我們的民主權開始下降，我們將無法保護它們。

這類技術的開發(fā)者一定有更好的計劃嗎？令人震驚的是，答案是否定的。Anthropic CEO Dario Amodei 和 OpenAI CEO Sam Altman 人們都認為，一旦人類勞動力失去競爭力，我們將完全重組經濟體系。但是沒有人知道這會是什么樣子。大多數承認可能發(fā)生完全變化的人都在研究人工智能濫用或秘密串通帶來的更直接的威脅。盡管諾貝爾經濟學獲得者等一些經濟學家 Joseph Stiglitz “人工智能可能把人類工資推到零”的警鐘已經敲響，但是很多人似乎不愿意考慮人工智能可能會成為人類勞動的補充。

那怎樣才能防止我們逐漸失去權力呢？

第一步是討論這個問題。對于這個巨大的話題，記者、學者和其他思想家保持著奇怪的沉默。這個問題我個人覺得很難想清楚。說“我害怕未來，因為我不能和別人競爭”聽起來很虛弱，也很丟人。聽起來很丟臉，“你應該擔心，因為你會無足輕重”。聽起來像一個失敗者，他說：“你的孩子可能會繼承一個沒有他們容身之地的世界。他說：“當然，我總是有特別的優(yōu)勢？或者“我是誰，我有什么資格阻礙進步？"這種搪塞是可以理解的。

一個不言而喻的想法是，一般的人工智能根本沒有建立起來。雖然減緩其發(fā)展速度可能是合理的，但為了在全球范圍內長期阻止其發(fā)展，大多數計算機芯片制造業(yè)可能需要在全球范圍內協(xié)調拆除。這條路的一個主要危險是，政府可能會禁止個人開發(fā)人工智能，但它仍然會用于其他目的，從而延遲我們被淘汰的時間，但它會提前削弱我們的能力。

假設我們無法阻止人工智能的發(fā)展，至少有四件事是有幫助的。

第一，我們應該試著跟蹤人工智能在整個經濟和政府中的應用和影響。人工智能在哪些方面取代了人類的經濟活動，尤其是如果人工智能開始大規(guī)模地用于游說和宣傳等活動，我們需要知道。Anthropic 最近發(fā)布的經濟指數是這個領域的第一次嘗試，但是仍然有許多工作要做。

第二，我們至少需要為了避免這項技術在我們仍在探索的過程中積累太多的知名度，對前沿人工智能實驗室和部署進行監(jiān)督和監(jiān)督。目前，我們依靠自愿的努力，無法協(xié)調和阻止自主人工智能指揮大量資源或匯聚力量。如果我們開始看到困難的跡象，我們應該能夠干預和緩解形勢的發(fā)展，尤其是當個人和團體從損害社會共同利益的事情中受益時。

三是我們能做到利用人工智能來提高人們的組織能力和自我宣傳能力。如果我們能在仍然有影響力的時候建立這些機構，人工智能支持的預測、監(jiān)督、規(guī)劃和談判將為設計和實施更值得信賴的機構提供可能。例如，有條件的預測市場和人工智能支持的預測可以幫助人們更清楚地看到不同政策下的世界方向，比如“如果這項政策成為法律，三年后人類的平均收入會發(fā)生什么變化？””“這個問題。測試人工智能支持的民主機制，將使我們能夠為更快變化的世界所需的反應更加敏銳的治理模式提供原型。

最后，要想在不被邊緣化的情況下建立強大的人工智能，我們必須完成一項艱巨的任務，那就是學習如何引導文明？。在此之前，這種“摸石頭過河”的方法還可以，因為無論如何都需要人類。如果沒有這樣的保障，除非我們知道權力、競爭和成長的所有運作模式，否則我們就會漂泊。人工智能對齊（alignment）在這個技術領域，我們關注的是如何保證機器與我們的目標一致，這需要把范圍擴展到政府、機構和社會本身。這個新領域有時被稱為“生態(tài)系統(tǒng)對齊”。它可以參考經濟學、歷史學和博弈論，幫助我們理解我們可以合理期待什么樣的未來，以及如何實現(xiàn)這些目標。

越是看清自己的方向，協(xié)調得越好，就越有可能創(chuàng)造出一個人類與之密切相關的未來?！?strong>作為受益者和管理者，而不是人工智能的競爭對手，。現(xiàn)在的情況是，我們正在爭分奪秒地創(chuàng)造自己的替代品。。

原文鏈接：

https://www.theguardian.com/books/2025/may/04/the-big-idea-can-we-stop-ai-making-humans-obsolete

這篇文章只是作者的觀點，并不代表學術頭條的立場。

本文來自微信微信官方賬號“學術頭條”，整理：與可，36氪經授權發(fā)布。

本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。

免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com