人類花了很長的時間，才把現(xiàn)在的倫理和治理機制建立起來。如果讓人工智能形成像人類一樣的意識和智慧，人類在倫理和治理上又該怎樣去滿足呢?人類對人工智能有哪些干預機制?

7月6日，2023世界人工智能大會在上海開幕。2018年圖靈獎得主、Meta AI基礎人工智能研究院團隊首席人工智能科學家楊立昆（Yann LeCun）在開幕式上表示，他完全不同意“因為任何人可用人工智能做任何事，情況可能會非常危險，所以需要嚴格監(jiān)管人工智能”的說法。從長遠來看，要讓人工智能平臺安全、良好、實用，唯有開源一條路可走。

楊立昆談AI變得智能可控的途徑。如果你認為達到人類水平的人工智能的方法是做更大的自回歸LLM（大語言模型），然后利用多模型數(shù)據(jù)測試，那么你可能會認為，這些人工智能系統(tǒng)不安全。但事實上我不認為這個系統(tǒng)可以非常智能，我認為它們變得智能的方法也是讓它們變得可控的方法，即目標驅(qū)動人工智能的理念。本質(zhì)上來說，就是給它們必須滿足的目標?！睏盍⒗フf，這些目標有的是任務界定的目標，比如系統(tǒng)回答問題了嗎？系統(tǒng)開動你的車了嗎？系統(tǒng)清理餐桌了嗎？其他目標則充當安全護欄，比如不要傷害任何人。

楊立昆認為，這些AI系統(tǒng)不會通過一點一滴的滲透來欺騙或主宰人類。人類可以設定目標迫使人工智能變得誠實，比如迫使人工智能屈從于人類，對那些希望他們產(chǎn)生好奇心的目標保持謹慎，對那些不應該擁有的資源保持謹慎?！八晕艺J為這些系統(tǒng)將是完全可控可操縱的。系統(tǒng)可以被設計得安全，但這并不容易。設計這些目標，讓系統(tǒng)安全，將會是一個艱巨的工程挑戰(zhàn)?！?/span>

但楊立昆表示，人類不一定要一開始就把它設計好，可以先從建立一個像老鼠一樣聰明的系統(tǒng)做起，人類的目標是把它打造成一只優(yōu)秀的老鼠?！拔覀儠阉鼈兎胚M沙盒或仿真環(huán)境中測試，我們要確保它們是安全的，這是很重要的問題，因為有一些人因為害怕人工智能的結(jié)果，整體上就希望人工智能受到嚴格監(jiān)管。因為他們說，如果任何人都能掌握人工智能，如果他們可以用人工智能做任何想做的事，那么情況可能會非常危險，所以需要嚴格監(jiān)管人工智能。我完全不同意這種說法。”

相反，楊立昆認為，讓人工智能平臺安全、良好、實用，從長遠來看，唯有開源。未來每個人都會通過人工智能助手與數(shù)字世界進行交互，人類所有的信息都要通過這個人工智能助手，如果技術(shù)被少數(shù)公司所掌控，那就不是什么好事了?！拔磥砣斯ぶ悄芟到y(tǒng)將成為人類所有知識的寶庫，訓練它們的方式需要基于眾多來源。因此我們將在未來看到更多的開源LLM和更多的開源人工智能系統(tǒng)?！?/span>

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com