ChatGPT開(kāi)發(fā)商O(píng)penAI周三（5日）表示，該公司計(jì)劃投入大量資源，并創(chuàng)建一個(gè)新的研究團(tuán)隊(duì)，以確保其人工智能（AI）對(duì)人類(lèi)來(lái)說(shuō)是安全的，最終實(shí)現(xiàn)AI的自我監(jiān)督。

OpenAI聯(lián)合創(chuàng)始人Ilya Sutskever和負(fù)責(zé)提高系統(tǒng)安全性的AI一致性團(tuán)隊(duì)負(fù)責(zé)人Jan Leike在一篇博客文章中寫(xiě)道：“超級(jí)智能的巨大力量可能……導(dǎo)致人類(lèi)被剝奪權(quán)力，甚至人類(lèi)滅絕?！?/p>

　　“目前，我們還沒(méi)有一個(gè)解決方案來(lái)操控或控制一個(gè)潛在的超智能AI，并防止它失控。”他們寫(xiě)道。

AI一致性（alignment）指的是AI的行為需符合設(shè)計(jì)者的利益和預(yù)期目標(biāo)。

　　20%算力用來(lái)解決AI失控問(wèn)題

　　他們預(yù)測(cè)，超智能AI（即比人類(lèi)更聰明的系統(tǒng)）可能在這個(gè)十年（2030年前）就會(huì)到來(lái)，人類(lèi)將需要比目前更好的技術(shù)來(lái)控制超智能AI，因此需要在所謂的“一致性研究”方面取得突破，該研究的重點(diǎn)是確保人工智能對(duì)人類(lèi)有益。

　　根據(jù)他們的說(shuō)法，在微軟(338.15, 0.16, 0.05%)（Microsoft）的支持下，OpenAI將拿出未來(lái)四年所獲算力的20%用于解決AI失控的問(wèn)題。此外，該公司正在組建一個(gè)新的團(tuán)隊(duì)來(lái)組織這項(xiàng)工作，稱(chēng)為超級(jí)一致性團(tuán)隊(duì)。

據(jù)悉，該團(tuán)隊(duì)的目標(biāo)是創(chuàng)建一個(gè)“人類(lèi)級(jí)別”的AI研究人員，然后通過(guò)大量的計(jì)算能力進(jìn)行擴(kuò)展。OpenAI表示，這意味著他們將使用人類(lèi)反饋來(lái)訓(xùn)練AI系統(tǒng)，訓(xùn)練AI系統(tǒng)來(lái)輔助人類(lèi)評(píng)估，然后最終訓(xùn)練AI系統(tǒng)進(jìn)行實(shí)際的一致性研究。

　　專(zhuān)家質(zhì)疑

　　不過(guò)，這一舉措剛剛宣布就受到了專(zhuān)家的質(zhì)疑。人工智能安全倡導(dǎo)者Connor Leahy表示，OpenAI的計(jì)劃從根本上存在缺陷，因?yàn)榭蛇_(dá)到“人類(lèi)水平”的初級(jí)版AI，可能會(huì)在被用于解決AI安全問(wèn)題之前失控并造成嚴(yán)重破壞。“

　　他在接受采訪(fǎng)時(shí)說(shuō)：“在構(gòu)建人類(lèi)水平的智能之前，你必須先解決一致性問(wèn)題，否則默認(rèn)情況下你無(wú)法控制它。我個(gè)人認(rèn)為這不是一個(gè)特別好的或安全的計(jì)劃?！?/p>

　　AI的潛在危險(xiǎn)一直是AI研究人員和公眾最關(guān)心的問(wèn)題。今年4月，一群AI行業(yè)領(lǐng)袖和專(zhuān)家簽署了一封公開(kāi)信，呼吁暫停訓(xùn)練比OpenAI新推出的GPT-4模型更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月，理由是它們對(duì)社會(huì)和人類(lèi)構(gòu)成潛在風(fēng)險(xiǎn)。

　　一項(xiàng)最新的民意調(diào)查則發(fā)現(xiàn)，超過(guò)三分之二的美國(guó)人擔(dān)心AI可能產(chǎn)生的負(fù)面影響，61%的人認(rèn)為AI可能威脅到人類(lèi)文明。

本文僅代表作者觀(guān)點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com