奧特曼承諾的短文，它來了，還發(fā)了兩篇！

一篇短文，回應(yīng)辭職霸王條款，也就是說，員工辭職后說OpenAI壞話會被收回股份。

另外一篇長文，講了OpenAI的整體安全戰(zhàn)略，Jan負(fù)責(zé)人Jan在回應(yīng)OpenAI之前非常對齊。 昨天Leike的13篇文章爆料：

對于AGI的安全管理，OpenAI優(yōu)先推出“閃亮商品”。

然而，這篇回應(yīng)短文并不是奧特曼自己發(fā)的，而是Greg。 由Brockman發(fā)送。

顯然是在Greg的帳戶里，簽名的確是Sam在前面，“Sam and Greg”。

面對奧特曼這一發(fā)回應(yīng)短文的速度，昨天面對非常對齊的團(tuán)隊炮轟，看起來還是很淡定的奧特曼，看起來也不那么淡定。

然而，這兩篇短文發(fā)出后，很多網(wǎng)友并不買賬。

甚至有人這樣評論短文的效果：

汗流浹背的CEO發(fā)了一條推文，全力挽回聲譽(yù)，迅速從社區(qū)寵兒墜落到聲譽(yù)崩塌。

奧特曼說了什么？

股份不會被收回

首先看第一篇文章，完整版如下。

最近有關(guān)OpenAI處理股權(quán)的問題：

即使員工沒有簽訂離職協(xié)議/不詆毀協(xié)議，我們也從未收回任何人現(xiàn)有的股份，我們也不會這樣做。您的股份是您的股份，毫無疑問，這一點(diǎn)。

我們以前的辭職文件確實(shí)有一項關(guān)于潛在收回股份的條款。；雖然我們從來沒有實(shí)際執(zhí)行過這個條款，但是這個條款不應(yīng)該出現(xiàn)在任何文件和交流中。

在OpenAI管理過程中，這是我為數(shù)不多的真正尷尬的事情之一，這是我的責(zé)任；以前不知道有這樣的情況。，但是我應(yīng)該知道。

在過去的一個月里，團(tuán)隊一直在進(jìn)行。修改辭職文件的標(biāo)準(zhǔn)。如有前員工因簽署這些舊協(xié)議而感到擔(dān)憂，可與我聯(lián)系，我們將解決這一問題。對于這一點(diǎn)，我深感抱歉。

總而言之：這件事我不知道，大家放心不會收回你現(xiàn)有的股份。

看起來奧特曼的回應(yīng)很真誠，但是網(wǎng)友們看了一眼就說：Jan贏了。

為啥？

有些網(wǎng)民表達(dá)了不相信奧特曼的理由。

第一，有網(wǎng)友爆料奧特曼在之前的公司也要求員工簽署反詆毀協(xié)議。

YCR 當(dāng)HARC解散時，奧特曼要求每個人都簽署一份保密和反詆毀協(xié)議，以保留他們使用的計算機(jī)。我覺得很奇怪。我以前買過使用的iMac，所以我現(xiàn)在可以討論一下。

其次，眾所周知，去年OpenAI內(nèi)斗的時候，有爆料說奧特曼和當(dāng)時的股東會其他人私下交談，討論替換。Helen Toner(OpenAI原董事會成員)，是因?yàn)镠elen和其他人一起寫了一篇文章。隱約指責(zé)OpenAI“煽動炒作AI的火焰”的文章。

所以，網(wǎng)友認(rèn)為讓員工簽訂不能說壞話的協(xié)議，否則就會收回股份，這件事奧特曼不可能不知道，這符合他的風(fēng)格。

退一步說，即使奧特曼自己不知道他們的條款，OpenAI知道嗎？這個條款不會憑空出現(xiàn)。離職的員工一定知道嗎？

沒人向奧特曼投訴過？

OpenAI的安全戰(zhàn)略

讓我們來看看安全問題的回應(yīng)。

感謝Jan對OpenAI的所有貢獻(xiàn)。即使他離開了，我們也相信他會繼續(xù)為我們的使命做出貢獻(xiàn)。鑒于他的辭職造成了一些問題，我們希望澄清我們對整體戰(zhàn)略的看法。

首先，我們提高了對AGI風(fēng)險和機(jī)會的認(rèn)識。，幫助世界更好地為AGI的到來做好充分的準(zhǔn)備。我們多次展示了深度學(xué)習(xí)發(fā)展帶來的巨大潛力，并分析了這些潛力的影響。在世界范圍內(nèi)，我們首先呼吁控制AGI，并開展了AI系統(tǒng)毀滅性風(fēng)險評估的科學(xué)研究。

其次，我們AI系統(tǒng)所需的基礎(chǔ)設(shè)施正在建立越來越強(qiáng)大的安全部署。。確保一項新技術(shù)的安全并不容易。例如，我們的團(tuán)隊為GPT-4的安全性付出了巨大的努力。從那以后，我們不斷完善模型行為，濫用監(jiān)控，以應(yīng)對部署中學(xué)到的經(jīng)驗(yàn)教訓(xùn)。

第三，未來的挑戰(zhàn)將超過過去。為了應(yīng)對每一個新模型帶來的風(fēng)險，我們必須不斷改進(jìn)安全工作。去年，我們采用了它。Preparedness Framework，用來系統(tǒng)地實(shí)現(xiàn)這個目標(biāo)的方法。

是時候談?wù)勎覀兞?strong>對未來觀點(diǎn)了。

隨著模型越來越強(qiáng)大，我們預(yù)計它們將更深入地融入現(xiàn)實(shí)世界。客戶將與由多模式模型和工具組成的系統(tǒng)進(jìn)行更多的互動。這些系統(tǒng)不僅可以通過文本輸入輸出與客戶進(jìn)行對話，還可以代表客戶的運(yùn)行命令。

這些系統(tǒng)對每個人都有很大的幫助，可以安全交付，但這需要大量的基礎(chǔ)工作。包括深入思考他們在培訓(xùn)過程中連接的內(nèi)容，處理可擴(kuò)展監(jiān)管等問題，以及其他新的安全工作。我們還不確定什么時候能達(dá)到我們的安全標(biāo)準(zhǔn)，也有可能推遲發(fā)布。

我們無法預(yù)測未來的每一個場景。因此，我們應(yīng)該密切反饋循環(huán)和嚴(yán)格的測試，仔細(xì)考慮每一步，以確保世界級的安全和能力平衡。我們將繼續(xù)在不同的時間規(guī)模進(jìn)行安全研究，并與政府和利益相關(guān)者就安全問題進(jìn)行合作。

目前還沒有經(jīng)過驗(yàn)證的科學(xué)手冊可以引導(dǎo)我們走向AGI。我們相信基于經(jīng)驗(yàn)的理解可以引導(dǎo)前進(jìn)的道路。我們在緩解嚴(yán)重風(fēng)險的同時，努力實(shí)現(xiàn)AI系統(tǒng)的巨大潛力；我們仔細(xì)審視我們的角色，仔細(xì)衡量反饋。

——Sam和Greg

網(wǎng)友們一致認(rèn)為，雖然是Greg發(fā)的，但絕對是奧特曼寫的。因?yàn)榭雌饋砗艽螅菍?shí)質(zhì)性的物品什么也沒說。

為什么Greg要發(fā)？有網(wǎng)友猜測大概是因?yàn)?..現(xiàn)在奧特曼特別脆弱，覺得有必要發(fā)出“Greg和我在一起，我發(fā)誓”的信息來表明他并不孤單。

然而，一些網(wǎng)民分析說，OpenAI的策略是通過測試和不斷反饋來改進(jìn)模型，以確保AI的安全性，這實(shí)際上與超級對齊團(tuán)隊主張。提前給出確認(rèn)方法相反，難怪他們會分道揚(yáng)鑣。

對這兩個回應(yīng)，大家怎么看？

參考鏈接

[1]https://x.com/gdb/status/1791869138132218351

[2]https://news.ycombinator.com/item?id=40400224

[3]https://x.com/sama/status/1791936857594581428

[4]https://news.ycombinawtor.com/item?id=40402091

本文來自微信微信官方賬號“量子位”（ID:QbitAI），作者：西風(fēng)，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com