【導讀】IndentCEOFouadad安全公司 為了為AGI做好安全準備，Matin和他的團隊將加入OpenAI。

上個星期，OpenAI在內(nèi)部離職潮和外部批評下，可謂內(nèi)外交困難：

- 寡姐的侵權(quán)引起了全世界的熱議

- 員工簽署「霸王條款」被連續(xù)曝出

- 網(wǎng)民歷數(shù)奧特曼「七宗罪」

謠言：OpenAI的高級領(lǐng)導層，包括Altman，根據(jù)Vox獲得的泄露信息和文件，非常了解這些股票回收條款，并簽署了它們。

此外，OpenAI面前還有一個嚴重而緊迫的問題——AI安全。

最近，五名與安全有關(guān)的員工辭職，其中包括兩名最著名的員工，「非常對齊」團隊的解散使得OpenAI的安全問題再次被放在聚光燈下。

據(jù)《財富》雜志報道，OpenAI從未兌現(xiàn)，這使得它對齊團隊獲得了20%計算資源的承諾。

2023年7月，OpenAI成立了一個新的團隊，致力于確保人工智能系統(tǒng)在未來可能比人類加起來更聰明，能夠得到安全管理。為了顯示企業(yè)對這一目標的關(guān)注，它公開承諾將20%的可用計算資源投入到當時的這項工作中。

現(xiàn)在，還不到一年，這個名字「非常對齊」根據(jù)六位知情人士的說法，OpenAI從未履行向該團隊提供20%計算能力的承諾，因為該團隊的員工離職和OpenAI將產(chǎn)品發(fā)布在人工智能安全之上。

但是上周四，IndentCEOFouad 在X和Reddit上，Matin宣布，「為AGI做好安全準備，我們加入了OpenAI！」

他在推文中寫道，「我很高興能和一個優(yōu)秀的團隊一起保證未來的安全。從前沿模型的準備到客戶的數(shù)據(jù)控制，保證人工智能的安全，造福大家是非常重要的?！?/p>

看起來，OpenAI安全團隊正在重振旗鼓，招募新手，然后，F(xiàn)ouadad剛剛被OpenAI招募。 Matin是否可以臨危受命，「挽大廈于將傾」呢？

Fouad Matin和他的團隊

有「吃瓜的人不知道真相」Fouad 在Matin的帖子下留言：「我們加入了OpenAI 」里的「我們」是誰？

很明顯，答案并非如此「他的兩個半腦」那么簡單，F(xiàn)ouad 他創(chuàng)立的Indent是Matin背后的資源，Indent是一家致力于它的公司?！笜?gòu)建一個安全的未來」AI企業(yè)。

當前，Indent已在其官方網(wǎng)站上發(fā)布「日落通知」，宣布Indent將于今年7月停止服務(wù)。

我們創(chuàng)建Indent的目的是幫助團隊保護最重要的東西。我們的客戶已經(jīng)保證了從客戶數(shù)據(jù)和生產(chǎn)系統(tǒng)結(jié)構(gòu)到日常業(yè)務(wù)軟件的所有安全性，所有這些都不會降低團隊的速度。

經(jīng)過慎重考慮，我們做出了一個非常困難的決定:未來幾個月Indent將關(guān)閉，我們將幫助客戶過渡，繼續(xù)努力實現(xiàn)這一共同目標。

團隊可以在太平洋標準時間2024年7月15日下午12:00前提交申請，屆時服務(wù)將關(guān)閉。審計日志將提供到7月19日，我們將在未來開始數(shù)據(jù)刪除過程。

我們要感謝每一位使用Indent的用戶，從第一天獲得瀏覽權(quán)的初創(chuàng)公司，到使用Indent保護100多個關(guān)鍵任務(wù)資源的團隊。

Fouad Matin是Indent的創(chuàng)始人和CEO，F(xiàn)ouad 根據(jù)Matin的說法，他創(chuàng)建Indent是因為他發(fā)現(xiàn)大多數(shù)公司不知道誰有權(quán)瀏覽客戶數(shù)據(jù)，而且對于大多數(shù)公司來說，發(fā)現(xiàn)這個問題的成本太高，更不用說鎖定這些信息了。而且Indent可以為用戶提供友好的密鑰管理。Indent于2021年12月以560萬美元的需要密鑰管理融資。

自2018年Indent成立以來，F(xiàn)ouad Matin還有三個工作經(jīng)驗。

2014年，F(xiàn)ouad Matin曾經(jīng)和其他聯(lián)合創(chuàng)辦了一家推薦的招聘公司，他負責產(chǎn)品、營銷和工程設(shè)計。曾經(jīng)參加過第一屆Y YCombinator獎學金計劃和 W16。

2016年，他成立了一個非黨派非營利組織，旨在為年輕人建立最簡單的登記和投票方式，幫助100萬人投票。

2017年，他擔任Segment工程師，領(lǐng)導產(chǎn)品和工程開發(fā)的細分角色，讓客戶能夠?qū)⒂脩舨僮鞣治鰹榄h(huán)境變量。致力于更好的產(chǎn)品體驗設(shè)計。

就像Fouad一樣 根據(jù)Matin的個人介紹，他是一名軟件工程師和產(chǎn)品設(shè)計師，有時會投資創(chuàng)業(yè)公司。在過去的幾年里，他幫助數(shù)百萬人投票給非營利組織和公司來管理他們的客戶數(shù)據(jù)。

現(xiàn)在，他在OpenAI從事安全工作。Indent日落，而Fouadad Matin將開啟他的新職業(yè)旅程。

其他人

Fouad 在Matin推文的評論區(qū)，一位認識他兩年的朋友向她表示祝賀，這位朋友透露，除了Fouad之外， 除了Matin之外，Dan還加入了OpenAI安全團隊。 Gillespie 。

Dan Gillespie 將主要從事的是「建立一個安全計算平臺，以滿足AGI的到來?！埂?/p>

巧合的是，F(xiàn)ouad Matin也有同樣的一點，Dan Gillespie 同時也有投資背景，據(jù)他在領(lǐng)英的介紹，他也曾在Y 在Combinator工作過，Y Combinator是硅谷最著名的創(chuàng)業(yè)孵化器。在過去的一年里，它投資了260多家AI創(chuàng)業(yè)公司，這是硅谷乃至全球AI創(chuàng)業(yè)趨勢的風向標。

左：Dan Gillespie, 23歲

彭博社的觀點欄目提出，「2024年5月將被大家銘記為AI安全運動消亡的月份。與此同時，每個人都會記住，5月是AI更安全的工作真正開始的時候?！?/p>

作為一家領(lǐng)先的AI企業(yè)，OpenAI能否真正堅持在消極的聲音下構(gòu)建更安全的系統(tǒng)，我們希望OpenAI新安全團隊能夠帶來不同。

參考資料：

https://x.com/fouadmatin/status/1793350695476933108

https://fortune.com/2024/05/21/openai-superalignment-20-compute-commitment-never-fulfilled-sutskever-leike-altman-brockman-murati/

https://www.bloomberg.com/opinion/articles/2024-05-21/ai-safety-is-dead-and-chuck-schumer-faces-risks

https://indent.com/blog/announcing-indent

本文來自微信微信官方賬號“新智元”（ID:AI_era），編輯：庸庸，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com