智慧東西6月20日消息，今天上午，OpenAI聯(lián)合創(chuàng)始人和前首席科學(xué)家Ilyaa，一個多月前正式離開OpenAI。 Sutskever在社交平臺X上正式宣布，他將自己建立。世界上第一個直接針對安全超級智能的AI實(shí)驗(yàn)室——Safe Superintelligence Inc.（SSI，超級安全智能)。

在官網(wǎng)上，SSI寫道，SSI只有一個目標(biāo)和一個產(chǎn)品：安全超智能。在追求安全和AI能力的同時，公司將采取革命性的工程和科學(xué)突破，優(yōu)先確保安全。

由于SSI的目標(biāo)很明確，他們不會因管理費(fèi)用或產(chǎn)品周期而分心，短期商業(yè)壓力不會影響短期商業(yè)壓力。企業(yè)創(chuàng)始人具有豐富的從業(yè)背景和極高的聲譽(yù)，融資不會成為SSI面臨的難題。。

SSI強(qiáng)調(diào)，該公司目前正在組織一個精銳的團(tuán)隊(duì)，這些團(tuán)隊(duì)由優(yōu)秀的工程師和研究人員組成，他們致力于實(shí)現(xiàn)安全和超級智能。他們在美國帕洛阿爾托和以色列特拉維夫設(shè)立了辦公室，因?yàn)槿粍?chuàng)始人在當(dāng)?shù)胤e累了大量的人脈。

另外兩位創(chuàng)始人和Ilya一起創(chuàng)辦SSI，是Danielya。 Gross和Daniel Levy。Daniel Gross是AI行業(yè)的老手，十幾歲時就創(chuàng)建了搜索引擎Greplin(后來更名為Cue)，21歲時Cue被蘋果收購，他還加入了蘋果領(lǐng)導(dǎo)AI和搜索部門。2017年他離開蘋果，去硅谷著名孵化器Y Combinator創(chuàng)建了一個主要負(fù)責(zé)AI投資的項(xiàng)目。另一位創(chuàng)始人Daniell 畢業(yè)于斯坦福大學(xué)的Levy在OpenAI和Ilya一起工作了一段時間。

▲三位SSI創(chuàng)始人(從左到右)：Daniel Gross、Ilya Sutskever、Daniel Levy）

01.將實(shí)現(xiàn)“核能等級”的安全水平，一步到位直達(dá)超級智能。

Ilya和其他兩位創(chuàng)始人對AI安全問題的承諾直接以“安全超級智能”命名公司。SSI在官網(wǎng)上寫道，超級智能觸手可及，構(gòu)建安全超級智能是我們這個時代最重要的技術(shù)問題。

Ilya昨天在接受彭博的獨(dú)家采訪時透露，“這家公司的特別之處在于，它的第一款產(chǎn)品將是安全和超智能，在此之前它不會做任何其他事情”。SSI唯一的使命就是實(shí)現(xiàn)安全和超智能，這也是他們的整個產(chǎn)品路線圖。

SSI團(tuán)隊(duì)、投資者和商業(yè)模式都致力于實(shí)現(xiàn)SSI。Ilya表示，公司不會面臨處理大型復(fù)雜產(chǎn)品的問題，也不會陷入激烈的競爭。

Ilya沒有明確分享SSI將如何安全實(shí)現(xiàn)超級智能。然而，他向彭博透露，該公司將嘗試通過AI系統(tǒng)內(nèi)部的項(xiàng)目突破來提高安全性，而不是依賴系統(tǒng)外部的“護(hù)欄”技術(shù)。公司產(chǎn)品的安全水平將是核能級的其他安全，而不是互聯(lián)網(wǎng)公司經(jīng)常談?wù)摰男湃魏桶踩═rust and Safety）里面的那種安全。

AI安全一直是Ilya最關(guān)心的問題。去年7月，他在OpenAI領(lǐng)導(dǎo)處理指導(dǎo)和控制超級智能系統(tǒng)問題的4年內(nèi)，成立了一個非常對齊的團(tuán)隊(duì)。然而，隨著OpenAI內(nèi)部的人事動蕩和權(quán)力斗爭，該部門已經(jīng)基本解散。

Ilya多次公開談?wù)揂I安全問題。去年11月，他發(fā)表了一篇TED演講，向公眾普及了AGI(通用人工智能)道路上可能出現(xiàn)的安全風(fēng)險(xiǎn)。

他還參與了一部關(guān)于AI的紀(jì)錄片，分享了他的AGI世界觀和擔(dān)憂。他在這部紀(jì)錄片中說，如果不介入，自然選擇的規(guī)則會偏向于那些優(yōu)先保護(hù)自己利益的AI系統(tǒng)，屆時人類利益可能會受到損害。

事實(shí)上，當(dāng)Ilya于5月15日正式宣布離開OpenAI時，她已經(jīng)告訴自己下一步會有大動作。當(dāng)時他在推文里寫道，他對即將到來的事情非常興奮，這對她個人來說非常有意義。

02.不缺錢，不缺算率，不缺人才，創(chuàng)始人資金人脈雄厚。

創(chuàng)始人的背景給了SSI足夠的信心，讓他們可以在公司官網(wǎng)寫下“我們不受短期商業(yè)壓力的影響”的表達(dá)。作為目前AI行業(yè)的頂級人物，Ilya在宣布創(chuàng)業(yè)新聞后受到了廣泛關(guān)注，有網(wǎng)友呼吁支持Ilya。他一直主張優(yōu)先考慮AI安全，所以他也受到同樣重視這個問題的技術(shù)人員的高度尊重，在AI行業(yè)享有很高的聲譽(yù)。

然而，Ilya很可能不需要網(wǎng)友眾籌就能獲得大量資金，這樣他就可以毫無顧慮地促進(jìn)安全和超智能的工作。雖然他拒絕透露SSI的投資者和他在接受彭博采訪時籌集的資金，但我們可以從幾位創(chuàng)始人的背景中找到一些線索。

OpenAI在Ilya還是OpenAI對齊部門負(fù)責(zé)人的時候，正式宣布與谷歌前CEO合作。 Eric 合作Schmidt。當(dāng)時OpenAI和Eric 為了支持對齊技術(shù)的研究，Schmidt共同撥款1000萬美元，主要包括可解釋、可擴(kuò)展監(jiān)管等方面的探索。Eric Schmidt財(cái)力雄厚，目前凈資產(chǎn)約250億美元，在世界財(cái)富榜上排名第74位，還考察了購買美國TikTok的可能性。

Eric Schmidt非常關(guān)注AI安全問題，并且在2023年英國舉辦首屆全球AI安全峰會之前，與DeepMind的創(chuàng)始人Mustafafafa 在英國《金融時報(bào)》上，Suleyman聯(lián)合發(fā)文呼吁加強(qiáng)AI控制，提高AI公司研發(fā)的透明度。

另一位SSI創(chuàng)始人Daniel 也許Gross也有很多財(cái)富。2013年，也就是Daniel Gross年僅21歲時，他的創(chuàng)業(yè)公司Cue便以4000-6000萬美元的價格(具體金額未披露)被蘋果收購。之后，他加入了蘋果，領(lǐng)導(dǎo)了蘋果的AI和搜索部門。

Daniel Gross也是一個活躍的天使投資者。他曾經(jīng)投資過出租車平臺Uber。、在2022年，代碼托管平臺GitHub也被Adobe公司以200億美元的價格實(shí)時合作設(shè)計(jì)軟件公司Figma收購。目前，他已經(jīng)投資了大約35家科技公司，并從中獲得了豐厚的利潤。

2017年加入YC之后，Daniel Gross推出了YC的AI投資項(xiàng)目。一年后，他還成立了創(chuàng)業(yè)加速器和基金Pioneer，專門尋找科技領(lǐng)域的初始投資機(jī)會。

Daniel Gross還與著名的硅谷投資人Natt Friedman已經(jīng)多次合作。Nat 作為一名連續(xù)創(chuàng)業(yè)者，F(xiàn)riedman在公司被微軟收購后進(jìn)入微軟工作，從官員到微軟副總裁。GitHub在微軟收購GitHub后擔(dān)任GitHub CEO。Daniel Gross和Nat Friedman參與了Uber、GitHub和Figma等公司的投資。

在2023年，他們?nèi)匀换ㄙM(fèi)了1億美元，建立了一個名為Andromeda的AI算率集群，并且利用這些算率來換取AI初創(chuàng)公司的股份。這個算率集群擁有近3000英偉達(dá)H1000元 大量的GPU計(jì)算基礎(chǔ)設(shè)施，僅GPU就重約5噸。看起來SSI公司的計(jì)算能力是不必?fù)?dān)心的。

SSI公司在美國帕洛阿爾托和以色列特拉維夫設(shè)立了辦事處。他們說，公司在當(dāng)?shù)赜兄詈竦幕A(chǔ)，有能力招聘頂尖技術(shù)人才。

帕洛阿爾托是美國舊金山灣的一個重要城市，位于硅谷中心，是創(chuàng)業(yè)的風(fēng)水寶地。它曾經(jīng)是惠普總部的位置，喬布斯小時候就在這里長大，特斯拉也在這里布局了他們的全球工程和AI總部。

Daniel是SSI創(chuàng)始人之一。 Levy大學(xué)在斯坦福讀書，而斯坦福的校園距離帕洛阿爾托的市中心只有幾分鐘的距離，這可能會讓SSI體驗(yàn)到斯坦福強(qiáng)大的校友資源。

在庫比蒂諾的總部，帕洛阿爾托離蘋果只有十多公里。Daniel 在蘋果公司擔(dān)任AI和搜索部門領(lǐng)導(dǎo)時，Gross積累的人脈可能會在創(chuàng)建SSI時發(fā)揮作用。

Ilya和Daniel的兩位創(chuàng)始人 Gross和以色列也有很大的關(guān)系。Daniel 出生于耶路撒冷的Gross，Ilya是一個出生于俄羅斯的猶太人，5歲時隨家人移民到以色列。在以色列開放大學(xué)學(xué)習(xí)了兩年后，Ilya移民到加拿大轉(zhuǎn)學(xué)到多倫多大學(xué)。在Sam 當(dāng)Altman進(jìn)行全球巡演時，Ilya還特別參加了以色列特拉維夫大學(xué)的分享活動。

幾位創(chuàng)始人還邀請了對開發(fā)安全超級智能系統(tǒng)感興趣的工程師和研究人員，讓他們加入這個聰明的團(tuán)隊(duì)，共同解決這個時代最重要的技術(shù)挑戰(zhàn)。

03.結(jié)論：Ilya不要忘記你的主動心態(tài)，通往超級智能的道路可能會更安全。

事實(shí)上，Ilya與他人共同創(chuàng)立的SSI愿景與OpenAI最初的愿景非常相似。自成立以來，OpenAI一直將公司的使命定義為確保AGI惠及人類，并將安全視為核心任務(wù)。然而，隨著公司規(guī)模的擴(kuò)大和融資需求的增加，OpenAI逐漸改變了自己的經(jīng)營風(fēng)格和公司結(jié)構(gòu)，并將成長視為公司的主要任務(wù)之一。

在接受彭博獨(dú)家采訪時，Ilya強(qiáng)調(diào)，他希望新公司SSI開發(fā)的產(chǎn)品能夠成為一股善良的力量，體現(xiàn)人類共同認(rèn)同的價值觀。Ilya認(rèn)為，未來將會有一個超級智能系統(tǒng)，可以獨(dú)立開發(fā)AI技術(shù)。SSI的目標(biāo)是提高這些系統(tǒng)的安全性，讓這些系統(tǒng)發(fā)展出強(qiáng)大的能力，造福人類。

通往超級智能的道路上，有這樣一股重視安全和人類整體利益的力量，或許可以讓我們都放心不少。

本文來自微信微信官方賬號的“智東西”（ID：zhidxcom），編輯：陳駿達(dá)，編輯：Panken，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com