自前 OpenAI 創(chuàng)始人，首席科學(xué)家 Ilya Sutskever 一個(gè)月后，官宣辭職，Ilya 最后終于有了新消息：成立新公司 SSI，致力于超級(jí)智能的安全。

今日凌晨，Ilya 在 X 上面“官宣”了這個(gè)消息。

Ilya 寫道，“我們將直截了當(dāng)?shù)刈非蟀踩悄埽╯afe superintelligence，SSI），只有一個(gè)重點(diǎn)，一個(gè)目標(biāo)和一個(gè)產(chǎn)品。。這個(gè)目標(biāo)將通過一個(gè)小小的精干團(tuán)隊(duì)所取得的革命性突破來實(shí)現(xiàn)。

接受彭博社采訪時(shí)，Ilya 表示，“它完全不受外界壓力的影響，不需要處理龐大而復(fù)雜的商品，也不需要陷入競(jìng)爭(zhēng)激烈的賽跑。?！?/p>

據(jù) SSI 根據(jù)企業(yè)官方消息，他們通過革命性的工程和科學(xué)突破解決了安全和能力作為技術(shù)問題，并計(jì)劃盡快提高自己的能力，同時(shí)確保我們的安全始終處于領(lǐng)先地位。

這樣，我們就可以安心地?cái)U(kuò)大規(guī)模。

“我們的專注意味著我們不會(huì)受到管理成本或產(chǎn)品周期的影響。我們的商業(yè)模式意味著短期的商業(yè)壓力不會(huì)影響安全、安全和進(jìn)步?！?/p>

以下是完整的公告：

超智能已觸手可及

在我們這個(gè)時(shí)代，構(gòu)建安全的超級(jí)智能是最重要的技術(shù)問題。

世界上第一個(gè)致力于安全的超級(jí)智能實(shí)驗(yàn)室已經(jīng)啟動(dòng)，目標(biāo)和商品只有一個(gè)：安全超級(jí)智能。

它的名字叫 Safe Superintelligence Inc.。

安全超智能是我們的使命、名稱和整個(gè)產(chǎn)品路線圖，因?yàn)樗俏覀兾ㄒ魂P(guān)注的問題。我們的團(tuán)隊(duì)、投資者和商業(yè)模式都是為了實(shí)現(xiàn)。 SSI 而努力。

我們以安全和能力為技術(shù)問題，通過革命性的工程和科學(xué)突破來解決。我們計(jì)劃盡快提高我們的能力，同時(shí)確保我們的安全始終處于領(lǐng)先地位。

通過這種方式，我們可以放心地?cái)U(kuò)大規(guī)模。

我們的專注意味著我們不會(huì)受到管理成本或產(chǎn)品周期的影響，我們的商業(yè)模式意味著短期的商業(yè)壓力不會(huì)影響安全、安全和進(jìn)步。

我們?cè)诿绹?guó)成立了這家公司，目前在帕洛阿爾托和特拉維夫設(shè)立了辦事處。在那里，我們有著深厚的基礎(chǔ)和招聘頂尖技術(shù)人才的實(shí)力。

我們正在組建一支由世界上最好的工程師和研究人員組成的高素質(zhì)、高效率的團(tuán)隊(duì)，只專注于安全和超智能，而不是其他。

假如你是這樣的人，我們將為你提供一個(gè)機(jī)會(huì)，幫助你解決我們這個(gè)時(shí)代最重要的技術(shù)挑戰(zhàn)。

現(xiàn)在是時(shí)候了。加入我們

Ilya Sutskever, Daniel Gross, Daniel Levy

2024 年 6 月 19 日

幾十年來，研究人員一直在思考如何使人工智能系統(tǒng)更加安全。目前的技術(shù)水平是利用人類和人工智能引導(dǎo)軟件朝著符合人類最佳利益的方向發(fā)展。在很大程度上，如何阻止人工智能系統(tǒng)失控仍然是一個(gè)哲學(xué)問題。

正如公司名稱所強(qiáng)調(diào)的那樣，Ilya 把人工智能的安全放在第一位。當(dāng)然，關(guān)鍵在于確定是什么讓人工智能系統(tǒng)比另一個(gè)系統(tǒng)更安全，或者是什么讓人工智能系統(tǒng)更安全。。

Ilya 他說，他花了幾年時(shí)間思考安全問題，并且已經(jīng)想到了一些方法。但是具體的細(xì)節(jié)還沒有透露出來。

但是他說，新公司將嘗試通過人工智能系統(tǒng)中的工程突破來實(shí)現(xiàn)安全，而不是依靠臨時(shí)應(yīng)用于技術(shù)的保護(hù)措施。他說，"我們所說的安全是指像核安全這樣的安全，而非‘信任與安全’那樣的安全."

“我們可以說，我們希望這是一種善良的力量。我們希望它能在一些關(guān)鍵價(jià)值觀的基礎(chǔ)上運(yùn)行。我們考慮的一些價(jià)值觀可能是過去幾百年取得巨大成就的價(jià)值觀?！?/p>

除了 Ilya，SSI 公司還有另外兩個(gè)創(chuàng)始人。其中一個(gè)是投資者，前蘋果的人工智能主管Daniel Gross，由于支持的原因，他包括 Keen Technologies 其中有許多備受關(guān)注的家庭。 AI 創(chuàng)業(yè)公司備受關(guān)注；另一位創(chuàng)始人是Daniel Levy，他曾在 OpenAI 與 Ilya 一起共事。

鑒于 Ilya 近幾個(gè)月來，人工智能行業(yè)幾乎處于神話般的地位，其身份不確定性一直是硅谷的焦點(diǎn)。作為一名大學(xué)研究員和谷歌后來的科學(xué)家，他在人工智能發(fā)展的一系列關(guān)鍵進(jìn)展中發(fā)揮了重要作用。他在 OpenAI 早期參與協(xié)助 OpenAI 吸引了對(duì)他的成功十分重要的頂級(jí)人才，他也因提倡建立越來越大的模型而聞名， ChatGPT 它的崛起起著至關(guān)重要的作用。

Ilya 說，大型語(yǔ)言模型將在安全超級(jí)智能中發(fā)揮重要作用，但是它們的目標(biāo)是更強(qiáng)大的物品。對(duì)于現(xiàn)在的系統(tǒng)，“你和它說話，然后你就完成了”。他追求的系統(tǒng)將更加實(shí)用和可擴(kuò)展?！澳阏f的是一個(gè)巨大的自主研發(fā)技術(shù)非常數(shù)據(jù)中心。這瘋了嗎？我們希望為它的安全做出貢獻(xiàn)。"

參考鏈接

https://twitter.com/ilyasut/status/1803472978753303014

https://www.bloomberg.com/news/articles/2024-06-19/openai-co-founder-plans-new-ai-focused-research-lab

本文來自微信微信官方賬號(hào)“學(xué)術(shù)頭條”（ID：SciTouTiao），作者：學(xué)術(shù)頭條，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com