編譯| 程茜
編輯| 心緣

智東西5月21日?qǐng)?bào)道，今天，據(jù)外媒報(bào)道，斯嘉麗·約翰遜在全球票房最高的女演員、《復(fù)仇者聯(lián)盟》系列電影中扮演“黑寡婦”和被粉絲稱為“寡姐”（Scarlett Johansson）發(fā)表聲明，OpenAI GPT-Sky在4o中使用的聲音之一與斯嘉麗非常相似，斯嘉麗對(duì)OpenAI的舉動(dòng)感到“震驚”和“憤怒”，于是她的律師聯(lián)系了OpenAI，要求取消Sky。

▲斯嘉麗聲明了整篇文章

昨天晚上，OpenAI宣布在GPT-4o語(yǔ)音交互功能中刪除“Sky”聲音，用另一種名字叫做“Juniper“語(yǔ)音替代。OpenAI在聲明中明確指出:“我們認(rèn)為AI聲音不應(yīng)該刻意模仿名人獨(dú)特的聲音——Sky的聲音不應(yīng)該模仿斯嘉麗·約翰遜，而應(yīng)該屬于不同專業(yè)女演員使用自己自然說(shuō)話的聲音?！?/p>

▲部分截圖OpenAI聲明

然而，網(wǎng)友們對(duì)Sky的音質(zhì)是否與斯嘉麗相似有不同的看法。有人認(rèn)為這純粹是巧合，也有人認(rèn)為OpenAI先訓(xùn)練了類似斯嘉麗的聲音，被拒絕后稍加修改發(fā)布。

在OpenAI刪除Sky之前，一些網(wǎng)民使用GPT-4o制作了一個(gè)用Sky朗讀斯嘉麗聲明的音頻，這是一種諷刺。

第一，巧合元素太多，Altman在發(fā)布前幾天再次邀請(qǐng)，Sky沒(méi)有得到回應(yīng)就已經(jīng)上線了。

去年9月，OpenAI CEO Sam Altman便向斯嘉麗發(fā)出邀請(qǐng)，希望她能為ChatGPT配音，當(dāng)時(shí)，Altman給出的理由是，他認(rèn)為讓斯嘉麗為ChatGPT發(fā)聲，可以消除科技公司與創(chuàng)意人員的差距，幫助消費(fèi)者適應(yīng)人類和AI的巨大變化。

斯嘉麗經(jīng)過(guò)慎重考慮和個(gè)人原因，決定不參加這個(gè)項(xiàng)目。

但是在上周OpenAI重磅更新的演示中，GPT-在用戶實(shí)時(shí)交互的功能中，4o語(yǔ)音提供了五種聲音，叫做“Sky“聲音和斯嘉麗的聲音非常相似。即使是她的家人和朋友也很難在聲明中分辨出來(lái)。

此外，在GPT-4o演示發(fā)布的前兩天，Altman還聯(lián)系了斯嘉麗的經(jīng)紀(jì)人，要求她仔細(xì)考慮配音問(wèn)題，但是在他們?cè)俅温?lián)系之前，“Sky"已經(jīng)發(fā)布了。

斯嘉麗說(shuō):“當(dāng)我聽(tīng)到發(fā)布的演示時(shí)，我感到震驚和憤怒。我不敢相信Altman先生會(huì)追求一個(gè)聽(tīng)起來(lái)像我的驚人聲音?！?/p>

昨天，OpenAI宣布暫停使用Sky，并在聲明中明確表示，Sky的聲音不是模仿斯嘉麗，而是屬于不同職業(yè)女演員使用她自然說(shuō)話的聲音。

并且還提到，去年6月6日，OpenAI聘請(qǐng)的配音員、七月飛往舊金山進(jìn)行音頻，并于九月二十五日向ChatGPT發(fā)出聲音。Altman去年九月剛剛向斯嘉麗發(fā)出邀請(qǐng)。

Altman在GPT-4o當(dāng)天在社交平臺(tái)X上發(fā)了一條信息：Her"。在這部電影中，斯嘉麗為AI角色配音。去年，Altman在舊金山Dreamforce 在2023年，Her是他最喜歡的電影。

二是斯嘉麗呼吁深度造假立法

在聲明中，斯嘉麗概述了Altman。、OpenAI之前的談判過(guò)程，并在最后呼吁對(duì)深層欺詐內(nèi)容進(jìn)行適當(dāng)?shù)牧⒎ǎ源_保個(gè)人權(quán)利得到保護(hù)。

下面是斯嘉麗聲明的完整編譯：

去年九月，我收到了Sam。 Altman的邀請(qǐng)，他想雇我為現(xiàn)在的ChatGPT 4.0系統(tǒng)配音。他告訴我，他覺(jué)得我可以通過(guò)為整個(gè)系統(tǒng)發(fā)聲，在科技公司和創(chuàng)意人員之間架起一座橋梁，幫助消費(fèi)者適應(yīng)人類和人工智能的巨大變化。他說(shuō)他認(rèn)為我的聲音會(huì)讓人感到安慰。

經(jīng)過(guò)反復(fù)考慮和個(gè)人原因，我拒絕了這個(gè)建議。九個(gè)月后，我的朋友、家人和公眾注意到了這個(gè)名字。Sky“最新的系統(tǒng)聽(tīng)起來(lái)有多像我。

當(dāng)我聽(tīng)到發(fā)布的樣品時(shí)，我感到震驚、憤怒和不可思議。Altman先生會(huì)追求一個(gè)聽(tīng)起來(lái)和我很像的聲音，以至于我最親密的朋友和新聞媒體分不清區(qū)別。Altman先生甚至暗示這種相似之處是故意的，他在推特上發(fā)了一個(gè)詞“Her”–這是指我在電影中為薩曼莎的聊天系統(tǒng)配音的電影，薩曼莎與人類建立了親密關(guān)系。

ChatGPT Altman先生在4.0演示發(fā)布前兩天聯(lián)系了我的經(jīng)紀(jì)人，請(qǐng)我慎重考慮。系統(tǒng)在我們連接之前就已經(jīng)發(fā)布了。

由于他們的行為，我不得不聘請(qǐng)法律顧問(wèn)。他們給Altman先生和OpenAI寫(xiě)了兩封信，陳述了他們所做的事情，并要求他們?cè)敿?xì)解釋創(chuàng)作。Sky“確切的聲音過(guò)程。所以，OpenAI不愿意刪除”Sky”的聲響。

當(dāng)我們都在與深度假貨作斗爭(zhēng)，保護(hù)自己的肖像、作品和身份時(shí)，我相信這些問(wèn)題值得絕對(duì)澄清。我期待通過(guò)適當(dāng)?shù)牧⒎ㄒ酝该鞯姆绞浇鉀Q問(wèn)題，以幫助保護(hù)我的個(gè)人權(quán)利。

三、網(wǎng)民眾說(shuō)紛紜，Altman再一次站在輿論風(fēng)口浪尖上。

對(duì)此事件，OpenAI在推文下宣布暫停Sky聲音，有網(wǎng)友對(duì)Sky聲音的配音人員感到不滿，認(rèn)為OpenAI撤掉Sky這個(gè)熱門(mén)聲音是一個(gè)錯(cuò)誤的決定。

而且對(duì)于OpenAI已經(jīng)明確提出了非斯嘉麗的聲音，并且選擇撤回Sky來(lái)表示懷疑。

有網(wǎng)友猜測(cè)，OpenAI首先訓(xùn)練了類似斯嘉麗的聲音，然后希望和她達(dá)成協(xié)議使用，被拒絕后略有修改。有網(wǎng)友甚至認(rèn)為OpenAI可能沒(méi)有費(fèi)心修改這個(gè)聲音，而是直接發(fā)布了。

著名的AI噴霧器馬庫(kù)斯直接將矛頭指向Altman：“OpenAI股東大會(huì)是對(duì)的，即使在小事上，Altman也不總是坦率的?！?/p>

另一位網(wǎng)友提到了Altman掌舵后對(duì)OpenAI的影響：“這份聲明所描述的傲慢和缺乏判斷，OpenAI股東大會(huì)現(xiàn)在使Altman掌舵后出現(xiàn)了一個(gè)大問(wèn)題。”

有些網(wǎng)友直接總結(jié)了OpenAI的經(jīng)驗(yàn)：沒(méi)有戲劇性，OpenAI就一無(wú)是處。

結(jié)論：深度造假技術(shù)門(mén)檻降低，AI安全立法刻不容緩。

通過(guò)語(yǔ)音模仿名人深度造假技術(shù)的迅速傳播，引起了人們對(duì)虛假信息的焦慮。在此之前，一些客戶在電話中使用美國(guó)總統(tǒng)喬·拜登的AI聲音，嘗試錯(cuò)誤的初選選民，并使用這項(xiàng)技術(shù)在社交平臺(tái)上進(jìn)行詐騙。

與此同時(shí)，OpenAI最近被曝與團(tuán)隊(duì)土崩瓦解，團(tuán)隊(duì)負(fù)責(zé)人OpenAI創(chuàng)始人、首席科學(xué)家伊爾亞·蘇茨克維爾亞（Ilya Sutskever）與楊·萊克（Jan Leike）雙方都辭職了，OpenAI高管首次公開(kāi)宣稱OpenAI應(yīng)該把商品放在安全之上。

毫無(wú)疑問(wèn)，這加劇了人們對(duì)擁有頂級(jí)AI技術(shù)OpenAI的擔(dān)憂。公司未來(lái)將如何開(kāi)發(fā)新技術(shù)，尤其是用什么數(shù)據(jù)訓(xùn)練AI模型，是否愿意考慮人工智能風(fēng)險(xiǎn)，已經(jīng)成為這家頂級(jí)AI創(chuàng)業(yè)公司的一大疑問(wèn)。

正如斯嘉麗在聲明中所說(shuō)，技術(shù)的發(fā)展需要法律的約束，以透明的方式解決問(wèn)題，并通過(guò)適當(dāng)?shù)牧⒎?，確保個(gè)人權(quán)利得到保護(hù)。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com