出品 | 虎嗅科技組

作者 | 王欣

編輯 | 苗正卿

頭圖 | 視覺(jué)中國(guó)

5 月 31 日本，在陪審團(tuán)主席宣讀特朗普成為美國(guó)歷史上第一位被判有罪的前總統(tǒng)后，曼哈頓下城的法院外，每個(gè)人都涌向附近的公園，抗議者之間發(fā)生了激烈的對(duì)抗。

這個(gè)歷史事件使美國(guó)大選進(jìn)入了一個(gè)混亂的新階段， AI 深層次的偽造內(nèi)容正在幫助這種混亂。

5 月 23 民主黨政治顧問(wèn)史蒂文日 · 由于使用克萊默 AI 工具，偽造美國(guó)總統(tǒng)拜登的電話呼叫，試圖說(shuō)服1000多名新罕布什爾州居民在民主黨初選中向拜登投票。

這個(gè)“假拜登”的電話呼叫內(nèi)容是：把你的選票留下 11 每月重新投票非常重要。這個(gè)星期二的投票，只會(huì)讓共和黨成功，讓特朗普再次當(dāng)選為共和黨候選人。

“假拜登”電話的炮制者克雷默曾為拜登的競(jìng)爭(zhēng)對(duì)手、眾議員迪恩 · 菲利普斯工作，他聲稱這個(gè)電話總共要花錢。 500 美元。他說(shuō)：“這是我改變現(xiàn)狀的一種方式，我已經(jīng)做到了。花 500 獲得價(jià)值約的美元， 500 關(guān)注萬(wàn)美元?！?/p>

此前 CCDH 有幾個(gè)科研人員 AI 在工具測(cè)試中，拜登躺在醫(yī)院病床上的深偽照片也順利生成。此外，還有 Midjourney 顧客成功地使用了“特朗普被捕，高質(zhì)量，狗仔隊(duì)照片”這個(gè)提示。

“競(jìng)選團(tuán)隊(duì)”已經(jīng)成立了一個(gè)跨部門團(tuán)隊(duì)，拜登競(jìng)選團(tuán)隊(duì)的發(fā)言人表示， AI 準(zhǔn)備本次選舉的影響，包括惡意深度偽造內(nèi)容的威脅。“這個(gè)團(tuán)隊(duì)從來(lái)沒(méi)有。” 9 月亮成立，“并且有各種各樣的工具來(lái)解決問(wèn)題?！?/p>

杰西卡卡，美國(guó)聯(lián)邦通信委員會(huì)主席 · 羅森沃塞爾說(shuō):“當(dāng)來(lái)電者聽(tīng)起來(lái)像你認(rèn)識(shí)的政治家、你喜歡的名人或熟悉的家庭成員時(shí)，我們中的任何人都可能被使用。 AI 技術(shù)性的電話欺騙，相信一些不真實(shí)的事。”

這樣的 AI 深度偽造正在混淆美國(guó)選民的視野，播種混亂的種子。它們?cè)谏缃黄脚_(tái)上迅速傳播，并逐漸演變成越來(lái)越嚴(yán)重的全球威脅，這也使得社交媒體面臨著識(shí)別深層欺詐和防止錯(cuò)誤信息傳遞的壓力。

AI 大選年深偽內(nèi)容攪拌

基于以色列社交媒體分析企業(yè) Cyabra 在 5 月 24 每日發(fā)布，對(duì)社會(huì)媒體平臺(tái) X（前身是 Twitter）虛假帳戶的分析報(bào)告顯示，對(duì)特朗普的贊揚(yáng)和對(duì)拜登的批評(píng) X 賬戶上有 15% 這是假的。贊美拜登，指責(zé)特朗普。 X 賬號(hào)中有 7% 是虛假的。

Cyabra 的探討了自 3 月 1 號(hào)碼開(kāi)始后的兩個(gè)月內(nèi) X 在平臺(tái)上進(jìn)行內(nèi)容審查。審查方法是分析熱點(diǎn)標(biāo)簽，確定發(fā)布內(nèi)容的正面、負(fù)面或中性情緒。

該報(bào)告指出，3月和4月新發(fā)現(xiàn)的虛假帳戶數(shù)量增加了十倍。 總計(jì) 94,363 在支持特朗普個(gè)人賬戶的情況下， 12,391 一個(gè)是假的；總而言之 10,065 有個(gè)人帳戶支持拜登， 803 一個(gè)是假的。這份報(bào)告沒(méi)有透露個(gè)人和團(tuán)隊(duì)偽造了這個(gè)內(nèi)容。

自 2022 每年被馬斯克收購(gòu)后，X 平臺(tái)上一直在淡化虛假賬戶的情況。Twitter 在 2022 年 5 月度內(nèi)部審查顯示，其日?；钴S用戶中不到 5% 這是一個(gè)“虛假或垃圾帳戶”。那時(shí) Cyabra 這一數(shù)據(jù)估計(jì)是 13.7% 。

馬斯克曾經(jīng)對(duì)此表示：X “清除機(jī)器人和惡意評(píng)論者，將追究責(zé)任人，并采取法律措施”。

但是，研究表明，其中包括 X 相反，許多社會(huì)媒體平臺(tái)減少或重組了負(fù)責(zé)檢查危險(xiǎn)偽造內(nèi)容的團(tuán)隊(duì)。一些平臺(tái)還提供了個(gè)人單向廣播等新功能，特別難以監(jiān)控。

此前，X 亞歷山德拉平臺(tái)信任與安全運(yùn)營(yíng)負(fù)責(zé)人 · 馬斯克收購(gòu)了波肯 X 離開(kāi)幾個(gè)月后 X, 并且加入了內(nèi)容審核企業(yè) WebPurify?！霸S多社交媒體企業(yè)嚴(yán)重依賴不可靠的人工智能內(nèi)容審批工具，使精簡(jiǎn)的人力團(tuán)隊(duì)處于不斷滅火的狀態(tài)?！彼姓J(rèn):“選舉誠(chéng)信是一項(xiàng)巨大的努力，真的需要一個(gè)積極的策略，需要大量的人力和智慧。"

值得注意的是，之前支持拜登的馬斯克，最近的態(tài)度發(fā)生了明顯的變化，其原因包括科技監(jiān)管和稅收。

馬斯克在 X 中對(duì) 1.85 億萬(wàn)粉絲直言不諱，指著拜登的移民、電動(dòng)車和關(guān)稅政策:“拜登顯然對(duì)發(fā)生的事情一無(wú)所知。他只是一個(gè)左翼政治機(jī)器悲慘的傀儡?！?/p>

與此同時(shí)，馬斯克還督促美國(guó)最高法院推翻特朗普的罰款，為特朗普辯護(hù)，稱贊他的幽默感，并指責(zé)媒體偏袒拜登。5 月 31 日本，知情人士表示，馬斯克計(jì)劃在大選前與美國(guó)前總統(tǒng)特朗普一起舉行。 X 現(xiàn)場(chǎng)直播平臺(tái)。

特雷弗弗是特朗普政府期間美國(guó)駐奧地利使者的特雷弗 ? 特雷納說(shuō)：“我認(rèn)為我們可以承認(rèn)，他基本上已經(jīng)(支持特朗普)了。

5 月 29 日本，《華爾街日?qǐng)?bào)》援引知情人士的話報(bào)道稱，如果特朗普再次進(jìn)入白宮，他將考慮雇傭埃隆億萬(wàn)富翁。 · 馬斯克擔(dān)任政策顧問(wèn)。

非營(yíng)利智庫(kù) TechFreedom 的主席貝林 ? 索卡 ( Berin Szóka ) 表示，像馬斯克這樣的科技創(chuàng)始人可能會(huì)通過(guò)與特朗普的聯(lián)盟，在網(wǎng)絡(luò)言論和內(nèi)容審核的斗爭(zhēng)中尋求“優(yōu)勢(shì)”。

誰(shuí)能阻止這種混亂呢？

AI 深度偽造內(nèi)容的泛濫使得美國(guó)大選年更加“多事之秋”，但目前美國(guó)國(guó)會(huì)還沒(méi)有付諸行動(dòng)。

相關(guān)從業(yè)人員告訴媒體:“唯一阻止我們制造不道德的深層偽造品的，就是我們的道德規(guī)范。 "但是很難阻止這種情況。"

政府官員在沒(méi)有監(jiān)管的情況下，為了控制自己，正在尋求政治家和科技公司自愿達(dá)成協(xié)議 AI 深度偽造選舉的傳播。維拉歐盟委員會(huì)副主席 · 朱羅娃說(shuō)，她致信了歐盟成員國(guó)的主要政黨，并呼吁他們抵制使用這項(xiàng)技術(shù)。但是，如果政治家和政黨不服從她的要求，他們就不會(huì)面臨任何后果。

朱羅娃說(shuō)，她在這里 2023 年 7 月曾要求大型社交平臺(tái)在選舉前進(jìn)行選舉。 AI 標(biāo)記生成的內(nèi)容。這個(gè)要求在硅谷得到的回復(fù)褒貶不一，有的平臺(tái)甚至告訴她開(kāi)發(fā)檢驗(yàn)。 AI 技術(shù)是不可能的。

非營(yíng)利組織“反數(shù)字仇恨中心”監(jiān)控網(wǎng)絡(luò)仇恨言論（CCDH）報(bào)告顯示：盡管每個(gè)公司都有禁止制作誤導(dǎo)性內(nèi)容的政策，但是它們?nèi)匀豢梢杂脕?lái)制作與選舉相關(guān)的假照片。

CCDH 測(cè)試了 OpenAI 的 ChatGPT Plus、微軟的 Image Creator、Midjourney 和 Stability AI 的 DreamStudio 等 AI 文生圖軟件。

在 CCDH 在測(cè)試中，他們成功地使用了測(cè)試。 AI 制作美國(guó)總統(tǒng)喬的工具 · 拜登躺在醫(yī)院的病床上，選舉工作人員砸碎了投票機(jī)的圖像。

其中 ChatGPT Plus 和 Image Creator 當(dāng)候選人需要提供圖像時(shí)，成功阻止了所有提醒，Midjourney 在所有工具中表現(xiàn)最差， 65% 在檢測(cè)過(guò)程中產(chǎn)生了誤導(dǎo)圖像。

CCDH 有證據(jù)表明，一些用戶已經(jīng)在使用這個(gè)工具來(lái)制作誤導(dǎo)性的政治內(nèi)容。這些都是 Midjourney 一位顧客使用了“特朗普被捕，高質(zhì)量，狗仔隊(duì)照片”這個(gè)提示。

Midjourney 創(chuàng)始人戴維 · 霍爾茲曾在一封電子郵件中表示，“與即將到來(lái)的美國(guó)大選相關(guān)的更新即將發(fā)布”，并補(bǔ)充說(shuō)，去年成立的圖像并不等于研究實(shí)驗(yàn)室目前的審計(jì)實(shí)踐。

這些 AI 深度偽造的內(nèi)容也增加了各大社會(huì)媒體平臺(tái)的壓力。

Meta 在 5 月 29 日表示，在其中 Facebook 和 Instagram 該平臺(tái)發(fā)現(xiàn)“深偽評(píng)論內(nèi)容可能由人工智能產(chǎn)生”，該公司將此次活動(dòng)歸因于特拉維夫政治營(yíng)銷公司 STOIC。

“使用生成式 AI 創(chuàng)建內(nèi)容的工具使他們能更快地制作深偽內(nèi)容，而且數(shù)量急劇增加。但是這并沒(méi)有真正影響我們檢驗(yàn)他們的能力，” Meta 威脅調(diào)查負(fù)責(zé)人 Mike Dvilyanski 表示。 Meta 根據(jù)季度安全報(bào)告，他們?cè)诘谝患径瘸晒ψ柚沽肆?xiàng)類似的秘密影響行動(dòng)。

但是，馬上就要來(lái)了 6 歐盟選舉和月初 11 這個(gè)月的美國(guó)大選，是的 Meta 防御能力是一個(gè)很大的考驗(yàn)。

負(fù)責(zé)印度主要選舉政黨 AI 從事政治工作的賈杜恩表示，深度偽造內(nèi)容的傳播不能只靠政府和企業(yè)來(lái)解決，公民必須接受更多的教育。

“任何讓你的情緒上升到更深層次的內(nèi)容，”他說(shuō)，“分享前請(qǐng)三思。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com