AI技術(shù)的發(fā)展已經(jīng)逐漸滲透到各個(gè)領(lǐng)域，電影和電視劇的制作方式也發(fā)生了很大的變化。AI臉部交換技術(shù)已經(jīng)成為影視圈的重要組成部分。

近日，在一檔名為《萌探2024》的綜藝節(jié)目中，有一檔以“反詐騙”為主題的節(jié)目，設(shè)計(jì)了一個(gè)既刺激又具有挑戰(zhàn)性的游戲階段。嘉賓需要通過AI換臉技術(shù)打扮成親戚朋友，通過視頻聊天獲得別人的認(rèn)可。

這個(gè)綜藝節(jié)目把AI變臉玩出了新的創(chuàng)意，讓很多觀眾搞笑不斷，但是笑過之后對(duì)AI詐騙不寒而栗。

反詐騙主題綜藝節(jié)目，AI變臉惹觀眾搞笑

四月二十六日，由愛奇藝制作的全開放IP任務(wù)抵抗真人秀《萌探2024》開播。節(jié)目中精彩的AI變臉體驗(yàn)給觀眾帶來了驚喜。節(jié)目播出后，人氣持續(xù)升溫，眾多話題在全網(wǎng)各大社交平臺(tái)上熱搜，其中#向太沒有認(rèn)出向佐#在微博榜上排名前7。、#高葉效仿吳鎮(zhèn)宇一模一樣#登抖音熱榜TOP4、#向太要和吳鎮(zhèn)宇交換孩子#登上TOP9的抖音熱榜。

作為節(jié)目的亮點(diǎn)，向佐和黃子韜的表演無疑是這個(gè)節(jié)目的高潮。他們選擇了吳鎮(zhèn)宇和向佐的形象來改變他們的臉，然后打電話給向太。這一舉動(dòng)無疑是對(duì)向太智慧的考驗(yàn)，也是對(duì)觀眾洞察力的挑戰(zhàn)。

令人驚訝的是，作為視頻通話的對(duì)象，向太似乎沒有注意到這種變化，并與AI變臉后的“向佐”和“吳鎮(zhèn)宇”交談。之后，在陳嵐的帖子里，她嘲諷自己好像被向佐“電信詐騙”了，并提醒大家注意AI變臉詐騙。

此外，高葉AI變臉成吳鎮(zhèn)宇騙古力娜扎，孟子義AI變臉成高葉邀請(qǐng)演員王陽(yáng)參加綜藝節(jié)目也沒有被發(fā)現(xiàn)。徐志勝變臉楊坤給張碧晨視頻被發(fā)現(xiàn)是因?yàn)樗『迷谏磉?，而其他人因?yàn)槁曇艉湍樞偷木薮蟛町惗趲追昼妰?nèi)被識(shí)破。

事實(shí)上，在2023年11月的《王牌對(duì)王牌第八季》中，AI變臉打視頻電話的游戲環(huán)節(jié)也安排在以“反詐騙”為主題的第一期節(jié)目中。其中，當(dāng)大家都把AI變成“沈騰”的時(shí)候，整個(gè)游戲就更搞笑了，好像每個(gè)平行宇宙的騰哥都聚在一起開會(huì)。

無論是《王牌對(duì)王牌第八季》還是《萌探2024》，節(jié)目中的AI變臉環(huán)節(jié)都有著出色的直播效果，節(jié)目嘉賓和觀眾都很開心。但是笑過之后，AI變臉技術(shù)的逼真程度真的很震撼，很多時(shí)候真假難辨。

節(jié)目不是簡(jiǎn)單的停留在搞笑的方面，而是肩負(fù)著社會(huì)責(zé)任，也就是電信詐騙。對(duì)于很多人來說，AI變臉詐騙離我們的生活比較遠(yuǎn)，節(jié)目中明星的言行會(huì)讓大家真正意識(shí)到這項(xiàng)技術(shù)的真實(shí)性很難區(qū)分，然后在生活中保持警惕。

《王牌對(duì)王牌第八季》還邀請(qǐng)了來自浙江各地的嘉賓和警察拍攝“劇場(chǎng)”，介紹了AI技術(shù)的工作原理，并分享了反詐騙技巧?！睹忍?024》與“平安北京”等數(shù)十家公安新媒體矩陣賬號(hào)聯(lián)動(dòng)，發(fā)起了“萌探2024向反詐騙英雄致敬”的科普反詐騙知識(shí)話題。

隨著生成型人工智能技術(shù)的發(fā)展，通過AI技術(shù)改變臉型和聲音來模擬另一個(gè)人的真實(shí)外觀已經(jīng)不再困難。據(jù)不完全統(tǒng)計(jì)，近年來AI詐騙案件數(shù)量迅速增加，僅2023年全國(guó)就發(fā)生了至少16起。

AI變臉案急劇增加，AI產(chǎn)生的聲音使騙術(shù)更加準(zhǔn)確。

去年7月17日，一名女子在社交軟件上添加了一個(gè)自稱是埃隆·馬斯克的賬戶。在聊天過程中，她得到了該女子的認(rèn)可，并很快騙取了7000萬韓元(約36萬人民幣)。

最后，為了安撫受害者，該賬戶還發(fā)送了一段音頻，聲稱“我是埃隆·馬斯克，希望聽到這個(gè)錄音文件后能放心”，但專業(yè)人士分析了這個(gè)錄音，確認(rèn)是AI生成的。

今年年初，香港警方披露了涉及深度AI造假技術(shù)的復(fù)雜騙術(shù)，一家跨國(guó)公司的香港辦事處遭受了1.8億元的重大財(cái)務(wù)損失。該公司首席財(cái)務(wù)官和其他員工通過AI技術(shù)出現(xiàn)在視頻電話會(huì)議上，指示員工轉(zhuǎn)移資金。

因?yàn)槠渌麉⑴c者看起來和聽起來都像他認(rèn)識(shí)的同事，最后員工相信電話里的其他人都是真實(shí)的，所以他們同意匯總。 2 約合1億港元(約合 2560 萬美金)。

今年3月1日晚，劉德華電影公司發(fā)表聲明稱，微信客戶“華仔共享團(tuán)”及其相關(guān)號(hào)碼利用AI生成劉德華聲音，未經(jīng)授權(quán)在微信上發(fā)布視頻編輯，誤導(dǎo)公眾，利用劉先生的知名度獲取流量，銷售商品盈利。這一行為侵犯了劉先生的肖像權(quán)、姓名權(quán)和聲音權(quán)，并涉嫌欺詐。

AI變臉已經(jīng)很難區(qū)分真假，而AI產(chǎn)生的聲音讓整個(gè)騙術(shù)更加逼真。在社交平臺(tái)上，很多留學(xué)生發(fā)帖稱，他們遇到了利用AI生成自己的聲音在中國(guó)欺騙父母的情況。這些詐騙以綁架的名義釋放了AI產(chǎn)生的求助聲音，同時(shí)利用時(shí)間和空間的差異，在引起恐慌的心理下騙取了大量金額。

所以，在享受科技帶來便利的同時(shí)，也要提高警惕，不斷提高自己對(duì)科技安全的理念和預(yù)防能力。正如陳嵐在節(jié)目結(jié)束后的帖子中所說，“我們必須小心現(xiàn)在的AI變臉技術(shù)，謹(jǐn)防被變臉的親戚朋友欺騙”。AI變臉不僅是綜藝節(jié)目中的一個(gè)小游戲，也是我們生活中真正的詐騙手段。

面臨AI詐騙，我們?cè)撛趺崔k？

無論技術(shù)如何發(fā)展，很多詐騙套路都是以不變的方式應(yīng)對(duì)一切變化:盜取隱私，用恐懼、貪婪和情感價(jià)值編故事，假冒熟人或包裝自己獲得信任，以金錢為最終目標(biāo)。

詐騙者通常會(huì)把自己的AI變臉，打扮成家人、朋友、同事、領(lǐng)導(dǎo)等有一定交集的熟人。如果他們想完美地欺騙受害者，他們需要提前獲得面部、聲音等重要信息。因此，我們總結(jié)了一些預(yù)防欺詐的意見:

驗(yàn)證身份：1.驗(yàn)證：如果你收到一個(gè)聲稱是親戚朋友或同事的緊急求助電話或視頻聊天，你應(yīng)該通過其他方式檢查對(duì)方的真實(shí)身份(比如直接撥打?qū)Ψ揭阎碾娫?。

保護(hù)個(gè)人信息：2.個(gè)人信息：別輕易分享個(gè)人生物信息和社交帳戶，同時(shí)要警惕社交媒體上的隱私設(shè)置，限制不熟悉的人獲取個(gè)人信息。

注意異常：3.注意：溝通時(shí)要注意對(duì)方的行為是否與平時(shí)一致，如語(yǔ)言習(xí)慣、說話風(fēng)格等，如有不尋常之處，要提高警惕。

雙驗(yàn)證：4.雙驗(yàn)證：對(duì)重要的操作要求，如轉(zhuǎn)賬匯款，雙重驗(yàn)證標(biāo)準(zhǔn)，如通過銀行官方渠道或零距離確定。

反詐騙普及：把這種詐騙手法普及給家人朋友，尤其是老年人和不熟悉科技產(chǎn)品的人，因?yàn)樗麄兏菀咨袭?dāng)受騙。

使用安全軟件：6。為避免惡意程序收集個(gè)人信息，確保電腦和手機(jī)安裝了最新的安全軟件。

關(guān)注官方信息：7。密切關(guān)注政府、金融機(jī)構(gòu)和網(wǎng)絡(luò)安全機(jī)構(gòu)發(fā)布的反欺詐提示和警告。

8.報(bào)警處理：如果發(fā)現(xiàn)有可能發(fā)生變臉詐騙，應(yīng)立即停止所有交易并聯(lián)系警方。

除了提高警惕意識(shí)和自我防范之外，還需要法律、法規(guī)等各方面的控制。對(duì)于AI面部交換技術(shù)，一般采取一系列法律應(yīng)對(duì)策略，包括加強(qiáng)監(jiān)管、制定嚴(yán)格的法律法規(guī)、追究相關(guān)責(zé)任人的法律責(zé)任等。此外，數(shù)字水印、身份認(rèn)證等技術(shù)手段也可用于防范和打擊非法行為。

為了規(guī)范人工智能的發(fā)展，去年1月10日，國(guó)家互聯(lián)網(wǎng)信息辦、工業(yè)和信息化部、公安部聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理?xiàng)l例》正式實(shí)施，生成數(shù)據(jù)和技術(shù)管理?xiàng)l例明確。其中提到：深度生成服務(wù)供應(yīng)商應(yīng)在不影響使用的情況下添加使用服務(wù)生成或編輯的信息內(nèi)容的標(biāo)志。如果提供生成或顯著改變信息功能的服務(wù)，如智能對(duì)話、生成人聲、人臉生成、沉浸式擬真場(chǎng)景等。，應(yīng)顯著標(biāo)記，以防止公眾混淆或誤解。

近日，一些平臺(tái)和企業(yè)發(fā)布了“關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范和行業(yè)倡議”，明確禁止使用生成人工智能技術(shù)創(chuàng)作和發(fā)布侵權(quán)內(nèi)容，包括但不限于肖像權(quán)和知識(shí)產(chǎn)權(quán)。一旦發(fā)現(xiàn)，平臺(tái)將受到嚴(yán)厲處罰。

近年來，隨著人工智能技術(shù)的快速發(fā)展，人工智能在許多領(lǐng)域取得了驚人的成就。從語(yǔ)音助手到自動(dòng)駕駛，從醫(yī)療診斷到金融風(fēng)險(xiǎn)控制，人工智能對(duì)我們的生活和工作產(chǎn)生了深遠(yuǎn)的影響。然而，隨之而來的安全隱患不容忽視。我們應(yīng)該更加重視對(duì)人工智能技術(shù)的監(jiān)督和規(guī)范，以更好地發(fā)揮積極作用，最大限度地避免其不良影響。

寫在最后

AI浪潮的席卷也讓詐騙更加猖獗，而第二期AI變臉綜藝節(jié)目則是在搞笑的同時(shí)宣傳詐騙知識(shí)，幫助更多人認(rèn)識(shí)到AI變臉詐騙的嚴(yán)重性。作為普通人，我們通常是技術(shù)變革浪潮中的一朵浪花。面對(duì)超乎想象的迭代AI技術(shù)，我們所能做的就是跟上時(shí)代。

雖然我們不能因?yàn)橐速M(fèi)食物，但我們不能忽視它的雙刃劍效應(yīng)。如果缺乏適當(dāng)?shù)囊?guī)則，AI可能會(huì)打開潘多拉魔盒。因時(shí)制宜，揚(yáng)長(zhǎng)避短，可以促進(jìn)科技輔助生活的美好未來。

本文來自微信微信官方賬號(hào)“元宇宙新聲”（ID:NFTMall），作者：元時(shí)文化，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com