最近一段時間，“AI”成為網(wǎng)絡(luò)熱詞。從德國媒體用AI生成“舒馬赫專訪”內(nèi)容并發(fā)表引發(fā)巨大爭議，到“AI孫燕姿”一夜爆紅，再到利用“AI換臉”10分鐘詐騙400萬元……隨著人工智能進(jìn)一步發(fā)展，原本用在影視和廣告領(lǐng)域的“AI換臉擬聲技術(shù)”被一些不法分子用來實施電信網(wǎng)絡(luò)詐騙，網(wǎng)上甚至還有人專門出售“AI換臉擬聲”軟件和教程。規(guī)范“AI換臉擬聲技術(shù)”，迫在眉睫。

　　現(xiàn)狀

　　技術(shù)門檻變低

　　被濫用頻現(xiàn)

　　近來，網(wǎng)絡(luò)上一些熱度較高的新聞似乎都與“AI換臉擬聲”有關(guān)。一名男性特效師將自己的臉替換到影視片段中，生成跟女星親吻視頻；一名網(wǎng)絡(luò)博主在地鐵拍的日常生活照，遭不懷好意之人使用AI技術(shù)“一鍵脫衣”……因“AI換臉擬聲”引發(fā)的侵權(quán)事件年來屢屢發(fā)生：去年年底，杭州互聯(lián)網(wǎng)法院審理了一起因“AI換臉”App利用深度合成算法侵害他人肖像權(quán)的案件；歌手林俊杰曾因個人肖像被用“AI換臉”技術(shù)制作了大量“鬼畜”視頻起訴短視頻博主；有人利用“AI換臉”技術(shù)傳播對演員劉昊然帶有侮辱性的視頻、截圖。

　　除了引發(fā)侵權(quán)問題，“AI換臉擬聲技術(shù)”還被一些不法分子用來實施電信網(wǎng)絡(luò)詐騙，福州的郭先生10分鐘被騙走430萬元，安徽的何先生被騙245萬元……我市尚未對外公布有利用“AI換臉擬聲技術(shù)”詐騙的案例，但警方一直對外進(jìn)行相關(guān)防騙提示。

　　“AI換臉擬聲技術(shù)”究竟是一項什么樣的技術(shù)？其適用領(lǐng)域是哪里？“在人工智能領(lǐng)域，AI換臉不算什么新鮮事。”天津科技大學(xué)人工智能學(xué)院副院長張賢坤告訴記者。這項技術(shù)最早可以追溯到2016年，當(dāng)時一家名為DeepFake的網(wǎng)站發(fā)布了一款“DeepFakeLab”的軟件，可以實現(xiàn)逼真的換臉效果?！癆I換臉指應(yīng)用人工智能(AI)技術(shù)，通過人臉特征建模，用深度學(xué)習(xí)的方法把人臉的部分特征復(fù)制到另外一個人的臉上，并使得后者看起來更像，相當(dāng)于把一個人的臉換成另外一個人的臉。”張賢坤說，這項技術(shù)原來主要用于電影、電視和廣告等領(lǐng)域，讓其中的特效更加逼真，提高觀眾的觀看體驗。如有高難度動作需要替身時，可以先讓替身實際參與拍攝后，再用“AI換臉技術(shù)”進(jìn)行后期合成，這樣一來，不僅簡單方便，還能獲得很好的拍攝效果。

　　張賢坤認(rèn)為，隨著人工智能技術(shù)的不斷發(fā)展和完善，特別是計算機算力的提升，現(xiàn)在的“換臉”效果更加逼真，在電影、電視、廣告和游戲領(lǐng)域得到了廣泛的應(yīng)用。近年來，隨著深度學(xué)習(xí)等人工智能技術(shù)的快速發(fā)展，特別是生成式對抗網(wǎng)絡(luò)GAN(一種深度學(xué)習(xí)模型)的廣泛應(yīng)用，AI合成的產(chǎn)品和服務(wù)越來越多，除了利用“AI換臉”外，還可以“換聲”。技術(shù)門檻變低，便出現(xiàn)被濫用的情況。

　　調(diào)查

　　網(wǎng)售軟件

　　就可輕易實現(xiàn)

　　記者在調(diào)查中發(fā)現(xiàn)，有不少可供免費下載的軟件，這類軟件一般都是有固定的視頻或者圖片模板，只要上傳人臉照片便可輕松實現(xiàn)“換臉”。記者嘗試在手機軟件下載程序中搜索“AI換臉”，一下子搜索出四五十款。記者選擇了一款有24萬人下載的軟件，從自己手機里隨意選取了一張正面照，上傳到軟件給出的視頻模板中，不到一分鐘就自動生成換臉視頻，毫無違和感，并且可以保存在自己的手機里、分享到社交平臺上。如果還想體驗高級功能，比如更多的模板、更快更好的效果，可以每個月花費10多元錢，解鎖會員功能。

　　AI還可以合成或克隆聲音。記者在電商平臺上搜索“AI擬聲”，有多家店鋪提供服務(wù)。其中一家店鋪寫著“AI孫燕姿、周杰倫、林俊杰，AI克隆自己”。記者從店鋪客服處了解到，花28元就能購買一款軟件，安裝在手機、電腦等電子設(shè)備上，再按照教程操作，就可以輕松將自己唱歌的聲音AI合成歌手的聲音，相似度達(dá)到98%，“非常簡單，一學(xué)就會。”客服人員說。

　　在電商平臺，還有人專門做起教人“AI換臉”的生意。商家宣傳“影視面部追蹤特效，換頭變臉換裝AI程序插件”。記者以買家身份咨詢，商家介紹，買家支付368元后，他就可以提供一個電腦程序插件，把插件安裝在電腦上，可以隨意“AI換臉”，這個插件月銷量有50多單，買家評價“操作簡單還好用”。商家提供教程，半小時包會。如果實在不會，可提供在線指導(dǎo)或者遠(yuǎn)程安裝。相對現(xiàn)成的“AI換臉”軟件多適用于已經(jīng)給出的拍照場景、影視劇片段的替換合成，這樣用于“換臉”的照片不受限制，可合成的視頻片段也不局限于影視作品，像新聞、私人視頻等都可被“換臉”。商家給記者提供了幾段通過這款插件制作的“AI換臉”視頻，動畫片《冰雪奇緣》中艾莎的臉換成了《熊出沒》里的光頭強；電影《喜劇之王》里周星馳的臉被換成了動畫人物……“效果很逼真，可以隨意換臉?！鄙碳艺f。

　　市民小劉告訴記者，她之前很喜歡看一些“AI換臉”的視頻，覺得好奇、好玩，還下載了一些軟件，經(jīng)常玩“換臉”，并把照片和視頻分享到社交平臺上。但后來她意外發(fā)現(xiàn)自己的照片被人“AI換臉”成一段搞笑視頻，她便警惕起來，刪除了所有在社交平臺上發(fā)布的照片和個人信息。與小劉一樣，現(xiàn)在越來越多人意識到，“AI換臉”是一把雙刃劍，這項技術(shù)在一些領(lǐng)域得到了很好的運用，但目前也出現(xiàn)被濫用的情況，亟待規(guī)范這項技術(shù)的使用。

　　出路

　　專家呼吁

　　首要加大預(yù)防監(jiān)管

　　天津師范大學(xué)法學(xué)院焦艷玲教授介紹，2019年，一款手機應(yīng)用程序“ZAO”發(fā)布后一時風(fēng)靡全網(wǎng)，用戶只要將自己的照片上傳至應(yīng)用程序，就可以對影視劇中人物換臉，引發(fā)了是否侵權(quán)的爭議。然而由于當(dāng)時《中華人民共和國民法典》和《中華人民共和國個人信息保護(hù)法》均未出臺，該應(yīng)用程序是否構(gòu)成侵權(quán)、違法的問題并沒有定論，只是基于該程序存在保護(hù)用戶隱私協(xié)議不規(guī)范、數(shù)據(jù)泄露風(fēng)險的安全問題，被工業(yè)和信息化部約談并要求整改。

　　而近期比較火的“AI孫燕姿”與應(yīng)用程序“ZAO”的情況相似，都是借助人工智能生成新作品，只不過前者的目的是“換聲”，后者的目的是“換臉”。兩者都需要對人工智能模型進(jìn)行信息“投喂”和訓(xùn)練，這就需要取得訓(xùn)練的素材，比如大量的人臉圖像和個人語音。

　　“人臉圖像和語音看似普通，卻蘊含一個人獨一無二的生物特質(zhì)──人臉特征信息和聲紋信息，這些都屬于生物識別信息，可以永久和唯一地識別個人身份?！苯蛊G玲說，我國于2020年和2021年分別頒布實施《中華人民共和國民法典》和《中華人民共和國個人信息保護(hù)法》，兩部法律都對使用生物識別信息進(jìn)行了詳細(xì)規(guī)定。后者明確規(guī)定生物識別信息為敏感個人信息，對此類信息的收集、存儲、使用、加工等限定了嚴(yán)格的條件──只有具有特定的目的和充分的必要性，并采取嚴(yán)格保護(hù)措施的情形下才能處理此類信息，且處理時必須取得信息主體單獨以及明示的同意。2021年，最高人民法院發(fā)布了《關(guān)于審理使用人臉識別技術(shù)處理個人信息相關(guān)民事案件適用法律若干問題的規(guī)定》，對信息處理者違反法律、行政法規(guī)的規(guī)定或者雙方的約定使用人臉識別技術(shù)，處理人臉信息、基于人臉識別技術(shù)生成的人臉信息所引起民事案件的審判進(jìn)行了全面規(guī)定。對自然人聲音的保護(hù)，依據(jù)《中華人民共和國民法典》第1023條，可以參照適用肖像權(quán)保護(hù)的相關(guān)規(guī)定。未經(jīng)同意使用他人圖像和聲音進(jìn)行AI創(chuàng)作，其行為已經(jīng)構(gòu)成了對個人生物識別信息的侵權(quán)，可以依據(jù)上述法律規(guī)范要求行為人承擔(dān)侵權(quán)責(zé)任，這一點是沒有爭議的。如果在特定場景下實施“AI換臉擬聲”，例如對不雅視頻中的人物進(jìn)行換臉，造成個人社會評價降低，還會構(gòu)成名譽權(quán)的侵權(quán)。

　　另外，2022年12月，國家多部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對我國境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)做出了全面規(guī)范。第六條規(guī)定：“任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律和行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經(jīng)濟(jì)和社會秩序、侵犯他人合法權(quán)益等法律和行政法規(guī)禁止的活動。深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息?！?/p>

　　近日，包頭警方公布“和好友語音聊天10分鐘被騙430萬元”的案件，正是利用深度合成技術(shù)侵害他人合法權(quán)益的真實寫照。根據(jù)《中華人民共和國刑法》規(guī)定，利用“AI換臉擬聲”騙取他人財產(chǎn)的行為還構(gòu)成了侵犯公民個人信息罪。2022年12月26日，最高人民法院發(fā)布指導(dǎo)性案例192號，明確使用人臉識別技術(shù)處理的人臉信息以及基于人臉識別技術(shù)生成的人臉信息屬于《中華人民共和國刑法》所規(guī)定的“公民個人信息”。竊取或者以其他方法非法獲取上述人臉識別信息，情節(jié)嚴(yán)重的，構(gòu)成侵犯公民個人信息罪。

　　“在如此全面的法律規(guī)定面前，利用‘AI換臉擬聲’實施違法行為的情況仍然屢屢發(fā)生，反映出核心問題并不在立法層面，而在于法律的執(zhí)行層面以及公民的意識層面?！苯蛊G玲認(rèn)為，加大對違法行為的預(yù)防和監(jiān)管是目前首要的任務(wù)。同時，網(wǎng)絡(luò)服務(wù)平臺應(yīng)盡責(zé)審查，通過提升技術(shù)手段，加大對違法視頻的審查力度。公眾則應(yīng)注意對個人圖像和語音的保存和保護(hù)，并加強對“AI換臉擬聲”危害的認(rèn)識，多渠道辨別視頻人物的真實性。

　　人工智能專家：

　　“AI換臉”識別軟件

　　將很快出現(xiàn)

　　那么該如何辨別“AI換臉擬聲”視頻中人物的真實性呢？張賢坤認(rèn)為，“AI換臉擬聲”技術(shù)被濫用，涉及人工智能技術(shù)的倫理問題。雖然“AI換臉擬聲”如今可以做到以假亂真，但假的就是假的，通過計算機很容易就能辨別出來。例如，一般情況下視頻是每秒24幀以上，這是人眼分辨的極限，高清視頻可能達(dá)到每秒60幀，數(shù)值越高，視頻流暢度就越高?！癆I換臉”是在每一幀不同的位置切入人臉，由于速度快，人眼難以識別，計算機卻可以進(jìn)行圖片比對，未來應(yīng)該很快會出現(xiàn)多種識別“AI換臉”圖片或者視頻的應(yīng)用軟件。

　　在目前尚無相關(guān)軟件可用的情況下，人們也可以靠關(guān)注細(xì)節(jié)來辨別真人和“AI換臉”假人。“我們都知道外人很難區(qū)分雙胞胎，但是其家人是很容易認(rèn)出他(她)們的，也就是說即使是雙胞胎，如果仔細(xì)觀察也有細(xì)微差別。至于‘AI換臉’的假人，我們可以通過對比原照片和換臉照片尋找是否有明顯差異，也可以觀察人臉的眼睛、嘴、鼻子等細(xì)節(jié)，例如，‘AI換臉’的假人臉部線條不夠柔和、眼眶和嘴巴太大或太小、整體臉部比例不協(xié)調(diào)。另外，也可以通過慢進(jìn)拉長視頻間隔，發(fā)現(xiàn)不同時間點上畫面間是否存在瑕疵來辨別真?zhèn)?。”在張賢坤看來，“AI換臉”技術(shù)更加關(guān)注的是人臉位置，還可以通過視頻前后背景等其他位置破綻識別真假。

　　提醒：

　　■ 如何防騙？

　　張賢坤特別指出，一般來說“AI換臉”的假人牙齒邊緣過于整齊，眼睛瞳孔顏色不一樣，反射光源不一致；正常人一般2到10秒眨一次眼，每次眨眼用時0.1至0.4秒，但假人眨眼頻率不正常；假人在視頻通話時，視頻會有跳動、閃爍的畫面，通話不順暢。

　　■ 如何避免被冒用身份信息

　　去詐騙身邊人？

　　焦艷玲介紹，首要就是保護(hù)好個人信息。不輕易提供人臉、指紋等生物信息，盡量不在社交平臺發(fā)布正面照片或者視頻；不要把身份證、銀行卡的照片存在手機里，不要輕易在社交軟件上透露年齡、工作、個人所在地等信息，及時卸載和注銷不常用的手機App。

本文僅代表作者觀點，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請在文中注明來源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com