隨著技術(shù)的不斷進(jìn)步

AI應(yīng)用場(chǎng)景越來(lái)越豐富

“一鍵換臉”，和喜愛(ài)的偶像合影

大叔通過(guò)AI技術(shù)秒變蘿莉御姐

“AI孫燕姿”剛“出道”就爆火

……

曾經(jīng)離我們很遙遠(yuǎn)的AI

如今正迅速進(jìn)入大眾生活

需要注意的是

騙子也盯上了AI技術(shù)

利用它玩起了“真假美猴王”

和你視頻對(duì)話的可能不是本人

近日

包頭警方發(fā)布一起

利用AI實(shí)施電信詐騙的典型案例

“好友”突然打來(lái)視頻

福州的郭先生在確認(rèn)過(guò)長(zhǎng)相和聲音后仍被騙

10分鐘內(nèi)被騙走430萬(wàn)元

原來(lái)是騙子通過(guò)智能AI換臉和擬聲技術(shù)

佯裝好友對(duì)他實(shí)施了詐騙

幸運(yùn)的是

接到報(bào)警后，福州、包頭兩地警銀

迅速啟動(dòng)止付機(jī)制

成功止付攔截336.84萬(wàn)元

案件披露后

#AI詐騙正在全國(guó)爆發(fā)#的話題沖上熱搜

引發(fā)網(wǎng)友廣泛關(guān)注

AI詐騙常用手法

如何防范AI詐騙

那么面對(duì)AI換臉詐騙就沒(méi)轍了嗎？

在AI時(shí)代

眼見(jiàn)、耳聽(tīng)都不一定為實(shí)了

大大增強(qiáng)了迷惑性

運(yùn)用AI技術(shù)

再加上套路和劇本的演繹

這樣的詐騙手段，小伙伴們要hold住

詐騙“魔高一尺”，防范“道高一丈”

監(jiān)管先行避免AI“野蠻生長(zhǎng)”

需要厘清的是，AI換臉雖然是新事物，但卻不存在“監(jiān)管空白”或“無(wú)法可依”的情況。

針對(duì)技術(shù)手段日益更新的AI詐騙事件，2022年11月25日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱規(guī)定），自2023年1月10日起施行。規(guī)定要求深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或編輯的信息內(nèi)容，應(yīng)當(dāng)添加不影響使用的標(biāo)識(shí)。提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。要求任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。

今年4月11日，國(guó)家網(wǎng)信辦起草了《生成式人工智能服務(wù)管理辦法》（征求意見(jiàn)稿），提出AI內(nèi)容必須真實(shí)準(zhǔn)確，其中也明確提到，禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

【溫馨提示】

使用AI“換臉”及類似軟件風(fēng)險(xiǎn)極高，伴隨著法律風(fēng)險(xiǎn)和侵權(quán)糾紛?！癆I換臉技術(shù)”即便只是用來(lái)搞笑或者制作惡搞照片，也有可能涉及侵犯肖像權(quán)、名譽(yù)權(quán)，造成嚴(yán)重后果的，還可能構(gòu)成侮辱罪或者誹謗罪。希望大家依法使用該項(xiàng)技術(shù)，一旦遇到類似本案中利用“AI換臉技術(shù)”實(shí)施犯罪行為的，應(yīng)第一時(shí)間固定證據(jù)，并及時(shí)向司法機(jī)關(guān)報(bào)案。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com