每一個(gè)人都可以擁有“照妖鏡”來檢驗(yàn)AI造假！

清華獨(dú)角獸創(chuàng)業(yè)公司發(fā)布了面向個(gè)人的商品級(jí)檢測(cè)工具，能夠使AI偽造的圖像、音頻和視頻顯示原形。

并且不需要上傳材料，可以主動(dòng)檢測(cè)網(wǎng)頁(yè)和視頻會(huì)議中的內(nèi)容和人臉真?zhèn)危?strong>立即提醒。

這個(gè)工具是由清華大學(xué)朱軍教授和學(xué)生田天博士共同創(chuàng)造的。（RealAI）打造，名字叫“尊嘟假嘟”，英文名RealBelieve。

隨著視頻生成模型質(zhì)量的不斷提高，越來越難識(shí)別AI造假。因此，該團(tuán)隊(duì)基于深度學(xué)習(xí)技術(shù)構(gòu)建了一套完整的多模態(tài)，多角度AIGC檢測(cè)技術(shù)系統(tǒng)。

“尊嘟假嘟”正是在這一技術(shù)之上建立起來的，目前已經(jīng)開始進(jìn)行內(nèi)測(cè)征集，通過申請(qǐng)后即可感受。

01 吃瓜群眾的“AI照妖鏡”

AI造假可謂是防不勝防，從背景與人臉的更換，到使用AI模型讓人做出指定的表情或動(dòng)作。

另一方面，犯罪分子利用AI炮制虛假內(nèi)容，對(duì)受害者的個(gè)人聲譽(yù)和輿論產(chǎn)生了巨大的負(fù)面影響；

另外，AI造假也被用于詐騙活動(dòng)，不僅損害了被冒充者的聲譽(yù)，而且給受騙者帶來了巨大的經(jīng)濟(jì)損失。

今年年初，一些犯罪分子利用深度偽造制作了一個(gè)假視頻會(huì)議，騙取了一家公司1.8億元的巨額資金。

除正確引導(dǎo)和增加打擊力度外，使用戶能更好地判斷信息的真實(shí)性，也是一種重要的保護(hù)方法。

以往的AI造假檢測(cè)工具主要面向?qū)I(yè)人員，而且通常需要將內(nèi)容提取出來，然后上傳到檢測(cè)平臺(tái)進(jìn)行判斷。

但是如果只是一個(gè)普通的網(wǎng)絡(luò)視頻，讓吃瓜的人用這樣的流程來辨別真?zhèn)?，難免會(huì)顯得有些繁瑣。

所以在支持上傳檢測(cè)的同時(shí)，“尊嘟假嘟”也可以主動(dòng)進(jìn)入視頻流，顧客一邊吃瓜，系統(tǒng)可以一邊判斷這瓜到底是“保不保熟”。

舉例來說，一旦進(jìn)入Sora的宣傳頁(yè)面，系統(tǒng)就會(huì)對(duì)網(wǎng)頁(yè)中的Demo視頻進(jìn)行提醒，提示訪問者這段視頻的“AI含量”非常高。

另外，針對(duì)AI詐騙日益猖獗的情況，尊嘟假嘟還支持AI生成在視頻聊天中的實(shí)時(shí)監(jiān)控和保護(hù)。

在視頻聊天當(dāng)時(shí)不需要截取視頻上傳，尊嘟假嘟會(huì)及時(shí)主動(dòng)向客戶發(fā)出預(yù)警內(nèi)容，提醒對(duì)方人臉上是否有AI生成的風(fēng)險(xiǎn)。

即時(shí)風(fēng)險(xiǎn)提示可以幫助用戶及時(shí)調(diào)整聊天話題，快速確定對(duì)方的身份，減少不必要的麻煩，讓用戶在“AI安全保障”中隨時(shí)隨地進(jìn)行視頻聊天。

02 “貓鼠游戲”AI造假和防偽

瑞萊智慧創(chuàng)始人、算法科學(xué)家蕭子豪透露，針對(duì)“尊嘟假嘟”背后的技術(shù)原理，該產(chǎn)品背后的檢驗(yàn)?zāi)Ｐ?strong>以貝葉斯深度學(xué)習(xí)技術(shù)開發(fā)為基礎(chǔ)。

該團(tuán)隊(duì)建立了一套多模態(tài)AIGC檢測(cè)技術(shù)系統(tǒng)，可以探索和建模AI生成線索的多模態(tài)、多層次、多角度，衡量真?zhèn)尾町?，并做出不確定的推理決策。

實(shí)際上，在欺詐手段和防御手段之間，一直有一個(gè)“貓鼠游戲”。

一開始AIGC的內(nèi)容還是“一見鐘情”，然后“進(jìn)化”了一些之后，還是可以通過常識(shí)來判斷人眼，比如視頻中人物的眨眼頻率不合理，部分區(qū)域的連接不自然等等。

然而，隨著AIGC能力的提升，這些“常識(shí)”逐漸被模型所掌握，越來越難以用人眼識(shí)別。因此，測(cè)試方法也在進(jìn)化，人們開始研究如何用機(jī)器學(xué)習(xí)進(jìn)行分析。

例如，通過分析目標(biāo)內(nèi)容的信號(hào)頻譜，或檢查圖像中的噪聲，探索內(nèi)容中的“AI痕跡”。

然而，這場(chǎng)互相追逐的斗爭(zhēng)從未停止。一方面，原因是用來檢驗(yàn)AI模型本身就是一個(gè)AI，偽造者可以通過對(duì)抗訓(xùn)練來避免檢驗(yàn)和招聘。

與欺詐相比，識(shí)別方法似乎通常滯后。因此，瑞萊智慧在研究檢測(cè)算法的同時(shí)，也會(huì)對(duì)自己的方法進(jìn)行防御性攻擊，努力讓檢測(cè)走在欺詐的前面。

事實(shí)上，早在2018年成立之初，瑞萊智能團(tuán)隊(duì)的主要研究目標(biāo)就是AI生成檢測(cè)技術(shù)，為專業(yè)人士推出了DeepRealAI內(nèi)容檢測(cè)平臺(tái)。、RealGuard等相關(guān)產(chǎn)品，人臉AI安全防火墻，不斷迭代升級(jí)。

在整個(gè)行業(yè)中，人工智能安全問題備受關(guān)注，深入學(xué)習(xí)教父Hinton，以及ChatGPT的發(fā)明者，OpenAI前首席科學(xué)家Ilya，都在呼吁人們關(guān)注人工智能安全。

就在這兩天，Ilya剛剛宣布成立一家公司，探索的就是安全超智能。

然而，相比之下，Ilya公司似乎更關(guān)注AI的未來，但現(xiàn)在，判斷和檢查AI造假仍然是一項(xiàng)緊迫的任務(wù)。

PS：目前，尊嘟假嘟RealBelieve已經(jīng)開始征集內(nèi)部測(cè)試。通過申請(qǐng)后，您可以嘗試上述功能。感興趣的讀者可以通過評(píng)論區(qū)的頂部鏈接注冊(cè)。

本文來自微信微信官方賬號(hào)“量子位”（ID:QbitAI），作者：關(guān)注前沿技術(shù)，授權(quán)發(fā)布36氪。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com