逆天！如今AI換臉騙過人臉識別系統(tǒng)的情況愈發(fā)猖獗。

前段時間，南京發(fā)生了一起詐騙案。

嫌疑人收集了195萬多條他人的姓名、照片等信息，利用AI換臉軟件繞過某金融支付平臺的人臉識別系統(tǒng)，最終騙取了一萬五千元。

收集了195萬多條隱私信息，卻只騙到一萬五，看似這嫌疑人還有點“良心”。

但關鍵是，他繞過人臉識別系統(tǒng)的企圖得逞了。

大家可別掉以輕心，這種倒霉事說不定哪天就會降臨到自己頭上。

大概兩個多月前，自媒體博主@遠方青木稱，自己一個有60萬粉絲的小號突然大量群發(fā)詐騙信息。一查才發(fā)現(xiàn)，賬號密碼被改，公司法人也被更換。

不久后，@表舅是養(yǎng)基大戶發(fā)現(xiàn)，自己平時寫美股的賬號給粉絲推送了股市殺豬盤的引流廣告。

后來，@秦小明、@貓筆刀等賬號也遭遇類似情況：公司法人變更，賬號被盜，粉絲險些被騙。

所以，如果突然收到有人推薦穩(wěn)賺不賠的股票，千萬別信。要是真有這樣的信息差，大家不都能發(fā)大財了？

此次財經(jīng)大V集體被盜號，仔細查看各家聲明，幾乎都提到法人變更與人臉識別系統(tǒng)有關。

昨天可能是錢被盜，今天是公司法人被換，明天說不定連公積金賬戶都會被盯上。

我和網(wǎng)絡安全方面的行家聊過后才知道，人臉識別技術并沒有我們想象中那么可靠。

有些人臉識別系統(tǒng)的算法粗糙，甚至無需AI出馬就能輕易繞過。

人臉識別系統(tǒng)的工作原理很簡單，先通過攝像頭定位人臉，再提取五官細節(jié)，將人臉信息轉化為計算機能識別的數(shù)據(jù)，最后與本人信息進行比對。

這個流程有兩個關鍵環(huán)節(jié)，一是數(shù)據(jù)的來源，二是算法對數(shù)據(jù)的處理。

數(shù)據(jù)來源于攝像頭。

常見的小區(qū)門禁、公司考勤機多采用2D人臉識別技術，這是平面、靜態(tài)的識別方式。

其優(yōu)點是成本低，但安全性堪憂，一張高分辨率的照片或視頻就可能騙過它。

相比之下，3D人臉識別技術更安全。

一些金融和政務服務會采用3D人臉識別技術，還會疊加2D、3D、紅外等多模態(tài)識別方式。

然而，如果是經(jīng)過AI精心處理的人臉呢？

網(wǎng)絡安全業(yè)內人士傲客表示，早在2017年，就有人用GAN（生成對抗網(wǎng)絡）攻擊人臉識別系統(tǒng)，且這種情況一直存在。

生成式AI讓騙子更加猖獗。曾有案例10分鐘騙走430萬，還有冒充公司CFO詐騙近2億元。加上開頭提到的案例，用偽造的AI換臉視頻和面具騙過攝像頭已成為常見的詐騙手段。

即便有人臉識別系統(tǒng)加入搖頭、張嘴等活體檢測環(huán)節(jié)，AI換臉視頻仍有可能繞過。

我認為這與系統(tǒng)的工作原理有關。

據(jù)傲客所說，系統(tǒng)在收集人臉數(shù)據(jù)、處理數(shù)據(jù)、使用數(shù)據(jù)和存儲數(shù)據(jù)等環(huán)節(jié)都可能存在漏洞。

傲客舉了個例子，就像當年牛奶中摻三聚氰胺，機器檢測牛奶蛋白質含量是通過檢測氮元素含量，而三聚氰胺氮含量高且成本低，機器不會管它對人體是否有害。

人臉識別也是如此，算法只依據(jù)可測量的指標，只要在這些指標上取巧作弊就能繞過。

卡內基梅隆大學曾做過實驗，戴上特定花紋的眼鏡后，人臉識別系統(tǒng)將A識別成B的概率超80%，因為這種花紋是針對系統(tǒng)漏洞設計的。

還有研究人員向系統(tǒng)展示帶有攻擊指令的二維碼，系統(tǒng)按流程處理數(shù)據(jù)后，即便不是人臉也能匹配成功。

這就好比，AI換臉是偽裝成住戶騙保安，“二維碼”“花紋眼鏡”則是潛入安保中心篡改監(jiān)控。

而且不同的人臉識別系統(tǒng)水平參差不齊。

香港中文大學兩年前的研究顯示，18000個App中，有373個使用了存在安全漏洞的人臉識別模組，其中近四成是金融類App。

更有甚者，能直接篡改后臺的用戶信息。

總之，人臉識別并非百分百安全的技術。

圍繞人臉識別技術還衍生出了非法產(chǎn)業(yè)。

今年，有被封號的網(wǎng)約車司機用“虛擬相機”App繞過網(wǎng)約車平臺的人臉識別系統(tǒng)。此前媒體報道，國內一些社交、電商平臺有不少聲稱可繞過人臉識別系統(tǒng)的服務。

據(jù)貝殼財經(jīng)報道，有些黑產(chǎn)人員甚至公然宣稱能繞過哪些政務平臺的人臉識別。

真讓人擔心，現(xiàn)在到處都要刷臉，而且人臉沒法像密碼一樣更改，總不能回娘胎重造吧。

好在今年國家已出手整治人臉識別技術濫用的問題。

在技術攻防方面，很多支付、金融服務的人臉識別系統(tǒng)和工程師也在努力。

比如在輸入環(huán)節(jié)進行交叉驗證，用3D結構光建模，用紅外檢測是否為真人。雖然不能完全杜絕攻擊，但提高了偽造的成本。

也有用技術對抗技術的方法，如去年螞蟻數(shù)科發(fā)布的ZOLOZ Deeper可檢測AI換臉，國外的RealAI和Reality Defender也有檢測深度偽造的技術。

總體而言，人臉識別的攻防一直處于動態(tài)平衡，黑產(chǎn)就像蟑螂，總能找到生存空間。

我們不能置身事外，要提高警惕，別輕易泄露自己的人臉信息。

撰文：西西

本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。

免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com