不，現(xiàn)在AI造假都這么離譜嗎？

前幾天央視曝光了“苗古金貼”騙局。這款產品的推廣名字不小，號稱是由傳承“千年秘方”的非遺傳傳承人制作的。此外，“非遺傳傳承人”證書和“非遺傳傳承人”照片也像樣被曝光。此刻銷量暴漲，上了電商暢銷榜，總銷量幾十萬。真的很恐怖。

因此，媒體深挖下來，傳承人的照片實際上是AI產生的，面部表情僵硬，手掌有六指，光源美得離譜，一眼就假了。

而且所謂的“非遺傳承人”證書是機構非法制作的，花兩三千元就能買到；“苗古金貼”由第三方代工廠貼牌生產，費用不到10元。“千年秘方”、治療頸椎問題只不過是借助AI來割韭菜的騙術。

AI產生的人物，偽造的品牌證書，品牌生產的商品，整個事件變得神奇起來。最后，有關部門介入，對有關企業(yè)和涉案人員進行了立案調查，這波賣假藥的人等待法律審判。

這個事件也讓小雷想起了以前電視上的那個。“作出違反祖先決定”“神醫(yī)”，同樣是各種光暈傍身，家族傳承下來的藥方，也是公然出售假藥。

只是之前的“神醫(yī)”是出現(xiàn)在電視上還是真人，現(xiàn)在的“神醫(yī)”是出現(xiàn)在互聯(lián)網(wǎng)上還是出現(xiàn)在AI上，真的是“沒有這個人”。

但是電視上的“神醫(yī)”至少還有真人出鏡扮演“神醫(yī)”，這種“情感價值”或多或少增加了一些可信度。

沒有“苗古金貼”那么離譜，AI直接生成人物圖片就出來作弊。然而，仍然有那么多人被愚弄。整個事件讓小雷感到不可思議，但它真的出現(xiàn)了。只能說世界是一個草臺團隊。

AI技術“失控”

今年是AI技術飛速發(fā)展的一年。AI公司也開發(fā)了AI生成圖片、AI生成視頻、AI生成代碼等功能?？梢哉f，目前的AI技術已經(jīng)進入了一個新的階段。

此前央視315晚會曝光了AI詐騙的違法行為，目前比較常見的主要是AI詐騙產生AI聲音與AI變臉另外，隨著AI技術的不斷發(fā)展，成本也越來越低，只需幾十塊錢，就可以定制AI深度生成名人音頻視頻。

而且圍繞AI技術，也構成了呼出產業(yè)鏈。呼出公司使用人工智能機器人撥打營銷電話。機器人不知疲倦，白天黑夜都可以撥打營銷電話。此外，呼出公司提前用真人錄音將AI復制復制成機器人聲音，這使得接聽者很難區(qū)分電話那頭是人還是機器人。

小雷曾經(jīng)接到過這樣一個叫AI的電話。真的很難在兩三分鐘內聽到是真人還是AI。后來發(fā)現(xiàn)對面沒有呼吸的聲音，就判斷是AI，但足以蒙蔽別人。

另外，據(jù)新京報報道，現(xiàn)在圍繞AI技術也形成了一條完整的黑色產業(yè)鏈：上游技術負責銷售“AI變臉套餐”，而中游則利用非法獲取的個人信息投放詐騙信息，而下游則通過虛擬貨幣和跑分平臺轉移資金。“技術、數(shù)據(jù)、資金”三位一體”，編織了一張AI詐騙網(wǎng)，讓很多用戶陷入其中。

近兩年，使用AI技術假冒名人實施違法行為時有發(fā)生。張文宏、靳東、雷軍等名人深受其害:騙子用“AI靳東”詐騙，很多女性消費者上當；張文宏博士“帶貨”沖上熱搜，但這是AI變臉后的“張文宏”。稍微懂一點AI的朋友一眼就能看出來是假的，但是還是有很多老人被騙了，在“AI張文宏”買了貨。

這件事也讓張文宏醫(yī)生束手無策，他也曾向媒體透露自己沒有辦法投訴，不勝其煩。

雷軍的遭遇更加離譜。2024年國慶期間，“雷軍語音包”引發(fā)熱議。很多以“雷軍”聲音為配音的內容在社交平臺上迅速傳播，“銳評”假期堵車、游戲等話題也出現(xiàn)了很多粗言穢語。結果出現(xiàn)了“國慶7天，被AI雷軍罵了8天”的調侃。

雷軍本人也專門為此發(fā)了一段視頻，呼吁大家不要再用自己的聲音惡搞了。

靳東、雷軍等名人的遭遇也讓我們看到了AI技術濫用的后果，以前注重耳聽為實，眼見為實，但是在互聯(lián)網(wǎng)AI時代，耳朵聽到的可能是假的，眼睛看到的也不一定是真的。

而且使用AI技術圍獵的不僅僅是老年人，甚至年輕人也會掉進坑里。據(jù)《東南早報》報道，福建某公司老板郭某接到“朋友”的視頻聊天，向郭某借錢。不到十分鐘，郭某就被騙了430萬元。后來發(fā)現(xiàn)電話那頭是朋友的“數(shù)字身體替身”——臉是直接AI換的，聲音也是AI擬聲技術生成的。問題是受害者對此一點警覺都沒有，這有點可怕。

難怪有人擔心，以前可以通過觀察眼睛、頭發(fā)、手指等來區(qū)分AI是否產生?，F(xiàn)在這些伎倆都不是很好。如果AI再次被發(fā)現(xiàn)，恐怕真的可以達到真正的效果。

給AI技術戴上“緊箍咒”

小雷非常喜歡一句話，技術上沒有善惡之分，有善惡之分的是使用技術的人，這句話是對AI最好、最準確的描述。AI的良好使用可以幫助人類提高效率，更好地處理復雜的事務；當AI技術被用來誤導消費者，實施非法行為時，平臺和監(jiān)管者就成了伙伴。

就像上面提到的“苗古金貼”騙局一樣，你可以通過AI生成的照片來嚴格出售假貨，這暴露了電商平臺審核制度的不足。像電子商務暢銷榜這樣的名單，平臺是否有資格批準登上名單的相關門店？有沒有對店鋪投放的廣告進行逐一排查？如果平臺不重視，加強對內容的審批，恐怕會有越來越多像“苗古金貼”這樣AI產生的假人可以通過審核的離譜事件。

要斬斷“苗古金貼”、AI技術“惡之花”，如AI雷軍，也需要監(jiān)管部門的介入，盡早制定AI技術產業(yè)統(tǒng)一規(guī)范，明確AI生成技術、數(shù)字人應用范圍和條件，使技術能夠更好地為人們服務。

對消費者而言，知道如何保護自己的個人信息，個人生物信息，如人臉識別、指紋等。，可以不錄就不錄；不要隨意向他人泄露身份證號、銀行卡號、短信驗證碼等敏感信息，以免后悔晚了。

另外，在資金、重要信息等方面的溝通，還是要慎重考慮，通過多種方式檢查對方的真實身份。

說到底這幾天大家掙錢都不容易，如果被AI技術騙走了，那真是得不償失。

總結

還記得幾年前AI技術剛剛高速發(fā)展的時候，很多人認為AI技術就像洪水猛獸一樣，應該把AI扼殺在搖籃里。

在小雷看來，這種想法還是偏概全的，新事物的誕生通常要經(jīng)歷一些曲折的發(fā)展，才能逐漸被世人所認可。

AI也是如此，人類所能做的就是引導AI健康發(fā)展，讓AI真正為我們所用。與其在技術泛濫的時代，不如用AI給人類添堵。

當然要制止AI變臉詐騙、AI照片謀取不當收益等情況，除了嚴厲查處外，還要有一套全面、完整的行業(yè)標準，把AI技術關進籠子里，可以使AI更好地為人們服務。

本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。

免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com