這一標(biāo)識(shí)辦法的出現(xiàn)，旨在震懾黑灰產(chǎn)。

互聯(lián)網(wǎng)上真假難辨，去偽存真成了當(dāng)下網(wǎng)民上網(wǎng)必備技能。然而，隨著生成式人工智能（AIGC）的成熟，互聯(lián)網(wǎng)世界的一切愈發(fā)真假難分。

為解決AI虛假內(nèi)容泛濫問(wèn)題，國(guó)家網(wǎng)信辦等四部門(mén)聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》。從今年9月1日起，所有AI生成的文字、圖片、視頻等內(nèi)容需添加顯式和隱式兩種標(biāo)識(shí)。顯式標(biāo)識(shí)能被用戶(hù)明顯感知，隱式標(biāo)識(shí)則添加在生成內(nèi)容的元數(shù)據(jù)中。

與微信、抖音等平臺(tái)此前建立的AI內(nèi)容管理體系相比，新規(guī)最大變化是發(fā)布者成為AI內(nèi)容第一責(zé)任人，需對(duì)AI虛假內(nèi)容負(fù)主要責(zé)任。不過(guò)，讓內(nèi)容發(fā)布者充當(dāng)?shù)谝坏婪阑饓?，也是無(wú)奈之舉。

如今，AI成了互聯(lián)網(wǎng)最大的謠言制造機(jī)，像“AI馬斯克”騙老人退休金、“Yahoo Boys”用AI視頻搞“殺豬盤(pán)”等黑產(chǎn)利用AI作惡的消息屢見(jiàn)不鮮。黑產(chǎn)利用多模態(tài)AI大模型生成的內(nèi)容以假亂真，讓人們難以分辨。

實(shí)際上，AIGC前置技術(shù)深度學(xué)習(xí)誕生不久，黑產(chǎn)就盯上了它。但當(dāng)時(shí)機(jī)器學(xué)習(xí)有局限，使用門(mén)檻高。比如2017年的deepfakes（深度偽造）技術(shù)，雖開(kāi)源，但玩轉(zhuǎn)它所需的生成對(duì)抗網(wǎng)絡(luò)（GAN）和變分自編碼器（VAE）并非一般人能掌握。

以ChatGPT為代表的AI大模型技術(shù)出現(xiàn)，讓deepfake走入尋常百姓家。以往偽造內(nèi)容需在特定工具中反復(fù)調(diào)試參數(shù)，如今科技巨頭為爭(zhēng)奪AI時(shí)代先機(jī)，大力推進(jìn)AI技術(shù)普惠化。

大語(yǔ)言模型和多模態(tài)大模型的出現(xiàn)，讓文生音頻、文生視頻成為現(xiàn)實(shí)。眾多AI產(chǎn)品實(shí)現(xiàn)了用自然語(yǔ)言無(wú)中生有。谷歌發(fā)布的Nano - banana顛覆了Photoshop，不僅能“生圖”，還能按自然語(yǔ)言做復(fù)雜修圖，使人工編寫(xiě)內(nèi)容與AI創(chuàng)作內(nèi)容的差異越來(lái)越小。

到了2025年，若有“作惡”想法，“作案工具”唾手可得。那么，能否讓AI廠商從源頭杜絕AI大模型產(chǎn)出有害虛假內(nèi)容呢？實(shí)際上，OpenAI、谷歌等大廠一直在努力，“AI安全護(hù)欄”（AI Guardrail）就是他們?yōu)樽孉I符合人類(lèi)期望而設(shè)計(jì)的防護(hù)機(jī)制。

AI廠商通過(guò)動(dòng)態(tài)意圖分析等方式，用“安全護(hù)欄”保護(hù)AI。但“AI安全護(hù)欄”存在缺陷，因?yàn)锳I大模型要有智能就需自主決策能力，開(kāi)發(fā)者無(wú)法將安全護(hù)欄設(shè)置得密不透風(fēng)，以完全杜絕有害內(nèi)容、惡意攻擊或敏感信息泄露。

也就是說(shuō)，“AI安全護(hù)欄”若過(guò)于嚴(yán)密，AI模型會(huì)變“智障”，大廠不可能為安全讓自家AI如此。因此，他們嘗試給AI內(nèi)容打水印，讓用戶(hù)辨別。

去年夏季，微軟等公司組建C2PA，試圖用水印技術(shù)區(qū)分AI生成內(nèi)容和人類(lèi)作品。但美國(guó)研究人員發(fā)現(xiàn)，AI水印不牢固，通過(guò)調(diào)整亮度等技術(shù)就能去除。

國(guó)內(nèi)互聯(lián)網(wǎng)大廠常用的運(yùn)營(yíng)方式在AI虛假內(nèi)容面前也不太管用。為助用戶(hù)區(qū)分虛實(shí)，微信等平臺(tái)要求創(chuàng)作者主動(dòng)聲明“內(nèi)容由AI生成”，但大量創(chuàng)作者擔(dān)心被限流，導(dǎo)致很多AI生成內(nèi)容未主動(dòng)表明身份。這是因?yàn)槠脚_(tái)對(duì)AI態(tài)度復(fù)雜，既希望AI賦能創(chuàng)作，又怕低質(zhì)量AI內(nèi)容污染社區(qū)氛圍。

在當(dāng)前技術(shù)條件下，將責(zé)任傳導(dǎo)到創(chuàng)作者是遏制AI虛假內(nèi)容的有效手段。畢竟主動(dòng)炮制虛假內(nèi)容多帶有主觀惡意，一般人用AI創(chuàng)作多是“圖一樂(lè)”。

使用AI生成虛假內(nèi)容的人難以給出合理解釋?zhuān)浴度斯ぶ悄苌珊铣蓛?nèi)容標(biāo)識(shí)辦法》的出臺(tái)，無(wú)疑能震懾想用AI“搞事情”的潛在黑灰產(chǎn)。

本文來(lái)自微信公眾號(hào)“三易生活”（ID：IT - 3eLife），作者：三易菌，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com