Airbnb此次遭遇的事件，或許僅僅是個(gè)開(kāi)端。

不管是否愿意承認(rèn)，如今AI正在改變世界。打工人借助它提升工作效率，互聯(lián)網(wǎng)大廠也將其當(dāng)作裁員的理由，讓大批打工人失去工作。同時(shí)，它還成了居心不良的黑灰產(chǎn)團(tuán)隊(duì)的工具，此前#僅退款A(yù)I圖#登上微博熱搜，引發(fā)廣泛關(guān)注。在這種形勢(shì)下，海外商家也開(kāi)始使用AI。

據(jù)《衛(wèi)報(bào)》報(bào)道，今年早些時(shí)候，一名用戶在Airbnb上預(yù)訂了紐約曼哈頓的一套公寓，因某些原因提前結(jié)束租期。該用戶離開(kāi)在Android上預(yù)訂的公寓后，房東稱其給公寓造成數(shù)千美元損失。Airbnb接受房東提交的證據(jù)后，判定用戶需支付7053美元賠償。

然而，看到用戶提交的證據(jù)后，才發(fā)現(xiàn)房東提交的咖啡桌、掃地機(jī)器人、沙發(fā)等物品受損照片是AI生成的。隨后，Airbnb道歉，退還用戶全部住宿費(fèi)用，并刪除房東留下的負(fù)面評(píng)價(jià)。

國(guó)內(nèi)商家因?qū)I技術(shù)了解不足，容易被羊毛黨欺騙。但Airbnb作為知名互聯(lián)網(wǎng)大廠，在這件事上卻翻了車。要知道，在這波AI浪潮中，Airbnb并非無(wú)所作為。早在2023年11月，它就以約2億美元收購(gòu)AI創(chuàng)業(yè)公司GamePlanner.AI，增強(qiáng)智能化住宿服務(wù)實(shí)力。

2024年10月，Airbnb創(chuàng)始人Brian Chesky宣布要用AI徹底改變旅行，將用戶帶入真正由AI驅(qū)動(dòng)的應(yīng)用程序。由此可見(jiàn)，Airbnb對(duì)AI很敏感，為何還會(huì)輕易被AI圖片欺騙呢？Brian Chesky在采訪中給出答案，Airbnb率先將AI技術(shù)應(yīng)用于客戶服務(wù)，用戶聯(lián)系客服時(shí)，越來(lái)越多的工作由AI完成。

當(dāng)時(shí)，Brian Chesky興奮地向媒體描述AI客服的優(yōu)勢(shì)，“AI能講所有語(yǔ)言，可全天候工作，還能讀取所有用戶反饋的語(yǔ)料庫(kù)，提供最佳答案”。顯然，這次是AI客服出了問(wèn)題，它收到房東反饋后，依據(jù)AI圖片就判定用戶需賠償。

我們認(rèn)定是AI客服的問(wèn)題，是因?yàn)樗褟V泛應(yīng)用于這類程式化問(wèn)題。在用戶與房東的糾紛中，證據(jù)至關(guān)重要，通常只要一方提供實(shí)證，AI客服就會(huì)偏向該方。房東用AI生圖軟件生成物品受損照片并提交后，AI看到“證據(jù)”便進(jìn)入賠償流程。

實(shí)際上，這一事件的關(guān)鍵問(wèn)題在于Airbnb的AI客服未能正確識(shí)別AI圖片。用戶能扭轉(zhuǎn)局面，是因?yàn)榉繓|提供的同一張受損咖啡桌不同角度照片中，裂縫不一致。因此，Airbnb重新判定后告知房東，無(wú)法驗(yàn)證其作為投訴一部分提交的圖片。

如果Airbnb沒(méi)有大規(guī)模引入AI客服，或許就不會(huì)出現(xiàn)這樣的烏龍。真人客服能看出同一張咖啡桌不同角度照片的關(guān)聯(lián)，但AI很可能將其識(shí)別為不同咖啡桌。事實(shí)上，AI客服引發(fā)的問(wèn)題已讓不少企業(yè)深受其害。

比如瑞典金融科技企業(yè)Klarna曾宣稱“AI能完成所有人力工作”，用AI客服完全取代人工客服。但使用一段時(shí)間純AI客服后，Klarna CEO不得不承認(rèn)AI降本是以犧牲質(zhì)量為代價(jià)，于是重新大規(guī)模招聘客服員工。

此前國(guó)內(nèi)媒體報(bào)道，清華大學(xué)與廣西電網(wǎng)研究發(fā)現(xiàn)，引入AI助手作為“數(shù)智客服”雖改進(jìn)了語(yǔ)音轉(zhuǎn)錄、信息回顧等流程，但也帶來(lái)語(yǔ)音識(shí)別錯(cuò)誤、口音識(shí)別困難、對(duì)話記錄不完整等問(wèn)題。人工客服不僅要學(xué)習(xí)與AI協(xié)作，還需糾正其錯(cuò)誤、安撫不滿客戶，AI的“幫倒忙”反而增加了工作壓力。

回到Airbnb此次事件，導(dǎo)致用戶因房東用AI圖片被錯(cuò)誤判定賠償?shù)暮诵膯?wèn)題是，AI為何無(wú)法判斷圖片是AI生成的？這是因?yàn)槟壳坝肁I識(shí)別AI存在很大局限性。雖然去年5月OpenAI推出專用圖像檢測(cè)分類器，識(shí)別DALL - E 3生成圖像的準(zhǔn)確率高達(dá)98%。

但DALL - E 3是OpenAI自己的AI圖片生成工具，且他們也承認(rèn)該工具在區(qū)分DALL - E 3與其他AI圖片工具產(chǎn)出方面表現(xiàn)不佳。更何況這次Airbnb房東用的是“局部偽造”技術(shù)，把真實(shí)照片局部區(qū)域替換為AI生成內(nèi)容。

實(shí)際上，整個(gè)AI業(yè)界至今都沒(méi)拿出真正可靠的AI內(nèi)容檢測(cè)工具。業(yè)界普遍采用AI數(shù)字水印技術(shù)，即在生成式AI產(chǎn)出圖片、視頻時(shí)，在元數(shù)據(jù)中加入不可見(jiàn)水印，從源頭解決問(wèn)題。為此，微軟、Adobe、索尼、OpenAI、Meta等公司組建了C2PA（內(nèi)容來(lái)源和真實(shí)性聯(lián)盟），如今ChatGPT等工具生成的圖片已有C2PA元數(shù)據(jù)。

遺憾的是，目前沒(méi)有證據(jù)表明Airbnb加入了C2PA或使用其服務(wù)。這意味著Airbnb可能只看到AI技術(shù)好的一面，卻忽略了潛在風(fēng)險(xiǎn)。而且Airbnb此次事件或許只是開(kāi)始，幾乎所有C2C類平臺(tái)都要面對(duì)基于生成式AI深度偽造內(nèi)容的沖擊，平臺(tái)、消費(fèi)者和賣家的關(guān)系將在這一沖擊中被重塑。

本文來(lái)自微信公眾號(hào)“三易生活”（ID：IT - 3eLife），作者：三易菌，36氪經(jīng)授權(quán)發(fā)布。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com