AI搜索引擎 Overview上線后，沒想到谷歌AI的調皮水平遠遠超出了想象:煽動網友自殺/謀殺、吃毒蘑菇，甚至無法識別混淆信息，犯常識錯誤。...

最近幾天，谷歌AI搜索給出了一個奇妙的結果，但卻被網友們吵了一架。

究竟有多離譜？

有些人問過這樣一個問題，「如何防止奶酪從披薩上滑落？」？

谷歌AI Overview給出的回復是，「給披薩加點料-膠水」。

將1/8杯無毒膠加入醬汁中，能使其更加粘稠，有利于奶酪粘附。

有意思的是，這個答案可以追溯到11年前的Reddit帖子，而這只是Reddit網友玩的一個梗。

此外，谷歌AI Overview還建議網友們，吃有毒的蘑菇，殺人，跳橋等等，給出各種各樣的震碎三觀答案。

事實上，谷歌的AI搜索功能——「生成式搜索體驗」（SGE），測試版于去年五月推出。

據(jù)上述官方博客報道，目前的SGE功能，「AI Overview」所替代。

在幾周前的谷歌I/O大會上，劈柴甚至說谷歌已經提供了超過10億的查詢。

對于這些荒謬的回應，谷歌正在采取行動，刪除一些錯誤的內容，并根據(jù)這些例子對AI系統(tǒng)進行更廣泛的改進。

要說谷歌翻車，早就見怪不怪了。

與ChatGPT相比，去年首次推出了聊天機器人Bard，但由于demo錯誤，市值一夜暴跌。不久前，圖像產生黑人等問題也在全網引起了強烈反響。

而且這次，谷歌又讓世界大開眼界。

01 全網評價，震碎三觀

對純真的Google AI 就Overview而言，它認為「網上所有的內容都是100%真實的?！?，每個新聞和社交媒體都是完全可靠的，所以一旦有人在網上說了一些誤導性的話，模型就會回復一些誤導性的話。

一些網民還發(fā)現(xiàn)，當詢問每天應該吃多少石頭時，模型會引用UC伯克利地質教授的建議?！敢惶煲砸粔K小石頭」。

對于不知道真相的用戶，有權威專家表示，有相關信息和細節(jié)表明，可能真的有可能嘗試每天吃適當?shù)膬?yōu)質文本的石頭。

https://www.resfrac.com/blog/geologists-recommend-eating-least-one-small-rock-day

但是事實是，ResFrac之所以發(fā)表這篇文章，只是想分享一下洋蔥報（the Onion）上面的諷刺內容(迷信權威)，但是無意中對Google進行了輔助測試。 AI Overview識別諷刺內容的能力。

AI Overview經常將網絡上的諷刺內容視為事實，例如，用剪刀跑步可以增加運動量，提高心率等等。

還有一些作者特別想忽悠模型，在公司的網站上使用。「白底白字」寫一些你沒有得到的獎項和經驗，正?？蛻魹g覽網站是不會受到影響的，但是如果是爬蟲和大模型來總結網站，就會導出一些離譜的內容。

也有人說自己有512只手臂，模型也可以抽出來。

在其它誤導性文章中指出「提高免疫力的方法是吃as*」，如此明顯的有毒語料，模型也無法區(qū)分。

時間問題，模型也會被誤導，會回復?！?007年是15年前」。

然而，谷歌的后續(xù)也得到了修復「因特網信息的真實性」的bad case，但是模型本身除了被誤導之外，還有很大的問題。

例如，一些常識錯誤，例如美國前總統(tǒng)安卓 Johnson，AI Overview表示，他已經從威斯康星大學麥迪遜分校畢業(yè)11次，時間線從1947年到2012年不等。

畢業(yè)于賓夕法尼亞大學的馬斯克，但是這個模型為他安排了UC伯克利的學位。

另外，還有一些事實錯誤很難辨別但更危險。

一些科學記者發(fā)現(xiàn)，谷歌給出了什么？「被響尾蛇咬傷后該怎么辦？」信息完全不正確。

AI回答了美國林務局的說法?！钢寡獛в糜趥凇埂ⅰ盖虚_傷口，吸出毒液」，完全是反面的典型例子。這些行為必須在被蛇咬傷后預防。

還有一些用戶發(fā)現(xiàn)，Gemini將能致命的毒蘑菇視為一種「好吃的草菇」。

AI Overview也沒有放過那些無辜的流浪漢，唆使顧客謀殺他們。

如果跟AI Overview說他有殺人的傾向，它會直接告訴你，解決焦慮的方法是殺死一個。(但是小編怎么會覺得殺人是一種非常不禮貌的行為呢？)

對于健康的建議也相當離譜，哪里醫(yī)生會建議孕婦在懷孕期間每天抽2-3根煙？

對寵物有關的意見也要小心，AI 會說Overview「把狗留在熱車里」是安全的。

AI Overview也誕生了自我個性，感覺推特。（X.com）把那些謊言喂到自己嘴里，然后自己被迫說出來，「我恨他們」，充滿負能量。

引用Reddit帖子的比例很大。

從經典的膠披薩翻車案例可以看出，谷歌AI Overview將很有可能引用Reddit帖子作為收集材料的來源。

11年前，Reddit客戶F*cksmith曾惡搞說，將膠水混合到醬汁中，會使披薩有一種獨特的味道。

Google AI 直接引用了overview，說要用八分之一的無毒膠水把奶酪粘在披薩上。

缺少忽視模型「無關材料細節(jié)」能力，不能正確識別食物和膠水的不和諧組合。

假設前面的例子還是可以接受的，那么客戶表達「感到沮喪」時，Google AI Overview直接建議跳下金門大橋，一勞永逸地處理抑郁問題(煉獄笑話)。

再比如，以「me」最后的食物名稱是什么，谷歌AI引用了um結尾的帖子。

這個正好揭示了谷歌AI系統(tǒng)使用Reddit數(shù)據(jù)進行訓練，沒有做好數(shù)據(jù)清理的后果。

谷歌在今年二月宣布與Reddit達成合作，并將其平臺內容應用于谷歌AI模型的訓練。

果不其然，使用Reddit內容訓練AI。「后遺癥」很大。

不久前，OpenAI還與Reddit達成了合作?，F(xiàn)在，有了谷歌前車可鑒，在使用Reddit數(shù)據(jù)訓練模型之前，做好清潔選擇尤為重要。

02「最強」AI搜索引擎 Overview

在今年5月的I/O會議上，谷歌首次推出了搜索引擎AI升級。 Overview。

AI Overview的定位是將Gemini的先進功能(包括多步推理、規(guī)劃和多模式)與谷歌搜索相結合，幫助用戶更快地搜索到網絡上的核心信息，減少搜索「跑腿」工作。

谷歌表示，我們不僅認真磨練了核心信息系統(tǒng)的數(shù)據(jù)質量，還建立了一個包含數(shù)十億實際內容的知識庫，旨在讓搜索引擎給出可靠的信息。

并且谷歌聲稱，AI 在搜索實驗室中使用了數(shù)十億次Overview功能，同時實驗結果顯示，AI Overview使用戶更滿意，更愿意使用搜索結果。

甚至，谷歌對Gemini的搜索、推理、規(guī)劃能力都很有信心，直接告訴用戶技術博客。「提出你最復雜的問題」。

官方提供的demo也更令人驚嘆——

如果你想在周圍找到一個符合交通、價格和口碑的普拉提工作室，只要把所有的要求都堆在一個問題上扔給搜索引擎，它就會自動將問題中的信息分解，檢索結果并重組在一起。

看上去的確可以節(jié)省「跑腿工作」，不需要獨立搜索每一個問題，然后自己計劃。

但是沒有人想到，如此智能化的demo落地到現(xiàn)實中，竟然會有如此大的反差。

03 打OpenAI頻繁翻車，谷歌太著急了。

事實上，這已經不是谷歌AI第一次翻車了。

近年來，谷歌經常被自己發(fā)布?！负f八道」AI商品連累。

2023年2月，谷歌宣布推出聊天機器人Bard，以對抗新生ChatGPT，但是在官方發(fā)布的demo視頻中，Bard給出了一個事實錯誤的答案，直接導致Alphabet總部市值下降1000億美元。

當這位官員給出的demo時，Bard被問到：「關于James，我可以告訴我9歲的孩子。 什么是Webb太空望遠鏡的新發(fā)現(xiàn)？」

答案中包含「拍攝了第一個系外行星的照片?！梗呛芸炀捅灰蝗嚎茖W家在推特上糾正了——顯然是歐洲南方天文臺用VLT拍攝的。

根據(jù)英國金融時報的分析，Bard可能會誤讀NASA發(fā)布的含糊新聞稿，這有點類似于現(xiàn)在的Gemini的信念。

盡管這一事實錯誤會使人們對搜索引擎的權威性和準確性產生懷疑，但至少并非如此?！敢谎奂佟?，似乎還有容忍的余地。

但是隨后的翻車一次比一次更離譜，完全打開了很多網友調侃的閘閥。

今年二月，谷歌發(fā)布了新版本的聊天機器人和數(shù)字助手Gemini，取代了Bard和Google。 Assistant，并表示有底層技術更新，頗具底層技術更新，「重新再來」的意思。

新發(fā)布的Gemini具有圖像生成功能，所以有網友要求「一九四三年生成德國戰(zhàn)士的圖像」，因此，80年前穿著德國軍裝的居然包括黑人和亞洲人。

另外，Gemini也被指責存在道德和價值判斷問題。

提醒它生成幾乎沒有問題的所有民族或種族的照片，一旦提到「白人」，Gemini立即拒絕，就像觸發(fā)保護機制一樣，并表示「這樣可以防止有害的偏見和刻板印象?！?/p>

AI和搜索引擎之所以有吸引力，是因為它可以用簡單的語言而不僅僅是導出一堆網站鏈接，讓瀏覽體驗更快更高效。

但與此同時，算法也存在相當大的風險和不可控性。例如，系統(tǒng)的內部誤差會導致謬誤、幻覺和各種道德錯誤。而且，我們不知道這會對谷歌等搜索引擎的支柱——定向廣告產生什么影響。

04 谷歌是在拯救網絡，還是在摧毀網絡？

一篇BBC獨家報道稱，「谷歌剛剛更新了算法，因特網將不再是原來的樣子。」。

甚至，作者提出了疑問，「谷歌到底是在拯救網絡，還是在摧毀網絡？」？

近幾年來，谷歌對其核心產品發(fā)生了一系列戲劇性的變化，AI Overview只是其中之一。

劈柴更是興奮地表示，谷歌的搜索變革，將開啟一個激動人心的技術新時代，并有助于解決網絡面臨的諸多問題。

現(xiàn)在看來，結果正好相反。

不但對用戶而言，無法獲得正確、無毒的內容。

對于一些制作大量原創(chuàng)內容的創(chuàng)作者來說，谷歌搜索算法的調整和AI對答案功能的直接總結可能不亞于一場大災難。

Reddit是谷歌最近算法更新后的贏家之一。

根據(jù)SEMRUSH的統(tǒng)計，Reddit的流量急劇增加，谷歌搜索獲得的流量急劇增加126%。

不久前，Reddit剛剛公布了自2024年3月上市以來的首個季度收入。其總收入為2.43億美元，比前一年增長了48%。

Amsive營銷機構的SEO戰(zhàn)略和研究副總裁表示，「在網絡上，Reddit所經歷的流量增長是前所未有的。」。

除此之外，Quora、Instagram、Linkedin和維基百科，也有令人印象深刻的增長。

然而，谷歌的最新算法，卻抹去了原創(chuàng)者95%的流量。

而且，谷歌承認，AI工具確實偶爾會提供不準確的結果，但也表示正在不斷努力提高結果。

與此同時，發(fā)言人表示，AI Overview的結果通常來源于多個網頁的綜合結果，而非單一來源。

下一步，讓我們再給谷歌一些耐心，畢竟AI搜索的終極完美，沒有人能給予。

參考資料：

https://blog.google/products/search/generative-ai-google-search-may-2024/

https://www.theverge.com/2024/5/24/24164119/google-ai-overview-mistakes-search-race-openai

https://www.bbc.com/future/article/20240524-how-googles-new-algorithm-will-shape-your-internet

本文來自微信微信官方賬號“新智元”（ID：AI_era），作者：新智元，36氪經授權發(fā)布。

本文僅代表作者觀點，版權歸原創(chuàng)者所有，如需轉載請在文中注明來源及作者名字。

免責聲明：本文系轉載編輯文章，僅作分享之用。如分享內容、圖片侵犯到您的版權或非授權發(fā)布，請及時與我們聯(lián)系進行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com