1在特朗普遭遇暗殺未遂事件后，馬斯克旗下AI機(jī)器人發(fā)布了多條誤導(dǎo)性新聞?wù)?/span>

2馬斯克對(duì)Grok給予了很大期望，希望人們能夠通過它獲取新聞資訊，進(jìn)而顛覆傳統(tǒng)媒體。

3此次誤報(bào)事件凸顯了Grok在設(shè)計(jì)上的不足，其依賴的算法和模型可能成為弱點(diǎn)。

騰訊科技訊 7月18日消息，據(jù)國外媒體報(bào)道，埃隆·馬斯克（Elon Musk）對(duì)旗下人工智能公司xAI推出的聊天機(jī)器人Grok寄予了很大期望，希望人們能夠通過其獲取新聞資訊。然而在面對(duì)現(xiàn)實(shí)的復(fù)雜事件時(shí)，它的表現(xiàn)卻一團(tuán)糟。特別是當(dāng)美國前總統(tǒng)唐納德·特朗普（Donald Trump）遭遇暗殺未遂事件后不久，Grok基于X上的信息流發(fā)布了多條誤導(dǎo)性頭條，凸顯了人工智能技術(shù)的局限性。

其中一則誤報(bào)尤為引人注目，錯(cuò)誤地宣稱副總統(tǒng)卡瑪拉·哈里斯（Kamala Harris）遭遇襲擊，這一失誤似乎源于X上部分用戶對(duì)拜登總統(tǒng)之前一次口誤的諷刺性解讀。當(dāng)時(shí)，拜登無意中將哈里斯和特朗普的名字搞混了。

另一則摘要?jiǎng)t錯(cuò)誤指認(rèn)了嫌疑人身份，并將其與“極左翼運(yùn)動(dòng)（antifa）”聯(lián)系起來。這一表述在警方公布不同嫌疑人及動(dòng)機(jī)尚未明確的情況下，顯得尤為草率。

盡管這些摘要下方附有免責(zé)聲明，明確指出：“本報(bào)道乃X平臺(tái)帖子的概要總結(jié)，內(nèi)容或隨時(shí)間發(fā)展而變化。Grok作為人工智能工具，存在出錯(cuò)可能，請用戶自行驗(yàn)證其輸出。”然而，這并未能完全消除Grok在新聞傳播中的誤導(dǎo)性影響。

馬斯克曾對(duì)X平臺(tái)及其搭載的人工智能機(jī)器人Grok寄予厚望，宣稱其能自動(dòng)提煉數(shù)億用戶帖子的精華，生成標(biāo)題及新聞?wù)?。他多次公開批評(píng)傳統(tǒng)新聞媒體反應(yīng)遲緩且可信度下降，并鼓勵(lì)用戶習(xí)慣從Grok處獲取即時(shí)新聞更新。

馬斯克在今年6月的一次廣告業(yè)盛會(huì)上強(qiáng)調(diào)：“在X平臺(tái)上，我們正實(shí)現(xiàn)信息的匯聚與精煉。我們利用人工智能的力量，將數(shù)百萬用戶的海量輸入轉(zhuǎn)化為精煉的總結(jié)。我堅(jiān)信，這將是未來新聞傳播的新常態(tài)?！?/span>

針對(duì)Grok此次的誤報(bào)事件，X尚未發(fā)表正式回應(yīng)。

Grok是馬斯克旗下人工智能公司xAI推出的作品，自去年啟動(dòng)研發(fā)以來，已逐步融入X，為訂閱者帶來了包括智能聊天機(jī)器人在內(nèi)的多項(xiàng)創(chuàng)新功能。在新聞總結(jié)方面，Grok展現(xiàn)了一定程度的準(zhǔn)確性，預(yù)示著其巨大的技術(shù)潛力。馬斯克特別指出，Grok能夠即時(shí)抓取X上的海量帖子，這是其顯著優(yōu)勢之一。X稱其為“帶有幽默感的人工智能搜索助手”。

然而，近期發(fā)生的誤報(bào)事件也暴露出Grok在設(shè)計(jì)上的不足，尤其是在處理突發(fā)事件時(shí)，其依賴的算法和模型可能成為弱點(diǎn)。面對(duì)來自多個(gè)渠道的實(shí)時(shí)信息流，一個(gè)傾向于幽默解讀的計(jì)算機(jī)模型在篩選和整合信息時(shí)，顯然面臨著不小的挑戰(zhàn)。

對(duì)此，前Facebook公共政策主管凱蒂·哈巴斯（Katie Harbath）表示：“我們?nèi)杂泻荛L的路要走。當(dāng)涉及到像槍擊這樣的突發(fā)事件時(shí)，當(dāng)事實(shí)尚未確定時(shí)，人類的專業(yè)判斷與背景知識(shí)是不可或缺的?！?/span>

在這樣的敏感時(shí)刻，即便是經(jīng)驗(yàn)豐富的記者，在追逐重大突發(fā)新聞時(shí)，也難免偶有失誤。但Grok的某些錯(cuò)誤，卻遠(yuǎn)遠(yuǎn)超出了這類常規(guī)混亂的范疇。

一則引人矚目的Grok頭條錯(cuò)誤地聲稱：“電影《小鬼當(dāng)家2》的演員在特朗普集會(huì)上遭到槍擊？” 特朗普確實(shí)在1992年的電影《小鬼當(dāng)家2：迷失紐約》中露過臉，成為部分X用戶熱議的話題，但Grok的摘要卻未能澄清“演員”是否是特朗普本人，反而混淆視聽，寫道：“據(jù)報(bào)道，電影《小鬼當(dāng)家2：迷失紐約》的一名演員在公開活動(dòng)中遭遇槍擊，推測與特朗普競選集會(huì)有關(guān)。”

Grok并非首個(gè)在新聞事件總結(jié)上栽跟頭的生成式人工智能工具。此前，谷歌也因其人工智能功能偶爾產(chǎn)生的離奇建議而宣布進(jìn)行修正，比如建議用膠水將奶酪固定在披薩上。

值得注意的是，一些科技公司采取了與馬斯克不同的策略，避免將產(chǎn)品直接定位為實(shí)時(shí)新聞工具。例如，OpenAI的ChatGPT在接到關(guān)于此次襲擊事件的查詢時(shí)，不僅概括了事件本身，還貼心地提供了事實(shí)核查網(wǎng)站PolitiFact的鏈接，同時(shí)明確表明自己“并非實(shí)時(shí)新聞產(chǎn)品”。

Meta高管表示，他們并不鼓勵(lì)在短視頻平臺(tái)Threads上發(fā)布政治性內(nèi)容，這款應(yīng)用旨在與X形成差異化競爭。Meta高管亞當(dāng)·莫瑟里（Adam Mosseri）去年便表達(dá)了這樣的立場，他期望Threads能規(guī)避政治及硬新聞常伴的負(fù)面效應(yīng)和其他弊端。

與此同時(shí)，周末期間，部分Threads用戶抱怨該平臺(tái)在槍擊事件的信息更新上速度不及X，這反映出馬斯克旗下的平臺(tái)依然是新聞資訊的重要來源之一。

針對(duì)此次暗殺未遂事件，X首席執(zhí)行官琳達(dá)·雅卡里諾（Linda Yaccarino）在周日發(fā)送的一封內(nèi)部郵件中強(qiáng)調(diào)，公司已將此視為“重大事件”，并迅速調(diào)集資源，優(yōu)先處理平臺(tái)上任何違反規(guī)則的內(nèi)容，特別是那些對(duì)襲擊表示贊賞的帖子。

Grok在新聞事件總結(jié)上遭遇挑戰(zhàn)并非首次。6月份美國總統(tǒng)辯論后，當(dāng)X用戶提及加州州長加文·紐森（Gavin Newsom）時(shí)，Grok竟錯(cuò)誤地生成了“紐森在近期辯論中大獲全勝”的標(biāo)題，而事實(shí)上紐森并未參與辯論，盡管他出席了相關(guān)活動(dòng)。此外，部分政治觀察家雖提及紐森可能為拜登的潛在繼任者，但這一說法已被紐森本人公開否認(rèn)。

在馬斯克接手X（前身為Twitter）之初，該平臺(tái)曾設(shè)有專門團(tuán)隊(duì)負(fù)責(zé)熱門話題的摘要撰寫。然而，隨著馬斯克的大規(guī)模裁員行動(dòng)，該團(tuán)隊(duì)也被解散。前Twitter高管埃文·漢森（Evan Hansen）透露，他曾是該團(tuán)隊(duì)的一員，直至裁員發(fā)生。

漢森回憶道，在馬斯克接管之前，Twitter已嘗試?yán)萌斯ぶ悄茌o助摘要撰寫，但仍需人工進(jìn)行內(nèi)容審核與修正。他指出：“人工智能雖能發(fā)揮作用，但必須要非常精細(xì)地進(jìn)行處理?！?/span>

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com