在使用 AI 有時(shí)候，總是聽人說 AI 會(huì)有幻覺無法完全相信，那么 AI 什么是幻覺？為何不可信賴？本文作者與我們分享了這一問題的答案，希望對大家有所幫助。

當(dāng)你向一個(gè) AI 問:“飛船進(jìn)入火星大氣層會(huì)經(jīng)歷什么？”你可能會(huì)得到這樣一個(gè)答案:“飛船在進(jìn)入火星密集大氣層的過程中會(huì)經(jīng)歷非常高的溫度和壓力。發(fā)動(dòng)機(jī)必須啟動(dòng)和減速，熱保護(hù)系統(tǒng)還需要在飛船周圍形成保護(hù)罩，以避免飛船過熱和燒毀。”

這個(gè)答案怎么看，是不是很科學(xué)？您是否因此而相信？ AI 的答案？

但是實(shí)際上，這個(gè)答案是錯(cuò)誤的，你遇到了。 AI “幻覺”問題。

一、什么叫 AI "幻覺"

所謂 AI "幻覺"（Hallucination），是指 AI 會(huì)給出一個(gè)看似合理，卻完全錯(cuò)誤的答案，也就是我們通常所說的“一本正經(jīng)地胡說八道”(當(dāng)然，AI 自己也不知道)。AI “幻覺”是一種非常普遍的現(xiàn)象(至少在這篇文章中 24 年 6 月亮仍然是這樣)，根據(jù)國外的一份針對性。 974 根據(jù)受訪者的調(diào)查報(bào)告，高達(dá) 72% 的人相信 AI 可以提供可靠和真實(shí)的信息，但是， 75% 的人至少被 AI 有一次誤導(dǎo)。

AI “幻覺”有很多表現(xiàn)形式，下面是一些常見的表現(xiàn)形式。 AI 幻覺類別：

假定各種假設(shè)：有時(shí)，AI 在試圖回答我們的問題時(shí)，有可能是基于一些隨機(jī)或與事實(shí)不符的假設(shè)。在這種情況下，AI 并非有意誤導(dǎo)我們，而是因?yàn)樗荒芾斫庹鎸?shí)的情況，只能通過模擬數(shù)據(jù)中的模式來嘗試產(chǎn)生看似合理的答案。在這種情況下，AI 也許會(huì)得到一些毫無根據(jù)的猜測，就像一個(gè)沒有足夠數(shù)據(jù)的偵探，只能通過猜測來填補(bǔ)不足的信息。

過度推斷事實(shí)：AI 有時(shí)候，模型可能會(huì)過度推斷事實(shí)的某一部分，夸大自己的理解，然后為缺乏足夠具體或深入的信息添加更多的細(xì)節(jié)。例如，如果在一個(gè)關(guān)于古羅馬的問答場景中， AI 這個(gè)模型只知道古羅馬是一個(gè)存在的文明。它可能會(huì)試圖通過過度解讀這些信息來生成更具體和不完全準(zhǔn)確的細(xì)節(jié)，比如古羅馬在特定日期的特定事件。

無緣無故的自信：或許你曾經(jīng)遇到過，有時(shí)候我們會(huì)問 AI 有些問題明顯超出了它的知識范圍， AI 仍然會(huì)以自信的態(tài)度來回答，而非選擇裝聾作啞。這是因?yàn)?AI 無論問題是否超出了它的理解范圍，模型總是被設(shè)計(jì)成盡可能地產(chǎn)生答案。但是，過多的自信往往會(huì)誤導(dǎo)顧客，使他們誤以為是 AI 處理問題是無所不知，無所不能。

無法回答需要實(shí)時(shí)信息的問題：AI 大型模型采用“預(yù)訓(xùn)練”的方法，即模型一旦訓(xùn)練完成并開始運(yùn)行，就無法繼續(xù)訪問或理解訓(xùn)練數(shù)據(jù)后產(chǎn)生的信息或知識。例如，你可能曾經(jīng)問過 AI 今日天氣怎么樣，或者最近有什么大新聞。雖然 AI 可以聊天或者評論新聞，但是因?yàn)槟Ｐ椭荒茉L問培訓(xùn)數(shù)據(jù)，所以不能實(shí)時(shí)更新天氣情況，也不能知道培訓(xùn)數(shù)據(jù)后發(fā)生的新聞事件(要實(shí)現(xiàn)這種能力，只能給。 AI 配備“搜索”能力)。

上述是常見的 AI “幻覺”類型，然后， AI “幻覺”，究竟是怎么產(chǎn)生的？下一部分，我們將討論為什么會(huì)發(fā)生這種情況。 AI "幻覺"。(哦，對了，開頭的那個(gè)。 AI 回答，問題出在“火星密集的大氣層”。實(shí)際上，火星的大氣層并不密集，這種說法是錯(cuò)誤的。）討論話題：你曾經(jīng)遇到過什么讓你印象深刻的事情？ AI "幻覺"？在評論區(qū)也分享一下。

注意：因?yàn)楸疚念A(yù)設(shè)讀者是 AI 零基礎(chǔ)群體，期待啟發(fā)。所以作者會(huì)盡量用簡單的語言來介紹，但是在簡化某個(gè)概念和原理的過程中，可能會(huì)失去它的完整性。請注意這一點(diǎn)。

作者:產(chǎn)品經(jīng)理崇生，微信官方賬號:崇生黑板報(bào)

本文由 @產(chǎn)品經(jīng)理崇生 每個(gè)人都是原創(chuàng)產(chǎn)品經(jīng)理。未經(jīng)作者許可，禁止轉(zhuǎn)載。

題圖來自 unsplash，基于 CC0 協(xié)議

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com