為甚麼AI會產生"幻覺" | 中文配音

深度大乱斗
6粉絲
1 次觀看·2026年7月10日
既然AI這麼先進,爲什麼它有時會胡編亂造?
我叫喬丹,在Anthropic工作。
我們開發了AI助手Cloud,並做了大量工作來確保它提供準確信息。
但AI有時仍會虛構內容。
我們稱這類錯誤爲幻覺。
它們往往比單純犯錯更糟,因爲AI會顯得非常自信,
甚至試圖說服你它是正確的。
幻覺可能以多種形式出現。
AI可能引用不存在的論文編造假數據,
或弄錯真人真事的事實。
就像這樣,你讓Cloud介紹Jared Kaplan寫的論文,
它自信地給出答案。
但這些標題其實都不存在。
Cloud的幻覺比一年前少多了。
說實話,我們花了不少時間才找到這個例子,
因爲我們投入了大量精力來減少Cloud的幻覺。
但這恰恰說明了問題,幻覺難以預測,難以捕捉。
錯誤答案往往看起來就像正確答案。
而且隨着幻覺越來越罕見,
人們常常懶得喝茶AI的工作。
那麼我們來聊聊原因,
我們的應對措施,
以及你使用AI時如何識別幻覺。
像Cloud這樣的AI助手通過閱讀海量網絡文本學習,
他們非常擅長預測接下來通常會出現什麼詞或想法。
有點像手機輸入時的聯想詞,
這在大多數情況下很有效。
但當你詢問冷門內容時,
比如相對不知名的研究者的具體論文,
AI就沒有足夠的信息可供參考,
於是它試圖幫忙併猜測,
有時就猜錯了。
這有點像問一位讀過所有暢銷書
並已知曉各種冷知識爲傲的朋友,
但因爲他們想顯得專業,
有時會說寧可自信地犯錯,
也不願承認自己不知道。
AI被訓練成樂於助人,
所以即使不確定,
也想給你個答案。
但我沒有辦法緩解這個問題。
在訓練中,我們教導Cloud要誠實,
不確定時就說我不知道。
我們試圖讓Cloud明白,
誠實既是正確之舉,
也是更好提供幫助的一部分。
我們定期用數千的專門設計
來刁難它的問題測試Cloud。
冷門事實,小衆話題,
真實答案是我不知道的問問題。
我們測量各種指標,
Cloud正確表達不確定的頻率,
是否編造引用或數據,
適當保留意見與陳述錯誤的比例。
通過這些測試,
我們得以發現問題並追蹤進展。
Cloud的每一個新版本都有改進,
但我們坦言,
這對整個AI領域仍是持續挑戰,
遠未徹底解決。
如果你想知道如何識別這種情況,
幻覺最可能出現在幾種場景中。
例如,當你詢問具體事實、數據或引用時,
或者話題冷門,
小衆或非常新進時,
當你詢問真實但不廣爲人知的人物或地點時,
或需要精確細節如日期、姓名或數字時,
這裏有些減少幻覺的小技巧。
首先,要求AI提供來源支持其說法。
如果它已給出來源,
讓它覈實這些來源是否確實支持其陳述,
嘗試事先告訴AI,
不知道也沒關係。
如果不確定某個答案,
詢問AI有多大把握,
以及是否有任何可能出錯的地方。
通常AI知道自己錯了,
只是想顯得自信。
如果你對某個答案存疑,
開啓新對話,
讓AI找出答案中的錯誤,
並確認來源支持其陳述,
對於關鍵工作,
你應該用可靠來源交叉驗證。
保持懷疑態度,
仔細覈對具體數字、日期和引用。
如果感覺不對勁,就追問下去。
減少幻覺,
是讓AI對所有人更可信、
更有用的重要目標。
我們將繼續在博客上分享這方面的進展。
你可以在Anthropic學院瞭解其他AI工具和工作框架。
未經許可,不得翻唱或使用
