中文名稱：AI 幻覺｜英文：AI Hallucination
AI 幻覺（AI Hallucination）就是「AI 用很有把握的口氣，給你一個看起來很合理、實際上卻是錯的或編造出來的答案」。它可能幫你掰出一本不存在的書、一條查不到的法條，或一個查無此人的名言出處——而且講得一臉認真。
這篇文章會用新手角度說明：AI 幻覺是什麼、AI 為什麼會產生幻覺、你可以怎麼分辨與降低它、有哪些常見迷思，以及它為什麼還沒被「修好」。
AI 幻覺是什麼？
AI 幻覺（AI Hallucination）指的是：生成式 AI，特別是大型語言模型（LLM），產生出看似合理、語氣肯定，實際上卻與事實不符、或根本無從查證的內容。
根據 Google Cloud 的官方說明，AI 幻覺的成因大致可分成三類：訓練資料本身的限制、模型架構，以及 LLM「用機率預測下一個字」的生成方式。換句話說，模型出錯不是因為它「壞了」，而是它本來就是這樣運作的。
這裡有一個關鍵觀念：大型語言模型不是在「查資料庫」，而是在「猜下一個最可能出現的字」。它學的是「語言長什麼樣子」，不是「世界的事實是什麼」。大多時候，最像話的答案剛好也是對的；但偶爾兩者會分岔，那個分岔，就是幻覺。
用白話文怎麼說？
你可以把 AI 想成一個「很會講話、但不肯說自己不知道的學生」。
考試遇到不會的題目，這個學生不會交白卷，反而會「掰一個聽起來很順、很像標準答案的東西」交上去。掰對了算他賺到，掰錯了你也不一定看得出來——因為他寫得太流暢了。
另一個比喻是手機輸入法。你打字時，輸入法會猜你下一個字想打什麼。AI 是這個功能的超強版，但它預測的是「這樣接下去像不像真的」，而不是「這件事是不是真的」。
你可以這樣記：AI 追求的是「聽起來合理」，不是「事實正確」。這兩個目標大部分時候一致，但只要一不一致，幻覺就出現了。
AI 幻覺實際上會怎樣？怎麼降低？
先看它通常長什麼樣子。AI 幻覺最常出現在這些地方：
- 捏造引用與來源：附上一個不存在的連結、一篇查不到的論文，或假造的書名與作者。
- 編造數字與日期：報價、統計、年份、出生日期，這類「精確但冷門」的資訊特別容易出錯。
- 張冠李戴：把兩個人的事蹟、兩家公司的產品混在一起，講得煞有其事。
- 寫程式時叫用不存在的功能：產生一段語法漂亮、但函式根本不存在的程式碼。
那為什麼會這樣？OpenAI 在 2025 年 9 月發表的研究《Why Language Models Hallucinate》給了一個很白話的解釋：模型會幻覺，是因為「訓練與評估的方式，獎勵『猜』，而不是獎勵『承認不知道』」。在考試式的評分裡，回答「我不知道」直接得 0 分，亂猜反而還有矇對的機會——久而久之，模型就學會「寧可賭一把」。
知道成因後，新手要降低幻覺，可以從這幾件事入手：
- 重要資訊一定交叉查證：數字、法規、醫療、財務、報價這類「錯了會出事」的內容，務必回到原始來源確認。
- 要求 AI 附上來源：請它給連結，然後自己點開看它有沒有講對，而不是看它語氣多肯定。
- 把資料餵給它：把你要它依據的文件貼上去，並加一句「找不到就說不知道，不要編」。這種「先有資料、再生成」的作法，就是檢索增強生成（
RAG）的精神，能明顯壓低幻覺。 - 用會推理或可連網的模式：開啟推理（reasoning）或聯網查證，通常能降低幻覺，但無法歸零。
- 高風險用途保留人為把關：越是法律、醫療、財務這類場景，越需要懂的人來覆核，不能照單全收。
如果你想要一個最小的「驗證一個 AI 答案」流程，可以照這個順序走：
- STEP 1：先問自己「這個答案如果錯了，後果嚴重嗎？」嚴重就一定要查。
- STEP 2：請 AI 附上來源連結，並點開確認來源真的存在、也真的這樣說。
- STEP 3：用另一個搜尋引擎或另一個 AI，獨立再查一次同一件事。
- STEP 4：兩邊對得上，才當成可用資訊；對不上，就先存疑。
對做內容、做 SEO 的人，這件事還多了一層意義：別讓 AI 代寫一堆「沒查證的事實」就直接發佈，幻覺會傷害你的 E-E-A-T 與讀者信任。而且 AI 引用本身也會幻覺——它可能引用錯來源、或把你的內容曲解，所以「被引用」不等於「被正確轉述」。
關於 AI 幻覺的常見迷思
迷思一：AI 幻覺只是偶爾的小 bug，很快就會被修掉
不太是。OpenAI 的研究指出，幻覺源自現行的訓練與評估方式，是一種「統計上的副作用」，而不是某個可以單獨修好的程式錯誤。目前業界能做到的是「降低」幻覺，還無法把它歸零。
迷思二：AI 講得越肯定，答案就越可靠
剛好相反，這正是最危險的地方。語氣自信和內容正確完全是兩回事，AI 幻覺最典型的樣子，就是「一本正經地胡說八道」。判斷可不可信，要看有沒有可查證的來源，不是看它口氣多篤定。
迷思三：只要 AI 有附來源、有引用，就一定正確
不一定。AI 可能附上一個根本不存在的連結，或引用了真實存在的網頁、卻曲解了它的意思。看到來源是好事，但你還是得自己點開，確認它真的存在、也真的這樣寫。
迷思四：換更大、更新的模型，就不會有幻覺
新模型通常幻覺更少，但不會消失。尤其在沒有連網、只能靠記憶回答冷門事實，或要求精確引用時，再新的模型也容易出錯。模型升級會改善體質，但不是免死金牌。
迷思五：幻覺只發生在冷僻、艱深的問題
常見問題一樣會中招。日期、數字、名言出處這些「看起來簡單」的東西，反而是幻覺高發區，而且因為它掰得很順，你更不容易察覺。
總結
如果只記一句話：AI 幻覺就是「AI 用很有把握的口氣，給你一個其實是錯的或編造的答案」。
它不是故障，而是「猜下一個字」這套運作方式的副作用。現在的模型更聰明、幻覺更少，但還沒消失，尤其在數字、引用和冷門事實上特別要小心。最務實的相處之道，是把 AI 當成一個「很會寫初稿的助手」：讓它幫你起頭、整理、發想，但重要的事，自己一定要回到原始來源查一次。
參考資料
- Google Cloud — What are AI hallucinations?（Google 官方說明）
- OpenAI — Why language models hallucinate（OpenAI 官方研究，2025-09）
- Kalai, Nachum, Vempala & Zhang — Why Language Models Hallucinate（arXiv 論文）
- 台灣科技媒體中心 — 偵測大型語言模型中的 AI 幻覺（專家意見）
- TechTarget — What are AI Hallucinations and Why Are They a Problem?（第三方說明）
