AI 幻覺是什麼？用一段公告學會檢查錯誤與引用

AI 幻覺是生成式 AI 產生錯誤、虛假或缺乏證據支持的內容，卻用看似合理甚至肯定的方式呈現。它可能捏造來源，也可能把真實人物、日期與事件錯誤拼在一起。

AI 幻覺最危險的地方不是胡言亂語，而是錯誤內容可能寫得完整、自然又有自信。若直接用在醫療、法律、財務、作業或公開文章，錯誤可能被繼續放大。

AI 幻覺是什麼？

AI 幻覺的定義：它是生成式 AI 產生錯誤、虛假或缺乏證據支持的內容，卻用看似連貫甚至肯定的方式呈現。

常見形式包括：

• 捏造不存在的論文、書籍、網址或法條。
• 把真實人物、日期與事件錯誤拼在一起。
• 聲稱原文提到某結論，實際上沒有。
• 資料不足時自行補出數字、姓名或原因。
• 把不確定的推測寫成肯定事實。

AI 為什麼會很有自信地答錯？

大型語言模型是處理與產生文字的 AI 模型，會根據前後文產生回答。它擅長「這樣接起來很合理」，但沒有內建一位永遠可靠的事實查核員。

想像一位學生沒讀到指定課文，卻被要求立刻回答所有問題。如果他不願意空白，就可能把聽過的內容拼成一個像答案的句子。AI 沒有人的尷尬，但在資料不足、問題含糊或來源缺失時，也可能產生類似結果。

要求 AI「有自信」或「不要說不知道」，更可能鼓勵它填滿空白。較安全的做法是允許它標示不確定、列出缺少資料，並限制回答依據。

答錯時，先看看是哪種問題

這些分類是幫助查錯的線索，彼此可能重疊。先找出問題在哪裡，再選擇處理方法；加總錯誤可以用計算機驗算，不必一直重寫提示詞，也就是給 AI 的任務說明。

哪些內容最容易出現問題？

• 非常新的資訊：今天的新聞、價格、職位、產品功能。
• 非常冷門的資訊：地方小事件、少見人物、小型研究。
• 精確引用：論文題名、頁碼、判決字號、逐字引言。
• 需要多步驟計算：稅額、統計、複雜單位換算。
• 資訊不足的個案：只描述一小部分症狀，就要求診斷。

這些情況不是不能用 AI，而是要讓 AI 協助列出查核項目，不要直接把它的結論當成事實。

五步驟事實查核法

第一步：圈出可以驗證的主張

把答案裡的人名、日期、數字、因果、法規和引用列出。不要一次問「整段對不對」。

第二步：找第一方來源

法規找主管機關，產品規格找官方文件，研究找原論文，人物發言找完整訪談或正式帳號。

第三步：檢查來源是否存在

點開連結，確認作者、標題、發布者和日期。只有看起來像真的引用，不算查證。

第四步：檢查原文是否支持主張

來源存在，也可能只談相近主題。要找出支持結論的段落，並注意例外、研究限制和適用地區。

第五步：記錄不確定性

查不到就寫「目前未確認」，不要為了文章完整硬補答案。重要資訊可以再找第二個獨立來源交叉比對。

完整例子：公告沒有寫的，不要補

以下是虛構的展覽公告：「週二至週日上午十點至下午五點開放，週一休館。」假設 AI 回答：「週一也可以參觀，門票一百元。」你可以把這句話拆開核對：

修正後可以寫：「依公告，週一休館；這段文字沒有票價資訊。」不要把沒寫票價改成免費，也不要憑印象補一個金額。

怎麼請 AI 協助查核？

可以請 AI 做前置工作：

請把以下答案拆成可查證的事實主張，分成「人物／日期／數字／因果／引用」。不要判定真偽；只列出每一項應優先查哪類第一方來源。

取得來源後，再說：

請只根據我提供的官方原文，列出哪些主張被支持、哪些缺少證據、哪些超出原文。每一項附上原文句子或段落位置。

AI 可以幫你整理查核工作，但最後仍要親自開啟來源。因為它也可能在「查核自己的答案」時重複同一個錯誤。

什麼情況不能只靠 AI？

醫療、法律、財務、人身安全、緊急事件、正式學術引用和可能傷害他人名譽的內容，都不能只靠 AI 判斷。

遇到疑似中毒、受傷、詐騙、家人求救或帳號被盜，先依官方緊急管道處理，不要花時間和聊天機器人來回推測。AI 可以協助整理問題，不能取代立即行動與專業責任。

總結

AI 幻覺不是偶爾打錯字，而是可能把無根據內容說得非常完整。先分清幻覺、過時、誤解、計算錯誤與偏誤，再用「拆主張、找第一方、確認存在、對照原文、記錄不確定」五步驟查核。先拿一段手邊的文字練習：圈出 AI 回答中的日期與數字，逐項找回原句。

參考資料

• NIST：生成式 AI 風險文件
• Google：搜尋如何運作