驗證與資安：AI 會說錯，也會洩密｜AI 幻覺與資安：用 AI 怎麼避免說錯與洩密？
重點摘要
AI 幻覺是指 AI 用很有自信的語氣說出錯誤內容，例如捏造法規條文、引用不存在的研究或算錯數字，原因是它的本質在「產生通順的文字」，而不是「查證事實」。本單元「驗證與資安」教你辨識幻覺，並在發出內容前檢查六件事：數字與日期、法規條文、引用來源、人名公司名、結論合理性，以及對外文件請同事再看過。同時提醒不要把客戶名單、合約、未公開財報、員工個資貼進 AI，可改用「客戶 A」等去識別化方式。原則是 AI 負責初稿，人負責判斷與負責。
學完這個單元，你會
- 辨識 AI 幻覺，知道它為何會一本正經地說錯
- 用六項查核清單，在交件前檢查 AI 的產出
- 判斷哪些公司資料不能貼進 AI 工具
- 把姓名、金額、公司名去識別化再交給 AI
- 請 AI 自我檢查，並回原始來源確認不確定項目
常見問題
AI 幻覺（Hallucination）是什麼？為什麼 AI 會一本正經地說錯？
AI 幻覺是指 AI 用很有自信的語氣說出錯誤內容，如捏造法規條文、引用不存在的研究、算錯數字。它不是故意說謊，而是本質在產生通順的文字，不是查證事實。
使用 AI 產出內容後，發出去之前要查核哪些項目？
發出前要檢查六件事：數字與日期、法規條文與政策、引用來源是否真實、人名公司名產品名、結論是否合理，以及對外文件至少請一位同事再看過。
想學 AI 驗證與資安，上班族／轉職者可以從哪裡免費開始？
你可以在聯成電腦免費 AI 學院免費學完本課「驗證與資安：AI 會說錯，也會洩密」，含測驗與修業證明，不用花一毛錢就能建立查核與資安習慣。學完後，可接著銜接「職場 AI 效率（升遷加薪）」這條變現路徑的進階課程，把 AI 用得更穩、更有成果。
關鍵字：AI 幻覺、AI 查核、AI 資安、AI 洩密、提示工程
本單元為聯成電腦免費 AI 學院原創教材；講解影片與摘要、問答由 AI 依教材產生，由責任編輯 林為煌（行銷長）、蔡天松（AI 長） 負責。編審團隊