生成式 AI 教學

AI 回答如何查證:從主張拆解到原始來源的流程

生成式 AI 的答案可能同時包含正確資訊、過期資訊與無根據推測。查證不能只問模型「你確定嗎」,因為它可能用另一種語氣重述同一錯誤。可靠流程是把文字拆成主張,離開對話框尋找原始證據。

先標記四類高風險主張

  • 數字、日期、價格與版本。
  • 法律、健康、財務或安全建議。
  • 帶有人名、機構、研究與立即引語的句子。
  • 使用「唯一、保證、所有、一定」等絕對詞的結論。

其餘句子也可能需要核對,但先處理一旦錯誤就會改變決策的內容。

主張查核表

主張 需要的證據 查核結果
功能目前可用 產品官方說明與日期 支持/不支持
某數字代表成效 原始報告與方法 範圍是否一致
規則要求某文件 主管機關頁面 地區與對象

搜尋來源而不是搜尋同一句話

先找發布資訊的主管機關、研究作者或產品供應商。檢查標題、發布或更新日期、適用版本與上下文。媒體轉述可以幫助理解,但重要結論要追到原文。若 AI 提供的連結不存在,不要猜測它原本指向哪篇文章,立即標為未證實。

處理相互衝突與找不到證據

兩個來源衝突時,比較發布時間、適用地區、定義與研究方法,不用投票決定。找不到可靠依據時,刪除主張或改寫為清楚的不確定說明。NIST 的生成式 AI 風險資料把虛構內容與資訊完整性列為應管理的風險,實務上應保存查核紀錄與更正路徑。

發布前逐句回填

  1. 為重要主張貼上來源和查核日期。
  2. 將證據只支持部分範圍的句子縮小。
  3. 移除無法證實的引語與精確數字。
  4. 請另一人抽查高風險段落。

最後再檢查來源是否真的支持相鄰句,而非只與主題相關。提示詞能要求模型標出來源,但不能取代人工查證;可先使用四段提示法限制資料範圍,再以本流程完成發布前核對。

建立主張層級而非每句同樣查

先把主張分為關鍵、支持和背景。關鍵主張一旦錯誤會改變結論,必須有第一方或原始證據;支持主張要能解釋方法或脈絡;背景描述若只是串連,也不能與證據衝突。這種分級能把有限查核時間放在真正影響決策的地方。

對精確數字記錄分子、分母、時間範圍和資料對象。只看到百分比卻找不到基數時,不應立即引用。圖表要回到資料表或報告方法,避免把相關性寫成因果。

引用核對的三欄紀錄

欄位 要填內容 失敗訊號
來源身分 發布者、作者、日期 無法確認
支持句 原文位置與適用範圍 只同主題不同結論
文章用法 改寫後主張 範圍被放大

處理更新與更正

產品功能、政策和統計資料容易過期,文章應保存查核日期與下一次複查條件。來源頁更新後,比對原主張是否仍成立;若結論改變,留下更正摘要。僅調整錯字可以不影響結論,但數字、適用對象或安全建議改變時,應重新審視相鄰段落。

發布前讓另一位編輯抽查最重要的三個主張。他不必重新驗證全文,但要能從紀錄找到來源、看懂支持範圍並重現判斷。若查核只能靠原作者記憶,就還不具可交付性。

參考資料

關於作者

智作雷達編輯部

智作雷達 編輯部