一、案例定位

原書以多種高風險例子說明 GenAI unreliability。

二、學習目標

三、案例情境

原書列出:法律文件引用不存在的判例、研究內容描述虛構專家/機構、金融預測引用無事實基礎的統計、未驗證程式碼可能引入 catastrophic vulnerabilities。

四、開始資料

場景 原書風險
Legal Nonexistent case law
Research Fictional experts/institutions
Finance Statistics without factual basis
Code Catastrophic software vulnerabilities

五、Excel/AI 分析方法

按 domain、error type、severity、reviewer、verified source 建立 output audit log。

六、計算結果

原書未提供錯誤率,因此不自行建立真實 incidence rate。

七、結果分析與管理解讀

錯誤頻率不是唯一指標;低頻但 high-severity 的錯誤仍可讓 use case 不適合全自動化。

八、AI 提問詞

只根據已人工驗證的 output log 計算各類錯誤率與 severity distribution;未驗證者標記 Unknown。

九、思考/情境變動

**題目:**若教材抽查 400 個 outputs,4 個 high-severity errors,高嚴重度錯誤率?

**參考解答:**1%。