原書以多種高風險例子說明 GenAI unreliability。
原書列出:法律文件引用不存在的判例、研究內容描述虛構專家/機構、金融預測引用無事實基礎的統計、未驗證程式碼可能引入 catastrophic vulnerabilities。
| 場景 | 原書風險 |
|---|---|
| Legal | Nonexistent case law |
| Research | Fictional experts/institutions |
| Finance | Statistics without factual basis |
| Code | Catastrophic software vulnerabilities |
按 domain、error type、severity、reviewer、verified source 建立 output audit log。
原書未提供錯誤率,因此不自行建立真實 incidence rate。
錯誤頻率不是唯一指標;低頻但 high-severity 的錯誤仍可讓 use case 不適合全自動化。
只根據已人工驗證的 output log 計算各類錯誤率與 severity distribution;未驗證者標記 Unknown。
**題目:**若教材抽查 400 個 outputs,4 個 high-severity errors,高嚴重度錯誤率?
**參考解答:**1%。