第 11.6 節負責任人工智慧案例。以 COMPAS 說明訓練資料、模型偏差、可解釋性與高風險決策治理。
理解高風險人工智慧不能只看預測能力，還必須檢查資料偏差、不同群體結果與決策責任。
原書介紹 Correctional Offender Management Profiling for Alternative Sanctions（COMPAS）。在部分美國法院情境中，被告需回答 137 題問卷，系統據此預測再犯風險，法官可將此結果與案件其他事實一併考量。原書引用 ProPublica 報告指出，該系統的再犯預測被質疑存在種族偏差。
| 原書項目 | 內容 |
|---|---|
| 系統 | Correctional Offender Management Profiling for Alternative Sanctions（COMPAS） |
| 輸入 | 137 題問卷 |
| 預測目標 | 再犯風險／再犯機率 |
| 使用情境 | 法官可將預測與案件事實共同納入量刑考量 |
| 原書指出的風險 | ProPublica 報告質疑模型存在種族偏差 |
此案例不提供可重算資料，而是用來檢查高風險模型的治理問題：輸入資料是否代表不同群體、模型結果是否公平、使用者是否理解限制，以及誰對最終決策負責。
原書沒有提供完整混淆矩陣、群體錯誤率或 137 題的個別資料，因此不能自行計算偏差幅度或再犯準確率。
高風險模型若將歷史資料中的偏差學進模型，即使開發者沒有主觀歧視意圖，結果仍可能不公平。治理重點應包含公平性、透明度、問責與定期稽核。
根據原書 COMPAS 案例，說明為何 137 題輸入與風險預測仍不足以證明模型公平；不得補造原書未提供的群體錯誤率或模型準確率。
問題： 模型整體準確率很高，是否即可用於高風險司法決策？
參考解答： 不能只看整體準確率，還需檢查不同群體的錯誤分布、偏差、可解釋性與最終問責。