高影響決策中的 explainability governance。
原書指出 hiring、college admissions、finance、medical care、insurance、legal 等決策若對個人產生不利影響,人們有權知道決策如何形成;但 LLM/neural-network black boxes 很難完全解釋。
| High-impact domain | Explainability concern |
|---|---|
| Hiring/Admissions | 機會分配與 adverse impact |
| Finance/Insurance | 資金、價格、保障取得 |
| Medical care | 健康與治療結果 |
| Legal | 權利與法律後果 |
建立 decision log:input source、model version、recommendation、human override、reason、documentation link。
原書未提供 explainability score,不自行量化。
System card 能改善 auditability,但不能等同模型內部機制完全可解釋。
根據 decision log 整理可追溯資訊與缺口;對無法解釋的模型機制標示 Unknown。
**題目:**若 100 個重大決策有 85 個留下 human override reason,documentation coverage?
**參考解答:**85%。