第 11.6 節「O’Neil 對分析潛在危害的主張」。原書整理 Cathy O’Neil 對高影響模型的三項治理要求與相關例子。
理解模型透明度、可量化目標、持續稽核與回饋機制如何降低長期社會風險。
O’Neil 在《Weapons of Math Destruction》中主張，模型若被用在高影響社會決策，至少要能被理解、目標清楚，並具有持續自我修正與稽核機制。
| 原書整理的條件 | 說明／案例 |
|---|---|
| 1. 透明 | 模型應可理解，否則可能產生未預期後果 |
| 2. 目標可量化 | 原書以 Moneyball 的明確績效目標與可理解指標作對照 |
| 3. 自我修正與定期稽核 | 持續加入新輸入／輸出與檢查長期副作用 |
| 原書負面例子 | 教師績效模型、排班模型、信用評分歷史偏差、部分金融風險模型 |
對任何高影響模型逐一檢查：使用者是否理解其邏輯與限制？成功目標能否量化？是否有定期稽核、回饋、偏差監測與修正流程？
此處是治理框架，原書沒有提供可重算的統一模型分數。原書亦提醒，O’Neil 的部分主張有證據支持，但不應把所有模型一概視為有害。
模型品質不能只看一次性的準確率。若模型會改變教師、員工、借款人等人的機會，組織需要監測其長期回饋效應與對不同群體的影響。
根據 O’Neil 三條件檢查我提供的模型治理設計，分別指出透明度、量化目標與自我修正機制是否充分；不要把原書對特定案例的批評擴大成所有演算法的普遍結論。
問題： 一個模型有清楚 KPI，但完全無法解釋且從不上線後稽核，是否符合三條件？
參考解答： 不符合。它只有第二項「目標可量化」，缺少透明與自我修正／稽核。