本案例依原書第 5 章 Ethical AI 的 Human Oversight 討論重組,並非原書正式案例研究。
理解企業不能把決策責任完全外包給 AI,並以三種 Human Oversight Model 思考不同程度的人類介入。
原書在 Ethical AI 討論中強調「不能把 Decisions Outsource 給 AI」,並提出三種 Human Oversight Model:Human-in-the-loop、Human-on-the-loop、Human-in-command。原書此段沒有提供固定選擇公式。
| 模式 | 原書定位 | 教材理解 |
|---|---|---|
| Human-in-the-loop | 人類直接參與決策流程 | AI Output 進入下一步前有人介入 |
| Human-on-the-loop | 人類監督自動化運作 | AI 可執行,但人可監看與介入 |
| Human-in-command | 人類保有最終控制與責任 | 人能決定是否、何時及如何使用 AI |
Excel 可按 Decision Type、Risk、Impact、Reversibility、Required Human Role 建立 Oversight Matrix;AI 可協助分類情境,但原書沒有提供固定風險分數或自動選型門檻。
原書提供 3 種 Oversight Model,沒有固定比例、分數或哪一種永遠較好的結論。
Human Oversight 不是所有場景都加同一個人工簽核,而是明確界定人在 AI Decision Life Cycle 中的責任與可介入程度。
請依我的決策流程,標示哪些步驟適合 Human-in-the-loop、Human-on-the-loop 或 Human-in-command。若沒有 Risk/Impact/Reversibility 資料,請標示無法判定,不要自行設定門檻。