本案例依原書 4.6「Ethical Risks: Bias, Privacy, and Transparency in Generative AI」及 4.7 後的 Recruitment Example 整理。
理解 Historical Data Bias 如何進入 AI Output，以及 Black-box Decision 對 Accountability 的影響。
原書指出 AI 以 Historical Data 訓練時可能吸收既有 Prejudice；在 Recruitment 中可能對 Women 產生 Biased／Discriminatory Result。模型也可能像 Black Box，使使用者不知道某個 Conclusion 如何形成。
| 風險 | 原書例子 | 治理方向 |
|---|---|---|
| Bias | Historical Data Prejudice | Fairness／Validation |
| Recruitment | 對 Women 的 Biased／Discriminatory Result | Human Review／Outcome Audit |
| Privacy | Sensitive／Personal Data Risk | Transparent Data Handling |
| Transparency | Black-box Decision | Explainability／Accountability |
| Oversight | Human-in-the-loop | Human retains oversight over automation |
Excel 可比較各群體 Selection Rate、Appeal、Error、Human Override；AI 可協助 Detect Pattern，但不應自行定義合法或公平門檻。
原書沒有 Recruitment Sample Size、Selection Rate 或 Gender Gap%。
若 Training Data 帶有 Structural Bias，模型可能把過去的不公平重新包裝成「自動化決策」。Black-box 則會進一步削弱 Challenge／Appeal 能力。
請依不同群體比較 Selection Outcome、Error、Override、Appeal，並檢查是否存在 Systematic Difference；來源未提供統計門檻時不要自行設定。