案例05｜Exercise 16.4：Hiring Algorithms、Bias 與 Human Decision-making

1. 案例定位

探討 Hiring Algorithms 在提高一致性與可能複製 Bias 之間的倫理問題。

2. 學習目標

辨識 Built-in Bias、Implicit Bias、Subjective Training Outcomes 與 Algorithm Awareness。

3. 案例情境

原書指出 Hiring Algorithms 並非 Neutral。長期失業、Incarceration Records 等 Assumptions 可能造成 Built-in Bias；Subjective Hiring Success 與 Homophily 也可能透過 Training Data 形成 Implicit Bias。

4. 開始資料

項目	原書資訊
Exercise	16.4 How algorithms rule our working lives, Part 1
情境	目前／過去任職 Organization 或 Educational Institution
檢查 1	Organization 是否使用 Hiring Algorithm
若使用	辨識 Primary Objective，例如 Filter out Applicants 或 Look for Stars
若未使用	討論 Organization 是否可能受益於 Algorithm-assisted Hiring

5. 分析方法

先定義 Algorithm Objective，再檢查 Features、Training Labels、Exclusion Rules、Human Judgment、Fairness Risks 與 Transparency。

6. 計算結果

原書此案例沒有提供可計算的 Hiring Performance Dataset。

7. 結果分析與管理解讀

Automation 不會自動移除 Subjectivity；Bias 可以被直接寫入 Rules，也可以從 Historical／Subjective Data 中學得。

8. AI Prompt

請審查我提供的 Hiring Algorithm Design，逐項檢查 Objective、Input Variables、Proxy Risk、Training Labels、Exclusion Effects、Human Override 與 Missing Evidence；不要推測候選人的 Protected Characteristics。

9. 思考／What-if

**問題：**若 Algorithm 的 Prediction Accuracy 高，是否足以證明 Hiring Process 公平？

**參考解答：**不足。原書強調 Algorithm 可能含 Built-in 或 Implicit Bias，需另外檢查 Ethical Issues。