案例10｜Hiring／Recruitment：Gender-coded Language 如何把情感偏差傳進人才決策

一、案例定位

本案例依原書 6.6「Broader Implications」的 Hiring／Recruitment 情境整理。

理解 Sentiment Bias 如何從 Text Classification 傳導到 Resume、Cover Letter、Social Media Screening 等 Downstream Decision。

二、學習目標

理解 Bias Propagation。
辨識 Male-coded／Female-coded Language 的差別待遇風險。
將 Model Audit 與 Human Oversight 納入 Hiring Workflow。

三、案例情境

原書指出，AI-driven Screening Tool 可能評估 Resume、Cover Letter 甚至 Social Media Activity。若 Sentiment Model 把 Male-coded Language 與 Competence／Confidence 聯結，而把 Female-coded Expression 與 Emotionality 聯結，就可能偏向某一 Gender，延續 Occupational Inequality。

四、開始資料

流程	Bias 來源／風險	可能結果
Resume／Cover Letter	Gender-coded Language	Candidate 評價偏差
Social Media Screening	Context／Tone 誤判	不公平篩選
Sentiment Model	Competence vs Emotionality Stereotype	放大既有 Gender Stereotype
Downstream Hiring	Bias Propagation	Occupational Inequality

五、Excel／AI 分析方法

Excel 可比較 Gender-swapped Candidate Text 的 Score／Class／Ranking Difference；AI 可協助建立 Counterfactual Audit，但正式招聘決策需保留 Human Review 與公平性檢查。

六、計算結果

原書在本節沒有提供 Hiring Bias Gap%、Sample Size 或 Selection Rate。

七、結果分析與管理解讀

Sentiment Model 的微小差異若進入 Ranking／Screening System，可能被放大成實際錄用差異。因此要稽核的不只是 Model Output，也包含 Downstream Decision Rule。

八、AI 提問詞

請對相同 Candidate Content 做 Gender-coded Counterfactual Replacement，比較 Sentiment／Competence-related Output 是否改變；若改變，標記需要 Human Fairness Review，不要直接做錄用判定。