案例12｜HR Bot Guardrails：Orchestrator、Input／Output Moderation 與 Audit Trail

一、案例定位

本案例依原書第 5 章 Practical Guardrails in Action 的 HR Bot 情境重組。

把 AI Security Onion 落到實際 HR Bot，說明 Request Routing、Authentication、Access Control、Input／Output Moderation 與 Audit 如何共同運作。

二、學習目標

理解 Orchestrator 在多服務 GenAI App 中的治理角色。
區分 Input Moderation 與 Output Moderation。
用 HR Data Request 辨識 Access、Privacy 與 Escalation 控制。

三、案例情境

HR Bot 處理 Leave、Benefits、Recruitment 等日常工作。當員工問「How many vacation days do I have left?」，Orchestrator 先檢查 Request Validity、Authentication，再決定送到哪個 AI Microservice／Data Source。若員工嘗試查看同事資訊，Orchestrator 可 Flag／Block。Input Moderation 阻止未授權 Prompt；Output Moderation 則可 Redact 敏感資訊或 Escalate 給 Human Reviewer。

四、開始資料

Guardrail	原書功能	HR Bot 例子
Orchestrator	Validate、Authenticate、Route、Maintain Session	Vacation Balance Request 導向正確服務
Role-based Permission	限制 Personal Data Access	阻止查看其他同事資料
Input Moderation	擋 Prompt Injection／Unauthorized Request	同事 Private Healthcare Data Request 被 Flag
Output Moderation	檢查 Harmful／Sensitive Output	Sensitive Salary Comparison 被 Redact
Audit Trail	記錄每個 Request／Data Change 步驟	追蹤 Personal Contact Detail Update
Human Escalation	高風險輸出交人工審查	有問題內容送 Human Reviewer

五、Excel／AI 分析方法

Excel 可建立 Request、User Role、Data Requested、Input Result、Output Result、Redaction、Escalation、Audit ID 欄位；AI 可協助分類，但必須由實際 Access Policy 決定權限。

六、計算結果

原書沒有 Moderation Accuracy、Block Rate 或 Escalation SLA，因此本案例不自行量化。

七、結果分析與管理解讀

HR Bot 的安全不是單一模型設定，而是多個 Guardrail 一起運作：Orchestrator 控流量與權限、Moderation 過濾輸入輸出、Audit 保留責任鏈、Human Escalation 處理不確定情況。

八、AI 提問詞

請依實際 HR Access Policy 分析每個 Request 是否通過 Orchestrator、Input Moderation、Output Moderation、Audit、Human Escalation。若角色權限未提供，請標示無法判斷。