把原書 guardrails 轉成 production control framework。
某企業將 GenAI 用於對外內容,需要同時控制誰能用、輸入/輸出是否異常、prompt 是否可追溯、事故是否可回應,以及輸出是否需人工審核。
| Guardrail | 原書用途 |
|---|---|
| Identity/role/attribute access | 只允許授權使用者 |
| Input/output monitoring | Detect misuse/toxicity |
| Prompt logs/audit trails | Accountability/incident investigation |
| Human review | Output dissemination 前的人工防線 |
| Blocklists/content filtering | 自動阻止不適當內容 |
| Incident response | 快速處理 unforeseen risks |
| User feedback | 持續發現 guardrail gaps |
建立 7 項 guardrail checklist;每項記錄 Design/Implemented/Tested/Evidence。
教材情境若 7 項中 5 項已 tested,tested coverage=71.4%。
即使 7 項都有設計文件,未測試的 guardrail 仍不應視為有效控制。
依 control evidence 將每一項標示為 Designed、Implemented、Tested 或 Missing;不要把 policy 文件等同技術控制已生效。
**題目:**若再測試 2 項,coverage?
**參考解答:**100%。