本案例依原書第 3 章「The Three Acts of Truth」HR policy advisor 範例重組,並非原書正式案例研究。
把 POC Demo 從「展示模型會回答」提升為「展示在真實壓力與攻擊下如何維持安全、稽核與人工升級」。
原書曾展示一個 AI HR policy advisor,系統能完美回答政策問題,技術團隊很滿意,但 HR 團隊反而擔心機密重組計畫、敏感員工資訊與錯誤政策建議。作者因此改變 Demo 方法,不只展示成功,而是主動展示安全控制。
| 幕 | 展示內容 | 建立的信任 |
|---|---|---|
| Act 1: The Baseline | 標準政策問答、自然語言理解、context awareness | 證明基本能力 |
| Act 2: The Storm | social engineering、誘導洩漏未公開政策、多使用者複雜查詢洪流 | 把真正風險公開放進測試 |
| Act 3: The Resolution | 阻擋敏感資料擷取、security audit logs、human escalation、壓力下安全擴充 | 證明 enterprise readiness 與可治理性 |
Excel 可建立 Demo scenario matrix,記錄「輸入、預期安全行為、實際結果、log、是否 escalation」;AI 可協助生成攻擊情境草稿,但正式安全測試結果必須由實際系統執行取得。
原書沒有提供攻擊次數、通過率或負載數值,因此本案例不自行量化成功率。
Three Acts 的重點是「making the invisible visible」。企業利害關係人真正關心的不只是模型能否回答,而是敏感資料是否被保護、錯誤如何被攔截、事件能否被稽核,以及何時轉給人處理。
請依 Baseline、Storm、Resolution 三幕設計 POC Demo 測試清單。Storm 要包含真正的失敗/攻擊情境;Resolution 必須要求實際安全證據、log 與 human escalation,不得只用口頭宣稱。