把原書 safety/security threats 轉成 enterprise threat-modeling 案例。
原書舉出敏感資料外洩、poisoned training data、cloud data theft/DDoS、deepfake executive 指示付款,以及 GenAI 大量生成 phishing sites、inflammatory content、abusive trolling 等威脅。
| Threat | 原書 example |
|---|---|
| Data leakage | 敏感 customer data 從 generation 外洩 |
| Data poisoning | Bad actor 注入 altered data 改變 model behavior |
| Infrastructure attack | Cloud data theft/DDoS |
| Impersonation | Deepfake executive directing payments |
| Malicious content automation | Phishing、inflammatory content、abusive trolling |
建立 threat register:asset、threat、likelihood、impact、control、owner、detection signal、response plan。
教材情境若 5 類 threats 有 4 類已有 tested response plan,coverage=80%。
企業不能把 GenAI security 只當 prompt safety;模型資料、cloud infrastructure、identity fraud 與 content abuse 都需治理。
依 threat register 檢查每一類是否有 preventive、detective、response controls;缺一項標示 Incomplete。
**題目:**若最後 1 類補齊 response plan,coverage?
**參考解答:**100%。