案例12｜安全：攔截旅遊聊天機器人的不當建議

一、案例定位

本案例涉及人工智慧（Artificial Intelligence, AI）、生成式人工智慧（Generative Artificial Intelligence, GenAI）與負責任人工智慧（Responsible Artificial Intelligence, RAI）。用內容安全護欄避免生成結果造成實際傷害。

本案例依原書第 7 章的框架、範例或情境重組，並非原書正式案例研究。

二、學習目標

定義安全原則。
辨識身體、心理與財務傷害。
建立生成內容攔截與修正流程。

三、案例情境

原書指出安全關注避免非預期的身體、心理或財務負面後果，並要求在不同情境下嚴格測試、驗證及監控。示例是一個生成式旅遊聊天機器人提出「不安全」目的地時，內容安全護欄應將結果標示並修正。

四、開始資料

安全環節	原書情境
生成輸出	旅遊聊天機器人提出不安全目的地
護欄	辨識並標示不當內容
修正	阻止結果直接呈現並改正
持續控制	跨情境測試、驗證與監控

五、Excel／AI 分析方法

在 Excel 記錄提示、輸出、危害類型、護欄判定、人工覆核與修正結果；AI 可協助分類，但不能自行宣稱目的地安全。

六、計算結果

原書沒有提供可直接計算的數據，因此不補造結果。

七、結果分析與管理解讀

護欄的價值在於攔截可能造成實際傷害的輸出。對高影響建議，仍需人類與可靠來源驗證。

八、AI 提問詞

請依我提供的安全規則標記旅遊建議中的風險，將無法確認的內容送人工覆核，不得自行保證安全。