本案例涉及人工智慧(Artificial Intelligence, AI)、生成式人工智慧(Generative Artificial Intelligence, GenAI)與負責任人工智慧(Responsible Artificial Intelligence, RAI)。用原書的未具名例子理解高影響生成系統的安全問題。
本案例依原書第 7 章的框架、範例或情境重組,並非原書正式案例研究。
原書提到,一個未具名的大型語言模型曾在醫療聊天機器人試驗中錯誤提出有害治療建議;也提到大型語言模型在招募與法律領域出現種族或性別刻板偏誤。生成模型的開放式輸出、幻覺與黑箱特性,使輸出監控、紅隊測試、偏誤稽核及內容安全機制成為必要措施。
| 警訊 | 可能問題 | 原書所提控制 |
|---|---|---|
| 醫療建議 | 有害治療建議與安全責任 | 輸出監控、內容安全、人工監督 |
| 招募/法律輸出 | 種族或性別刻板偏誤 | 偏誤稽核與公平檢查 |
| 黑箱模型 | 難以解釋與追究 | 可解釋方法與治理 |
在 Excel 記錄領域、輸出、傷害類型、人工覆核、偏誤檢查與處置;AI 可分類警訊,但醫療或法律判斷必須交由合格人員。
原書沒有提供可直接計算的數據,因此不補造結果。
高影響領域不能以流暢文字替代正確、安全與公平證據。原書例子未提供模型名稱、樣本或結果數字,因此只能作風險警訊。
請依我提供的輸出找出幻覺、傷害建議與刻板偏誤警訊;不得診斷、提供治療或替法律專家下結論。