案例10｜Hallucination、Training-data Bias 與 Computational Cost：LLM Climate Research 的三類限制

一、案例定位

本案例依原書 9.3 Methodology Limitations 整理。

把作者對 ChatGPT 的主要限制整理為 Accuracy Risk、Bias Risk、Environmental／Compute Cost。

二、學習目標

理解 Hallucination 與 Inaccuracy。
理解 Underrepresented Region 的 Training-data Bias 風險。
辨識 LLM Computation 本身的環境成本。

三、案例情境

作者提醒 ChatGPT 可能產生錯誤資訊／Hallucination，也可能因 Training Data Bias 放大對 SADC 等 Underrepresented Population 的偏誤。此外，LLM 有高 Computational Cost，環境影響與 Climate Change 議題形成張力。

四、開始資料

限制	原書內容	研究控制
Hallucination	可能產生 erroneous output	對照 Contemporary Research／Evidence
External Example	原書引用 Poland Exercise：僅 30–40% Output 被認為 Accurate	這是 cited literature，不是本研究 SADC Accuracy
Bias	Training Data 可 perpetuate／amplify bias	特別警惕 underserved／underrepresented population
Compute／Environment	LLM Computational Cost 高	需納入 Environmental Impact

五、Excel／AI 分析方法

Excel 可建立 Claim Validation Log：ChatGPT Claim、External Evidence、Accuracy Status、Bias Risk；AI 不能自行成為自己的唯一驗證來源。

六、計算結果

原書引用的 30–40% 是其他作者對 Poland Climate Conversation 的結果，不是 Chapter 9 對 SADC 的 Accuracy Rate。

七、結果分析與管理解讀

在公共政策中，LLM 最危險的錯誤之一是把別的研究數字移植成本研究結果；因此 Source Provenance 必須明確。

八、AI 提問詞

請將每個 LLM claim 分成 source-derived、externally validated、unverified；引用其他研究的 accuracy number 時明確標註不是本研究結果。