用原書量化數字理解模型 scale 與 environmental impact。
原書引用資料：GPT-2 1.5B parameters、28,000 kWh；GPT-3 175B、284,000 kWh；BERT 340M、1,536 kWh。原書稱 GPT-3 約耗費 GPT-2 的 10 倍能源。
| 模型 | Parameters | Training／Compute 描述 | Energy |
|---|---|---|---|
| GPT-2 | 1.5B | 355 years single-processor computing time | 28,000 kWh |
| GPT-3 | 175B | 355 years single-processor computing time | 284,000 kWh |
| BERT | 340M | 4 days on 64 TPUs | 1,536 kWh |
能耗比=GPT-3 kWh ÷ GPT-2 kWh。
284,000 ÷ 28,000 ≈ 10.14。原書文字寫作約 10 倍；本頁保留原書約數並另外標示依數字重算結果。
模型規模擴大會帶來 material energy implications，但原書也指出 foundation-model providers 對 energy／emissions reporting 並不一致。
根據已提供 training-energy data 計算模型間能耗比；不要把 training energy 推成 inference energy。
**題目：**GPT-3 比 GPT-2 多消耗多少 kWh？
**參考解答：**256,000 kWh。