避免把 model license/build cost 當成 GenAI 全部成本。
原書特別提醒,除了建模本身,企業還需考慮 cloud computing、inference、prompt engineering、operations/GenAIOps 等額外成本。
| 成本類別 | 原書是否明列 |
|---|---|
| Model build/license | 是 |
| Cloud computing | 是 |
| Inference | 是 |
| Prompt engineering | 是 |
| Operations/GenAIOps | 是 |
TCO sheet 分為 Fixed、Variable、People、Governance/Operations,不把 API fee 單獨當總成本。
教材情境:model/license US$1.0M、cloud/inference US$0.4M、prompt engineering US$0.2M、GenAIOps US$0.3M,總計 US$1.9M;非 model 成本占 0.9/1.9≈47.4%。
若只看 US$1.0M license,會低估近一半教材情境 TCO。
根據以下成本清單建立 TCO breakdown,將 model 與 non-model cost 分開,不得漏掉 recurring usage/operations。
**題目:**若 inference 再增加 US$0.2M,總 TCO?
**參考解答:**US$2.1M。