原書把 resource usage 視為 GenAIOps 的財務治理問題,特別提醒 usage-based pricing 可能導致成本快速上升。
企業將 GenAI 擴大到更多員工與流程後,API/compute usage 持續增加。原書要求建立 financial controls 與 governance,讓成本可預測且不至於不可持續。
| 監控項目 | 目的 |
|---|---|
| Usage volume | 掌握 requests/tokens/compute 成長 |
| Unit cost | 知道每次任務的成本 |
| Budget variance | 避免 monthly spend 超支 |
| Business value per unit | 把成本連回效率/營收/品質 |
建立 MonthlyCost=Usage×UnitCost,並計算 cost per completed business task;設定 budget alert threshold。
教材情境:每月 2,000,000 units × US$0.002=US$4,000。若 usage 增至 3,000,000 而 unit cost 不變,成本變 US$6,000。
成本上升未必代表失控;若 business value 同步增加可能合理。真正問題是 usage、cost 與 value 沒有一起監控。
根據 monthly usage、unit cost 與 business output,計算 cost per task、budget variance 與異常月份。
**題目:**若月預算 US$5,000、實際 US$6,000,超支率?
參考解答:(6,000−5,000)÷5,000=20%。