理解金融產業自建 domain-specific LLM。
辨識 purpose-built model 的 domain advantage 與高成本特性。
Bloomberg 建立 50 billion parameter 的 BloombergGPT,支援 sentiment analysis、named entity recognition、news classification、question answering 等金融 NLP 任務。
| 項目 | 原書資訊 |
|---|---|
| Model size | 50B parameters |
| Domain | Finance |
比較 domain benchmark、general benchmark、cost、latency、accuracy。
50B = 50,000,000,000 parameters。
專用模型的優勢來自 domain data 與 task fit,而非只看 parameter count。
根據 benchmark 表比較 domain-specific 與 general model。
若模型縮減至 25B parameters,parameter 數量下降多少?
**參考解答:**下降 25B,即 50%。