第 4 章先強調:生成式 AI 系統不只是模型,而是一整套從 compute、cloud、model、database 到 deployment/observability/end-user application 的技術堆疊。
企業準備建立生成式 AI 應用,需要先把需求映射到原書的技術堆疊,而不是直接從「選哪個 chatbot」開始。
| 組件 | 原書例子/角色 |
|---|---|
| Computer Hardware | Nvidia GPU、Google TPU;training/inference |
| Cloud Platforms | AWS、Microsoft Azure、GCP |
| Closed-source Foundation Models | OpenAI GPT 等 API-accessible models |
| Databases | Pinecone 等 vector embedding storage |
| Deployment | Clarifai 等 deployment platforms |
| End-to-End Vertical Apps | Midjourney、Runway 等 end-user apps |
| Model Hubs | Hugging Face |
| End-User Applications | 使用既有模型的 end-user-facing applications |
| Observability | 監看 AI system operations |
| Orchestration | LangChain 等協調 tools/systems/workflows |
| Open-source Foundation Models | 以 open-source license 發布的 pre-trained models |
| Training and Fine-tuning | 調整 LLM output 的 training/fine-tuning tooling |
建立 architecture matrix,欄位可含 component、provider、owner、cost model、data classification、SLA、fallback。AI 可協助整理,但不能自行假設企業實際 provider 或合約。
原書在本節沒有提供各組件成本,因此不補造來源成本。
最大的管理錯誤是把 GenAI implementation 縮減成「選一個模型」。真正部署會牽涉 infrastructure、data、model、integration、monitoring 與 end-user experience。
根據以下已核准的企業 AI architecture,將每個系統元件分類到 compute、cloud、model、database、orchestration、deployment、observability 或 application;無法判定者標示待確認。
**題目:**若教材架構列出 12 類組件,但某 pilot 只盤點 8 類,coverage 為多少?
參考解答:8÷12=66.7%。