一、案例定位

第 4 章先強調:生成式 AI 系統不只是模型,而是一整套從 compute、cloud、model、database 到 deployment/observability/end-user application 的技術堆疊。

二、學習目標

三、案例情境

企業準備建立生成式 AI 應用,需要先把需求映射到原書的技術堆疊,而不是直接從「選哪個 chatbot」開始。

四、開始資料

組件 原書例子/角色
Computer Hardware Nvidia GPU、Google TPU;training/inference
Cloud Platforms AWS、Microsoft Azure、GCP
Closed-source Foundation Models OpenAI GPT 等 API-accessible models
Databases Pinecone 等 vector embedding storage
Deployment Clarifai 等 deployment platforms
End-to-End Vertical Apps Midjourney、Runway 等 end-user apps
Model Hubs Hugging Face
End-User Applications 使用既有模型的 end-user-facing applications
Observability 監看 AI system operations
Orchestration LangChain 等協調 tools/systems/workflows
Open-source Foundation Models 以 open-source license 發布的 pre-trained models
Training and Fine-tuning 調整 LLM output 的 training/fine-tuning tooling

五、Excel/AI 分析方法

建立 architecture matrix,欄位可含 component、provider、owner、cost model、data classification、SLA、fallback。AI 可協助整理,但不能自行假設企業實際 provider 或合約。

六、計算結果

原書在本節沒有提供各組件成本,因此不補造來源成本。

七、結果分析與管理解讀

最大的管理錯誤是把 GenAI implementation 縮減成「選一個模型」。真正部署會牽涉 infrastructure、data、model、integration、monitoring 與 end-user experience。

八、AI 提問詞

根據以下已核准的企業 AI architecture,將每個系統元件分類到 compute、cloud、model、database、orchestration、deployment、observability 或 application;無法判定者標示待確認。

九、思考/情境變動

**題目:**若教材架構列出 12 類組件,但某 pilot 只盤點 8 類,coverage 為多少?

參考解答:8÷12=66.7%。