本案例依原書 3.4.4 Transformer-based Models 與 Table 3.1 整理。
理解 Attention-based Architecture 如何支援大規模語言生成與多種應用。
Transformer 使用 Attention Mechanism 處理 Sequential Data；GPT 系列用來生成 Contextually Coherent、Human-like Text，並延伸到 NLP、Code Generation、Interactive AI。
| 面向 | 原書內容 | 用途／限制 |
|---|---|---|
| Core Mechanism | Attention | Sequential／Context Processing |
| NLP | Writing、Translation、Summarization、Conversational AI | Text Generation |
| Code | Automated Coding Assistance | Software Support |
| Interactive AI | Chatbots、Virtual Assistants、Recommendation | User Interaction |
| Table 3.1 | Strengths: Versatile、Scalable、Few-shot Learning | Limits: High Memory Demand、Data Hungry |
Excel 可比較 Task、Context Need、Memory／Data Requirement；AI 可做 Model-fit 分析，但不能從「Scalable」推論固定成本。
原書沒有本節的 Parameter Count、Memory GB 或 Cost Benchmark。
Transformer 的通用性與可擴充性使其適用多類文字／程式任務，但 Memory 與 Data Requirement 是部署限制。
請依原書比較 Transformer 在 NLP、Code、Interactive AI 的用途，並明確列出 Memory Demand 與 Data Hunger 限制。