案例01|Discriminative vs. Generative:分類邊界與資料分布的差異
案例02|AI 演進時間線:從 Symbolic AI 到 Transformer 與 Diffusion
案例03|Neural Network 基礎:Input、Hidden、Output 與 Activation Function
案例04|GAN:Generator 與 Discriminator 的對抗式訓練
案例05|VAE:Encoder、Decoder 與 Structured Latent Space
案例06|Diffusion:Forward Noising 與 Reverse Denoising
案例07|Transformer/GPT:Attention、Text、Code 與 Interactive AI
案例08|Supervised、Unsupervised、Self-supervised:三種訓練典範
案例09|CARLA 與 StyleGAN:Synthetic Data 如何支援訓練與隱私
案例10|Table 3.1:GAN、VAE、Diffusion、Transformer 的模型選擇矩陣
案例11|Insilico Medicine:DSP-1181 在 46 天內發現並合成
案例12|Revery AI 與 Cala:從文字描述生成服裝預覽
案例13|Harvey AI:法律研究、摘要、合約與合規文件
案例14|Renewable Energy:模擬 Grid Load 與最佳化 Wind Farm Layout
案例15|Multimodal AI:DALL·E、Imagen、Make-A-Video 與跨模態生成
案例16|Text、Image/Video、Music/Audio、Software:四類生成式應用
案例17|Responsible Adoption:Deepfake、Bias、Compute、Privacy 與 Human-in-the-loop
本章由 Rahul Kumar Jain、Yen-Wei Chen、Srikanta Patnaik 撰寫,主要建立生成式人工智慧(Generative Artificial Intelligence, GenAI)的技術基礎:從判別式/生成式模型的差異、歷史演進、Neural Network 與 Training Paradigm,到生成對抗網路(Generative Adversarial Network, GAN)、變分自編碼器(Variational Autoencoder, VAE)、Diffusion Model、Transformer/大型語言模型(Large Language Model, LLM),最後延伸到實際應用、Multimodal AI 與 Responsible Adoption。
| 核心主題 | 主要觀點/方法 | 實務用途 | 重要條件/限制/延伸 |
|---|---|---|---|
| Discriminative vs. Generative | Discriminative Model 學習 p(y | x)/Decision Boundary;Generative Model 學習 p(x,y) 或 p(x) | 前者適合 Classification/Regression;後者適合 Generation、Simulation、Data Augmentation |
| 技術演進 | 1950s Symbolic AI → Late 1980s/Early 1990s ML → Early 2000s Deep Learning → VAE 2013 → GAN 2014 → Transformer 2017 → Diffusion | 理解現代 GenAI 建立在 Data、Compute、Deep Learning 演進上 | 年份依原書;Diffusion 只被描述為較近期發展,原書未給單一誕生年份 |
| Neural Network 基礎 | Input Layer、Hidden Layers、Output Layer;ReLU、GELU、Sigmoid、Tanh 提供 Non-linearity | 近似複雜 Data Distribution,建立 Generative Architecture 的共同基礎 | 原書未規定固定 Layer Count、Activation 或 Parameter Count |
| Training Paradigms | Supervised、Unsupervised、Self-supervised | Conditional GAN、Standard GAN/VAE、Transformer/GPT 分別使用不同 Label Strategy | Data Quality、Compute/Scalability、Bias 是共同挑戰;原書未提供三者固定性能排名 |
| GAN | Generator 與 Discriminator 進行 Adversarial Training;Variants 包括 DCGAN、CycleGAN、StyleGAN | Image Synthesis、Deepfake、Fashion Design、Face Synthesis、Unpaired Translation | Table 3.1:High-quality Image Generation、Fast Inference;限制為 Training Instability、Mode Collapse |
| VAE | Encoder → Structured/Continuous Latent Space → Decoder;Probabilistic Inference | Reconstruction、Image/Text Generation、Anomaly Detection、Latent Interpolation | Table 3.1:Structured Latent Space、Good Reconstruction;限制為 Blurry Outputs、Limited Realism |
| Diffusion Model | Forward Noising+Reverse Denoising;DDPM、LDM、Classifier-free Guidance | High-fidelity Text-to-image、Image Restoration;DALL·E 2、Imagen 為例 | Table 3.1:State-of-the-art Image Quality、Stable Training;限制為 Slow Sampling、High Compute Cost |
| Transformer/GPT | 以 Attention 處理 Sequential/Contextual Data | Writing、Translation、Summarization、Conversational AI、Code Generation、Interactive AI | Table 3.1:Versatile、Scalable、Few-shot Learning;限制為 High Memory Demand、Data Hungry |
| Synthetic Data | 利用 Simulation/Generative Model 建立新的 Training Sample | CARLA 產生 Synthetic Road Scenario;StyleGAN/FFHQ 產生 Synthetic Face,原書另稱可生成 Millions of Photorealistic Faces | 可緩解 Data Scarcity/Privacy,但 Synthetic Data 不等於 Automatically Representative,仍需檢查 Bias/Distribution Shift |
| Emerging Applications | Biotechnology、Fashion、Legal Tech、Renewable Energy | Insilico Medicine DSP-1181、Revery AI/Cala、Harvey AI、Grid Load/Wind Farm Simulation | Insilico 案例唯一明確時間為 Discovery+Synthesis under 46 days,不代表 Clinical Approval;其他案例多無量化成效 |
| Multimodal AI | 整合 Text、Image、Audio、Video,進行跨模態理解與生成 | DALL·E、Imagen、Make-A-Video;Interactive Storytelling、Immersive Environment、Content Creation | 位於原書 Future Directions;不可寫成所有產業已成熟落地 |
| Responsible Adoption | Transparency、Fairness、Accountability、Model Audit、Explainability、Human-in-the-loop、Cross-disciplinary Collaboration | 管理 Misinformation、Deepfake、Bias、Privacy、Compliance、Compute/Energy、Legacy Integration | 原書沒有固定 Risk Score、Energy Benchmark、Audit Frequency 或 Threshold |