本案例依原書 3.4.7「Future Directions and Innovations」的 Multi-modal AI 整理。
理解 Text、Image、Audio、Video 之間的跨模態整合與未來應用。
原書指出 Multi-modal AI 整合 Text、Image、Audio、Video 等資料形式,例子包括 DALL·E、Imagen、Make-A-Video,可支援 Interactive Storytelling、Immersive Virtual Environment 與 Comprehensive Content Creation。
| 面向 | 原書內容 | 用途 |
|---|---|---|
| Modalities | Text、Image、Audio、Video | Cross-modal Integration |
| Examples | DALL·E、Imagen、Make-A-Video | Text-to-image/Text-to-video 等 |
| Application 1 | Interactive Storytelling | Rich Content Experience |
| Application 2 | Immersive Virtual Environments | Interactive Experience |
| Application 3 | Comprehensive Content Creation | Multi-format Production |
Excel 可建立 Input Modality、Output Modality、Latency、Quality、Human Review;AI 可比較 Workflow,但原書沒有統一性能數值。
本節無可重算 Benchmark。
Multi-modal 的價值在跨資料形式理解與生成,但部署會同時提高 Data、Compute、Safety 與 Evaluation Complexity。
請把 Multi-modal Workflow 拆成 Input Modality、Fusion/Understanding、Output Modality、Human Review,並標示哪些是原書列出的未來方向。