理解運算能力進步為何是現代人工智慧擴大規模的重要條件。
原書把電腦硬體發展分為數個階段:真空管、電晶體/二極體、積體電路、微處理器,再到大量中央處理器協同工作的平行運算。這種發展為多核心處理器、圖形處理器(Graphics Processing Unit, GPU)與張量處理器(Tensor Processing Unit, TPU)奠定基礎。原書並指出,現代 GPU 可包含數百到數千個核心,同時處理大量工作。
| 世代/方法 | 原書特徵 |
|---|---|
| 第一代 | 真空管 |
| 第二代 | 電晶體/二極體 |
| 第三代 | 積體電路;單一晶片可包含數百個電晶體 |
| 第四代 | 微處理器;把中央處理器元件整合到單一晶片 |
| 第五代/平行運算 | 大量處理器協同解決同一問題 |
| 現代專用硬體 | GPU/TPU |
建立硬體演進表時,可區分 架構|平行程度|對 AI 的意義;不可只看世代名稱就直接推算效能倍率。
原書只說現代 GPU 有數百到數千個核心,沒有提供固定核心數或加速倍率,因此不自行計算。
人工智慧能力不只來自演算法;運算基礎設施也決定模型能否在大規模資料與深層架構上有效訓練與推論。
根據以下硬體描述,整理哪些改變提高了平行運算能力;不得自行填入來源沒有提供的每秒浮點運算次數(Floating-Point Operations Per Second, FLOPS)或加速倍率。
**題目:**只有更多資料、但沒有足夠運算能力,是否一定能訓練更大的模型?
**參考解答:**不一定。原書把運算能力與資料一起視為現代 AI 的重要推動條件。