理解隱藏層與反向傳播如何突破單層感知器的限制,以及 Hopfield 網路如何處理聯想記憶。
原書指出,David Rumelhart、James McClelland 等人的平行分散處理(Parallel Distributed Processing)研究引入隱藏層與反向傳播;John Hopfield 則提出 Hopfield 網路,可從不完整或含雜訊的輸入中喚回已儲存模式,例如辨識部分遮擋的人臉。
| 發展 | 核心功能 |
|---|---|
| 隱藏層 | 學習更複雜的非線性表示 |
| 反向傳播 | 向前預測 → 計算損失 → 反向傳遞誤差 → 調整權重 |
| Hopfield 網路 | 聯想記憶;由不完整或含雜訊輸入喚回模式 |
可用簡化訓練紀錄表 迭代次數|預測值|實際值|損失|權重調整方向,理解反覆最佳化的概念。
原書沒有提供特定損失值或網路層數,因此不自行生成訓練數字。
1980 年代的重要轉折之一,是模型不再只靠明確規則,而能透過範例與反覆調整權重逐步改善表現。
根據以下訓練紀錄,說明損失是否下降以及權重調整方向;不得自行推測未提供的網路架構。
**題目:**若只有單層網路,而資料又不是線性可分,原書為何認為多層方法更有能力?
**參考解答:**因為隱藏層能學習更複雜的非線性模式。