流程/架構案例,整合第 7.3–7.4 節與圖 7.8、7.11–7.14。
掌握人工神經網路(Artificial Neural Network, ANN)的輸入/隱藏/輸出層、開發流程、監督式學習、反向傳播與過度擬合控制。
ANN 專案不只涉及選網路架構;資料取得、訓練/測試設計、前處理、參數初始化、訓練、驗證與部署都會影響結果。
| 原書框架 | 內容 |
|---|---|
| 基本層 | 輸入、隱藏、輸出 |
| ANN 開發流程 | 9 個步驟 |
| 監督式學習 3 項任務 | 計算暫時輸出 → 與期望目標比較 → 調整權重並重複 |
| 初始權重 | 隨機值 |
| 誤差概念 | 期望輸出與實際輸出的差異 |
| 過度擬合控制示例 | 分離驗證資料;驗證誤差開始上升時停止訓練 |
反向傳播由輸出層的誤差往回調整連結權重,再反覆進行前向傳遞/誤差計算/向後調整。若網路不收斂,可重新產生隨機權重、調整參數或架構。原書亦說明正規化與以驗證結果為基礎的提早停止可用來降低過度擬合。
本案例為流程與學習機制,原書沒有提供一組完整數值網路供本頁重算,因此不生成權重、誤差或準確率。
訓練誤差持續下降不代表模型持續改善;當驗證誤差反而上升時,表示泛化能力開始惡化。管理者因此應要求驗證/測試證據,而不是只看訓練表現。
依 ANN 九步驟檢查一個神經網路專案,特別指出訓練/驗證/測試、隨機初始化、反向傳播與過度擬合控制;沒有原始網路資料時不得生成權重或準確率。
問題: 若訓練誤差繼續下降、驗證誤差卻開始上升,應如何解讀?
參考解答: 原書把這視為過度擬合的典型訊號;可在驗證表現不再改善的點停止訓練,或採其他正規化策略。