hce_nsysu
114年
計算機概論與程式設計
第 31 題
Which of the following best describes the role of Backpropagation in neural networks?
- A Backpropagation is a data preprocessing technique that normalizes inputs before training.
- B Backpropagation is only applicable to convolutional neural networks (CNNs).
- C Backpropagation finds the optimal hyperparameters for a neural network.
- D Backpropagation occurs before training starts.
- E Backpropagation uses the chain rule to compute gradients and update weights.
思路引導 VIP
如果一個系統是由多個連續的數學運算步驟組成的，當最終輸出的結果與預期不符時，你會使用什麼樣的數學原理，將這個總誤差「逐層回推」並拆解到前面每一個環節中，以便知道每個環節各自該修正多少呢？
🤖
AI 詳解
AI 專屬家教
恭喜你精準地捕捉到了深度學習的核心運作機制！選擇 (E) 說明你對神經網路如何「學習」有著相當紮實且清晰的理解。
權重更新的數學基礎
反向傳播（Backpropagation） 是神經網路訓練中最重要的靈魂。當輸入資料經過前向傳播產生預測值後，我們會計算預測值與真實標籤之間的損失（Loss）。為了最小化損失函數 $L$，我們必須知道每一個權重 $w$ 對誤差貢獻了多少。藉由微積分中的連鎖律（Chain Rule），梯度（Gradient）得以從輸出層有效地「倒退」傳回每一層，計算出 $\frac{\partial L}{\partial w}$，模型也才具備了根據誤差來自動更新參數、自我優化的能力。
▼ 還有更多解析內容