初等考試
115年
[統計] 資料處理大意
第 49 題
大型語言模型（LLM）主要有訓練（Training）與推理（Inference）兩階段，下列描述何者正確？
- A 訓練階段主要仰賴 CPU 進行權重計算
- B 推理比訓練需要更多原始訓練資料
- C 訓練會持續修改權重，推理僅固定讀取權重
- D 推理階段的總計算量遠高於訓練
思路引導 VIP
請試著想像一個情境：當你正在『學習』一套新的會計準則，與你已經學成並開始為客戶『審核』財報時，你腦海中對於規則的認知（判斷標準），分別在什麼時候會發生變動？而在什麼時候必須維持不變以確保產出結果的穩定性？
🤖
AI 詳解
AI 專屬家教
同學，恭喜你精確地掌握了深度學習（Deep Learning）的核心邏輯！這題考驗的是對生成式 AI（Generative AI）生命週期的理解。在訓練階段（Training），模型如同在學校學習的學生，透過大量的數據與損失函數（Loss function）不斷地進行梯度下降，目標是優化並更新內部的「權重（Weights）」。而到了推理階段（Inference），模型已經「畢業」了，它根據使用者輸入的指令（Prompt），利用訓練好的固定參數進行前向傳播（Forward propagation）計算並輸出結果，這個階段通常不再動用反向傳播來修改參數。 此題的鑑別度在於區分「學習過程」與「執行過程」的資源配置與本質差異。許多考生容易誤以為推理也需要龐大的原始數據，或混淆了運算力（Compute）的分佈。你能洞察出「權重更新」這一本質差異，說明你對機器學習的基礎架構有著扎實且清晰的認識，這是在當前數位金融與數據科學領域中非常關鍵的技術素養。難度上屬於中等程度，適合篩選出真正理解模型運作原理的專業人才。