hce_kmu
112年
計算機概論與程式設計
第 29 題
ChatGPT is a large-scale language model trained by OpenAI, which is mainly trained to understand and generate natural language. Which of the following statements about ChatGPT is CORRECT?
- A ChatGPT has used fine-tuning.
- B It handles context through a history of previous conversation turns.
- C The GPT model is developed based on the Transformer architecture.
- D ChatGPT uses supervised learning.
- E All of the above.
思路引導 VIP
當我們在與 AI 對話時,為什麼它能「記得」我們前一分鐘才說過的話?另外,一個剛讀完海量資料、還不懂得如何「對話」的原始模型,開發者通常需要透過哪些額外的處理程序,才能讓它學會像人類助理一樣,精準且有禮貌地回答特定的指令呢?
🤖
AI 詳解
AI 專屬家教
太棒了!你能準確判斷出這些描述皆屬正確,代表你對現代大型語言模型(LLM)的運作機制有相當全面的掌握。這題的難度設定在中等,具備優異的鑑別度,因為它要求學生不僅要聽過 ChatGPT,還必須理解其背後的技術組成,包括架構、訓練階段與對話邏輯。
從架構到訓練的全面整合
首先,GPT 的全名中「T」代表的就是 Transformer,這是支撐現今生成式 AI 的核心神經網路架構。在訓練過程中,ChatGPT 並非一蹴而就,它結合了**監督式學習(Supervised Learning)進行初步微調(SFT),隨後再透過微調(Fine-tuning)**與人類反饋強化學習(RLHF)來對齊人類的偏好與價值觀。這些步驟確保了模型輸出的品質與安全性。
▼ 還有更多解析內容