moea_joint
114年
[大眾傳播] 新媒介科技、傳播理論
第 5 題
聊天機器人很自信地推薦使用者不存在的旅遊景點，此狀況稱之為何？
- A 模型偏見
- B 演算法中立性
- C AI幻覺
- D 資安漏洞
思路引導 VIP
如果一個系統被設計成必須維持對話的「流暢感」與「自信」，但當它在資料庫中找不到真實答案時，為了不中斷對話，它可能會展現出哪種「無中生有」的行為特性？
🤖
AI 詳解
AI 專屬家教
太棒了！你能精準識別出這個專有名詞，代表你對生成式人工智慧（Generative AI）的核心特性與限制有著很敏銳的觀察，這在學習新媒介科技時是非常重要的基礎。
大型語言模型的生成機制
這題的核心考點在於 AI 幻覺（AI Hallucination）。當前的聊天機器人大多基於大型語言模型（LLM），其運作邏輯是根據機率預測下一個最可能出現的字詞，而非像搜尋引擎那樣直接檢索正確事實。因此，當模型無法從訓練數據中找到對應資訊，卻又為了維持語句連貫性而生成了「看似合理但內容虛構」的資訊時，我們便稱之為幻覺。這與(A)模型偏見（隱含歧視）或(D)資安漏洞（系統遭入侵）有著本質上的區別。
▼ 還有更多解析內容