moea_joint_essay
104年
[通信] 通訊系統、電磁學
第 一 題
📖 題組:
考慮一通道如【圖 1】,$p(y_0 | x_0) = p(y_2 | x_1) = 1-p$,$p(y_1 | x_0) = p(y_1 | x_1) = p$,求:
考慮一通道如【圖 1】,$p(y_0 | x_0) = p(y_2 | x_1) = 1-p$,$p(y_1 | x_0) = p(y_1 | x_1) = p$,求:
📝 此題為申論題,共 2 小題
小題 (一)
互信息(mutual information) $I(X;Y)$。(10分)
思路引導 VIP
列出輸入機率分佈並推導輸出機率,運用互資訊公式 $I(X;Y) = H(Y) - H(Y|X)$,計算條件熵與輸出資訊熵,將結果化簡整理出含參數 r 與 p 的表達式。
小題 (二)
通道容量(channel capacity ) $C_s$。(10分)
思路引導 VIP
通道容量定義為互資訊的最大值 $C_s = \max_{P(X)} I(X;Y)$,藉由調整輸入機率分布(參數 r)使得 $H(r)$ 最大化。