調查局三等申論題
106年
[電子科學組] 通信與系統
第 一 題
📖 題組：
考慮一個頻寬為 4k 赫茲（Hz）的有限頻寬（band-limited）信號源，具有 8 個量化階位（Quantized level），稱之為 $s_1$、$s_2$、$s_3$、$s_4$、$s_5$、$s_6$、$s_7$、$s_8$。其對應的機率值分別為 0.25、0.2、0.2、0.1、0.1、0.05、0.05、0.05。（每小題 10 分，共 20 分）
考慮一個頻寬為 4k 赫茲（Hz）的有限頻寬（band-limited）信號源，具有 8 個量化階位（Quantized level），稱之為 $s_1$、$s_2$、$s_3$、$s_4$、$s_5$、$s_6$、$s_7$、$s_8$。其對應的機率值分別為 0.25、0.2、0.2、0.1、0.1、0.05、0.05、0.05。（每小題 10 分，共 20 分）
📝 此題為申論題，共 2 小題
小題 (一)
求解此信號源之平均消息量（Entropy）。
思路引導 VIP
看到求「平均消息量（Entropy）」，應立刻聯想資訊理論中的 Shannon 熵定義公式。將題目給定的各個機率值代入公式，注意計算時對數底數為 2，可利用對數律（如 log(A*B) = logA + logB）將小數轉為分數來簡化手算過程，最後務必標註單位「bits/symbol」。
小題 (二)
如果此信號源之取樣率（$f_s$）為 8k 赫茲，求解消息率（Rate of information）。
思路引導 VIP
看到要求「消息率（Rate of information）」，應立即聯想到公式 $R = f_s \times H$，其中 $f_s$ 為取樣率（即符號傳輸率），$H$ 為信號源的平均資訊量（熵, Entropy）。解題關鍵在於先代入各機率值精確計算出 $H$，並善用對數律化簡，最後再乘上取樣率求得最終位元率。