調查局四等申論題
106年
[電子科學組] 通信與系統概要
第 一 題
📖 題組：
假設一組無記憶性（memoryless）信號源使用 4 個符碼（即：X1, X2, X3, X4）傳送，其發生的機率分別為：P(X1)=1/2, P(X2)=1/4, P(X3)=P(X4)=1/8。 （每小題 10 分，共 20 分）
假設一組無記憶性（memoryless）信號源使用 4 個符碼（即：X1, X2, X3, X4）傳送，其發生的機率分別為：P(X1)=1/2, P(X2)=1/4, P(X3)=P(X4)=1/8。 （每小題 10 分，共 20 分）
📝 此題為申論題，共 2 小題
小題 (一)
請建構具有最小變異量之哈夫曼碼（Huffman code）。
思路引導 VIP
看到建構霍夫曼碼，應立即想到將符號依機率遞減排序，並反覆合併最小的兩個機率。題目強調「最小變異量」，代表在重新排序遇到機率相同時，應將合併後的新節點排在同機率的最前列（盡量縮短該分支的整體碼長），以使各符號的碼長差異最小化。
小題 (二)
請計算其平均長度？
思路引導 VIP
看到「無記憶性信號源」與各符碼發生機率要求計算「平均長度」時，應直覺聯想到霍夫曼編碼（Huffman Coding）或夏農熵（Shannon Entropy）。因為題目給定的機率剛好都是 2 的負整數次方（1/2, 1/4, 1/8），最佳編碼的平均長度將精準等於信號源的熵，可透過建構編碼樹或直接計算熵來求解。