第5章无失真信源编码

5.1 有一信源，它有6 个可能的输出，其概率分布如题5.1 表所示，表中给出了对应的码EDCBA,,,, 和 F 。 题表 5.1 消息 p(ai) A B C D E F a1 1/2 000 0 0 0 0 0 a2 1/4 001 01 10 10 10 100 a3 1/16 010 011 110 110 1100 101 a4 1/16 011 0111 1110 1110 1101 110 a5 1/16 100 01111 11110 1011 1100 111 a6 1/16 101 011111 111110 1101 1111 011 (1) 求这些码中哪些是唯一可译码； (2) 求哪些是非延长码（即时码）； (3) 对所有唯一可译码求出其平均码长 L 。 解： (1) 唯一可译码：A，B，C A 是等长码，码长3，每个码字各不相同，因此是唯一可译码。 B 是非即时码，前缀码，是唯一可译码。 C 是即时码，是唯一可译码。 D 是变长码，码长}4 ,4 ,4 ,3 ,2 ,1{，不是唯一可译码，因为不满足 Kraft 不等式。 10625.13212121214321ilir E 是变长码，码长}4 ,4 ,4 ,4 ,2 ,1{，满足 Kraft 不等式，但是有相同的码字，110053 WW，不是唯一可译码。 114212121421ilir F 是变长码，码长}3 ,3 ,3 ,3 ,3 ,1{，不满足 Kraft 不等式，不是唯一可译码。 1125.15212131ilir (2) 非延长码：A，C (3) 3125.161615161416131612411213iiiCBAlpLLL 5.7 设离散信源的概率空间为 05.010.015.020.025.025.0654321ssssssPS 对其采用香农编码，并求出平均码长和编码效率。 解： xi p(xi) pa(xi) ki 码字 x1 0.2 0 3 000 x2 0.19 0.2 3 001 x3 0.18 0.39 3 011 x4 0.17 0.57 3 100 x5 0.15 0.74 3 101 x6 0.1 0.89 4 1110 x7 0.01 0.99 7 1111110 %7.897.2423.2)( 423.205.0lo g05.0...25.0lo g25.0lo g)(7.2505.041.0315.032.0225.0225.0LSHbitppSHlpLiiiiii 5.8 设无记忆二元信源，其概率995.0 ,005.021pp。信源输出100N的二元序列。在长为100N的信源序列中只对含有3 个或小于3 个“1”的各信源序列构成一一对应的一组等长码。 (1) 求码字所需要的长度； (2) 考虑没有...