信息论基础与编码(第五章)5-1有一信源,它有六种可能的输出,其概率分布如下表所示,表中给出了对应的六种编码12345CCCCC、、、、和6C。(1)求这些码中哪些是唯一可译码;(2)求哪些是非延长码(即时码);(3)对所有唯一可译码求出其平均码长。消息概率1/20000001011/40010110100000011/1601001111011010011001/160110111111011000101011/16100011111111010011101101101111/160111111111101111011解:(1)1,2,3,6是唯一可译码;(2)1,3,6是即时码。5-2证明若存在一个码长为12,,,qlll的唯一可译码,则一定存在具有相同码长的即时码。证明:由定理可知若存在一个码长为的唯一可译码,则必定满足kraft不等式1。由定理4可知若码长满足kraft不等式,则一定存在这样码长的即时码。所以若存在码长的唯一可译码,则一定存在具有相同码长P(y=0)的即时码。5-3设信源126126()sssSpppPs,611iip。将此信源编码成为r元唯一可译变长码(即码符号集12{,,,}rXxxx),其对应的码长为(126,,,lll)=(1,1,2,3,2,3),求r值的最小下限。解:要将此信源编码成为r元唯一可译变长码,其码字对应的码长(l1,l2,l3,l4,l5,l6)=(1,1,2,3,2,3)必须满足克拉夫特不等式,即LqLL,,2,1qilir14LqLL,,2,1132321161rrrrrrrili所以要满足122232rrr,其中r是大于或等于1的正整数。可见,当r=1时,不能满足Kraft不等式。当r=2,1824222,不能满足Kraft。当r=3,127262729232,满足Kraft。所以,求得r的最大值下限值等于3。5-4设某城市有805门公务电话和60000门居民电话。作为系统工程师,你需要为这些用户分配电话号码。所有号码均是十进制数,且不考虑电话系统中0、1不可用在号码首位的限制。(提示:用异前缀码概念)(1)如果要求所有公务电话号码为3位长,所有居民电话号码等长,求居民号码长度1L的最小值;(2)设城市分为A、B两个区,其中A区有9000门电话,B区有51000门电话。现进一步要求A区的电话号码比B区的短1位,试求A区号码长度2L的最小值。解:(a)805门电话要占用1000个3位数中的805个,即要占用首位为0~7的所有数字及以8为首的5个数字。因为要求居民电话号码等长,以9为首的数字5位长可定义10000个号码,6位长可定义100000个号码。所以minL16。或由Craft不等式,有805106000010131L解得L1103180510600005488log.,即minL16(b)在(a)的基础上,将80为首的数字用于最后5个公务电话,81~86为首的6位数用于B区51000个号码,以9为首的5位数用于A区9000个号码。所以,minL25。或由Draft不等式,有80510900010510001013122LL()或8051090005100010101312()L解得L2103180510900051004859log.即minL255-5求概率分布为)152,152,51,51,31(的信源的二元霍夫曼码。讨论此码对于概率分布为)51,51,51,51,51(的信源也是最佳二元码。解:信源的概率分布为:)152,152,51,51,31()(isp二元霍夫曼码:00,10,11,010,011,码长:2,2,2,3,3当信源给定时,二元霍夫曼码是最佳二元码。所以对于概率分布为)51,51,51,51,51(的信源,其最佳二元码就是二元霍夫曼码。这二元霍夫曼码一定是三个信源符号的码长为2(码符号/信源符号),另二个信源符号的码长为3(码符号/信源符号),其平均码长最短。因此,上述对概率分布为)152,152,51,51,31(信源所编的二元霍夫曼码也是概略分布为)51,51,51,51,51(信源的最佳二元码。5-6设二元霍夫曼码为(00,01,10,11)和(0,10,110,111),求出可以编得这些霍夫曼码的信源的所有概率分布。解:由题意假设信源所发出的是个符号的概率为)P(S)P(S)P(S)P(S1234由霍夫曼编码的特点知:1)P(S)P(S)P(S)P(S1234根据霍夫曼编码的方法,每次概率最小的两个信源符号合并成一个符号,构成新的缩减信源,直至最后只剩两个符号。而且当缩减信源中的所有符号概率相等时,总是将合并的符号放在最上面。所以,对于二元霍夫曼码为(00,01,10,11)来说,每个信源都要缩减一次,所以34()()PSPS要大于1()PS和2()PS,这时必有12111P(S)P(S),P(S)33同理对于二元霍夫曼码为(0,10,110,111)有34111P(S)P(S),P(S)>33信源概率分布满足以上条件则其霍夫曼编码符合题意。5-7设一信源有K=6个符号,其概...