第1页共11页考试科目名称：信息论一.单选（每空2分，共20分）1.信道编码的目的是（C），加密编码的目的是（D）。A．保证无失真传输B．压缩信源的冗余度，提高通信有效性C．提高信息传输的可靠性D．提高通信系统的安全性2.下列各量不一定为正值的是（D）A．信源熵B．自信息量C．信宿熵D．互信息量3.下列各图所示信道是有噪无损信道的是（B）A．B．第2页共11页C．D．4.下表中符合等长编码的是（A）第3页共11页5.联合熵H（XY）与熵H（X）及条件熵H（X/Y）之间存在关系正确的是（A）A．H（XY）＝H（X）＋H（Y／X）B．H（XY）＝H（X）＋H（X／Y）C．H（XY）＝H（Y）＋H（X）D．若X和Y相互独立，H（Y）=H（YX）6.一个n位的二进制数，该数的每一位可从等概率出现的二进制码元（0，1）中任取一个，这个n位的二进制数的自信息量为（C）A．n2B．1bitC．nbitD．2n7.已知发送26个英文字母和空格，其最大信源熵为H0=log27=4.76比特/符号；在字母发送概率不等时，其信源熵为H1=4.03比特/符号；考虑字母之间相关性时，其信源熵为H2=3.32比特/符号；以此类推，极限熵H∞=1.5比特/符号。问若用一般传送方式，冗余度为（B）A．0.32B．0.68第4页共11页C．0.63D．0.378.某对称离散信道的信道矩阵为，信道容量为（B）A．)61,61,31,31(24logHCB．)61,61,31,31(4logHCC．)61,61,31,31(2logHCD．)61,31(2logHC9.下面不属于最佳变长编码的是（D）A．香农编码和哈夫曼编码B．费诺编码和哈夫曼编码C．费诺编码和香农编码D．算术编码和游程编码二.综合（共80分）1.（10分）试写出信源编码的分类，并叙述各种分类编码的概念和特性。（1分）将信源消息分成若干组，即符号序列xi，xi＝(xi1xi2⋯xil⋯xiL)，{非分组码分组码{奇异码非奇异码{非唯一可译码唯一可译码{非即时码即时码（非延长码）码（5分）第5页共11页xilA={a1，a2，⋯，ai，⋯，an}每个符号序列xi依照固定码表映射成一个码字yi，yi＝(yi1yi2⋯yil⋯yiL)，，b2，⋯，bi，⋯，bm}这样的码称为分组码，有时也叫块码。只有分组码才有对应的码表，而非分组码中则不存在码表。（1分）奇异码和非奇异码若信源符号和码字是一一对应的，则该码为非奇异码。反之为奇异码。（1.5分）唯一可译码任意有限长的码元序列，只能被唯一地分割成一个个的码字，便称为唯一可译码（1.5分）即时码：只要收到符号就表示该码字已完整，可以立即译码。即时码又称为非延长码，任意一个码字都不是其它码字的前缀部分，有时叫做异前缀码。2.（15分）有一个二元二阶马尔可夫信源,其信源符号集为{0，1}，已知符号条件概率：p(0|00)=1/2p(1|00)=1/2p(0|01)=1/3p(1|01)=2/3p(0|10)=1/4p(1|10)=3/4p(0|11)=1/5p(1|11)=4/5求：（1）.信源全部状态及状态转移概率；（2）.画出完整的二阶马尔可夫信源状态转移图；（3）.求平稳分布概率。解：（1）.符号条件概率矩阵第6页共11页状态转移概率矩阵（5分）（2）.（5分）（3）.平稳分布概率（5分）121234()()()1/21/2()1/32/3(|)()1/43/4(0100011011)1/54/5jiaasspasss5/45/100004/34/13/23/100002/12/1)|(43214321sssssspssssij154325131432141214321442342231131WWWWWWWWWWWWWWWWpijjiiWW74,356,356,3534321WWWW11()(|)()iiipapasps221326364426()(|)()2353354355735iiipapasps1316161492353354355735第7页共11页3.（20分）具有符号集},{10uuU的二元信源，信源发生概率为：210,1)(,)(10ppuppup。Z信道如图所示，接收符号集},{10vvV，转移概率为：quvquvq1)|(,1)|(1100。发出符号与接收符号的失真：1),(),(,0),(),(10011100vudvudvudvud。（1）.计算平均失真—D；（2）.率失真函数R(D)的最大值是什么？当q为什么值时可达到该最大值？此时平均失真—D是多大？（3）.率失真函数R(D)的最小值是什么？当q为什么值时可达到该最小值？此时平均失真—D是多大？（4）.画出R(D)-D曲线。解：（1）.已知信源符号概率210,1)(,)(10ppuppup；转移概率矩阵qquvqij101)]|([；失真矩阵0110)],([jivud；第8页共11页联合概率矩阵)1)(1()1(0)],([qpqppvupji；qpqpqppvudvupDjiji)1(0)1)(1(1)1(100),(),(ij—。（5分）（2）.maxR(D)=R(Dmin)=H(X)=-plogp-(1-p)log(1-p...
