1桂林工学院2009-2010学年第二学期课程名称:《信息论与编码》一、填空(每题2分,共20分)1、信息是对事物状态(或它的存在方式)的不确定性的一种描述,其中自信息I(x)=;事件发生前,它表示,事件发生后,它表示。2、已知一个单符号离散无记忆信源,4/14/12/1)(321xxxXPX,则其四次扩展信源的序列熵的大小为______。3、对于单符号离散无记忆信源X,若输出符号取值于集合876,5,4321,,,,,xxxxxxxx,则其最大信源熵为______,且达到此最大熵时各符号的概率分布为__________________。4、信源编码的目的是为了提高通信系统的____________________,而信道编码的最终目的是为了______________________________。5、一离散信道的信道矩阵如下所示,则其信道容量为______比特/信道符号。003.06.01.000000000005.03.02.0004.01.00000003.02.0P6、有一个信源,它产生0,1序列的信息,它在任意时间而且无论以前发生什么符号,均按P(0)=0.3,P(1)=0.7的概率发出符号,则H(X2)=,X2信源中可能有的符号H(X3/X1X2)=。7、在对单符号离散信源进行费诺编码时,其中一个步骤是按编码进制数将概率分组,分组的原则是使每组概率之和______________________。8、设某二元码为C={11100,01001,10010,00111}若码字等概率分布,则此码的码率为,若采用最小距离译码准则,则接收序列10011,01100,应译成的码字分别为、9、(7,4)汉明码的许用码组有__个;若一码组为0100111,则其码重为___。210、某(7,4)循环码,生成多项式为g(x)=x3+x+1(对应码字为0001011),则码字1010011______此循环码的码字,码字1100100______此循环码的码字(本题填“是”或“不是”)。二、选择,将正确答案代号填写在题后的括号内(20分)1、设有离散无记忆信源,8/18/14/12/13210)(4321xxxxXPX其发出的消息为3021300120021011030101002,则此消息中平均每个符号携带的信息量是答:()(A)2比特/符号(B)1.75比特/符号(C)1.98比特/符号(D)1.84比特/符号2、若三个离散随机变量,有如下关系:X+Y=Z,其中X和Y相互独立。则以下各组关系式中哪一组是正确的答:()(A)I(X;Z)=H(Z)-H(Y);I(X;YZ)=H(X);I(Y:Z/X)=H(Y);I(X;Y/Z)=H(X/Z);(B)I(X;Z)=H(Z)-H(Y);I(X;YZ)=H(Y);I(Y:Z/X)=H(Z);I(X;Y/Z)=H(X/Z);(C)I(X;Y)=0;I(X;YZ)=H(X);I(Y:Z/X)=H(X);I(X;Y/Z)=H(Z/X);(D)I(X;Y)=0;I(X;YZ)=H(X);I(Y:Z/X)=H(Y);I(X;Y/Z)=H(X/Z);3、八进制脉冲所含信息量是二进制脉冲的几倍。答:()(A)2(B)3(C)1/2(D)1/34、发送端发送纠检错码,接收端根据纠检错码判断接收的消息是否有错,如果在纠错范围内,则自动纠错,否则反馈给发送端,发送端重新发送信息,这种纠错方式为何种纠错方式。(A)前向纠错(B)混合纠错(C)反馈重传纠错(D)自动纠错答:()5、设加性高斯白噪声信道中,信道带宽为4KHZ,又设{(信号功率+噪声功率)/噪声功率=16}则该信道的最大信息传输速率为多少?答:()(A)15Kbit/s(B)16Kbit/s(C)16.35Kbit/s(D)18Kbit/s6、设无记忆二进制信源2.08.010)(XPX,对此信源发出的二元序列进行游程编码,则0游程长度为3的概率为答:()(A)0.128(B)0.512(C)0.64(D)0.047、某单符号离散无记忆信源,信源符号数n=45,对其编四进制哈夫曼码,则首次缩减时选取的符号数r等于答:()(A)1(B)2(C)3(D)48下面哪个性质不属于加权熵的性质。答:()(A)非负性(B)对称性(C)非容性(D)凸函数性9、已知离散信源,4.02.03.01.0)(4321xxxxXPX某信道的信道矩阵为2.04.03.01.02.01.02.05.01.01.02.06.04.01.03.02.043214321xxxxyyyy3则“收到y3的条件下推测输入x1”的概率为()(A)1/32(B)0.32(C)0.1(D)1/2210、已知一个(6,3)线性分组码的生成矩阵110100011010101001G=,则在其伴随式-差错图案表中,错误图案E=(000001)对应的伴随式为:答:()(A)010(B)001(C)011(D)110三、判断题。以下陈述中,正确的在题号前打√,错误的打×。(10分)()1.若信源发送xi,信宿接收到yj,则互信息量表示从yj中得到的关于xi的信息量。(...