下载后可任意编辑信息论编码试卷 1一、 ( 11’) 填空题（1） 1948 年, 美国数学家 香农 发表了题为”通信的数学理论”的长篇论文, 从而创立了信息论。（2） 必定事件的自信息是 0 。 （3） 离散平稳无记忆信源 X 的 N 次扩展信源的熵等于离散信源 X的熵的 N 倍 。 （4） 对于离散无记忆信源, 当信源熵有最大值时, 满足条件为__信源符号等概分布_。（5） 对于香农编码、 费诺编码和霍夫曼编码, 编码方法惟一的是 香农编码 。（6） 已知某线性分组码的最小汉明距离为 3, 那么这组码最多能下载后可任意编辑检测出_2_______个码元错误, 最多能纠正___1__个码元错误。（7） 设有一离散无记忆平稳信道, 其信道容量为 C, 只要待传送的信息传输率 R__小于 _ __C( 大于、 小于或者等于) , 则存在一种编码, 当输入序列长度 n 足够大, 使译码错误概率任意小。（8） 平均错误概率不但与信道本身的统计特性有关, 还与___译码规则 _ ___________和___ 编码方法 _ __有关二、 ( 9) 推断题 （1） 信息就是一种消息。 ( ) （2） 信息论讨论的主要问题是在通信系统设计中如何实现信息传下载后可任意编辑输、 存储和处理的有效性和可靠性。 ( ) （3） 概率大的事件自信息量大。 ( ) （4） 互信息量可正、 可负亦可为零。( ) （5） 信源剩余度用来衡量信源的相关性程度, 信源剩余度大说明信源符号间的依赖关系较小。 ( ) （6） 对于固定的信源分布, 平均互信息量是信道传递概率的下凸函数。 ( ) （7） 非奇异码一定是唯一可译码, 唯一可译码不一定是非奇异码。 ( ) （8） 信源变长编码的核心问题是寻找紧致码( 或最佳码) , 霍夫下载后可任意编辑曼编码方法构造的是最佳码。 ( ) ( 9) 信息率失真函数 R(D)是关于平均失真度 D 的上凸函数. ( )三、( 5) 居住在某地区的女孩中有 25%是大学生, 在女大学生中有 75%是身高 1.6 米以上的, 而女孩中身高 1.6 米以上的占总数的一半。假如我们得知”身高 1.6 米以上的某女孩是大学生”的消息, 问获得多少信息量? 解: 设 A 表示”大学生”这一事件, B 表示”身高 1.60 以上”这一事件, 则 P(A)=0.25 p(B)=0.5 p(B|A)=0.75 ( 2分) 故 下载后可任意编辑p(A|B)=p(AB)/p(B)=p(A)p(B|A)/p(B)=0.75*0.25/0.5=0.375 ( 2 分) I(A|B)=-log0.375=1....
