信息论与编码知识点分布注:(1)复习过程中参考如下知识点,重点复习教材与多媒体讲义中的相关内容,在理解的基础上进行针对性公式记忆
(2)期末考试题量较大,题型较为灵活,求解速度很重要
因此复习中对典型例题、讲义中典型习题、教材中模拟题等要熟练掌握求解方法
第二章信源与信源熵1信源的不确定性2单符号离散信源(1)单符号离散信源的数学模型(2)单符号离散信源的信息量(自信息量、联合信息量、条件信息量及三种信息量的关系)自信息量:条件信息量:联合信息量:互信息量:信源熵:条件熵:联合熵:熵函数的性质:非负性;对称性;最大离散熵定理;扩展性;可加性;极值性;平均互信息量:各种熵之间的关系:例题:在理解的基础上求解实际问题:3多符号离散平稳信源离散无记忆扩展信源:定义;离散无记忆信源X的N次扩展信源的熵就是离散信源X的熵的N倍离散平稳信源:定义;平均符号熵与极限熵;4马尔可夫信源:定义;信源状态转移图;各态遍历定理;熵计算第三章无失真信源编码1信源编码的分类:2Kraft不等式与码树表示法;平均码长;编码效率;3定长编码定理;变长编码定理;4香农、费诺、Huffman、游程编码、LD编码、算数编码、LZW编码的编码过程
第四章限失真信源编码1失真测度与失真矩阵;2平均失真度与保真度准则;3信息率失真函数R(D)及其定义域的确定;4汉明失真下的的二元信源R(D)的定义式;5对称失真矩阵下n元等概信源率失真函数的定义式;6限失真信源编码定理及应用;7多媒体压缩编码(了解)第五章信道及信道容量1一般信道的数学模型:2信道容量的定义:()max(;)bit/ipxCIXY信道符号3信道容量的计算:特殊的单符号离散信道的信道容量一一对应关系的无损信道具有归并性能的无噪信道具有扩展性能的无噪信道强对称离散信道的信道容量对称离散信道的信道容量(行可排列、列可排列性)准对称离散信道的信道容量(行可