信息论和编码技术复习提纲复习题VIP免费

复习－1《信息论与编码技术》复习提纲复习题纲第0章绪论题纲：I.什么是信息？II.什么是信息论？III.什么是信息的通信模型？IV.什么是信息的测度？V.自信息量的定义、含义、性质需掌握的问题：1.信息的定义是什么？（广义信息、狭义信息——Shannon信息、概率信息）2.Shannon信息论中信息的三要素是什么？3.通信系统模型图是什么？每一部分的作用的是什么？4.什么是信息测度？5.什么是样本空间、概率空间、先验概率、自信息、后验概率、互信息？6.自信息的大小如何计算？单位是什么？含义是什么（是对什么量的度量）？第1章信息论基础㈠《离散信源》题纲：I.信源的定义、分类II.离散信源的数学模型III.熵的定义、含义、性质，联合熵、条件熵复习－2IV.离散无记忆信源的特性、熵V.离散有记忆信源的熵、平均符号熵、极限熵VI.马尔科夫信源的定义、状态转移图VII.信源的相对信息率和冗余度需掌握的问题：1.信源的定义、分类是什么？2.离散信源的数学模型是什么？3.信息熵的表达式是什么？信息熵的单位是什么？信息熵的含义是什么？信息熵的性质是什么？4.单符号离散信源最大熵是多少？信源概率如何分布时能达到？5.信源的码率和信息率是什么，如何计算？6.什么是离散无记忆信源？什么是离散有记忆信源？7.离散无记忆信源的数学模型如何描述？信息熵、平均符号熵如何计算？8.离散有记忆多符号离散平稳信源的平均符号熵、极限熵、条件熵（N阶熵）的计算、关系和性质是什么？9.什么是马尔科夫信源？马尔科夫信源的数学模型是什么？马尔科夫信源满足的2个条件是什么？10.马尔科夫信源的状态、状态转移是什么？如何绘制马尔科夫信源状态转移图？11.马尔科夫信源的稳态概率、稳态符号概率、稳态信息熵如何计算？12.信源的相对信息率和冗余度是什么？如何计算？复习－3㈡《离散信道》题纲：I.信道的数学模型及分类II.典型离散信道的数学模型III.先验熵和后验熵IV.互信息的定义、性质V.平均互信息的定义、含义、性质、维拉图VI.信道容量的定义VII.特殊离散信道的信道容量需掌握的问题：1.信道的定义是什么？信道如何分类？信道的数学模型是什么？2.二元对称信道和二元删除信道的信道传输概率矩阵是什么？3.对称信道的信道传输概率矩阵有什么特点？4.根据信道的转移特性图，写出信道传输概率矩阵。5.先验熵、后验熵的区别？6.联合熵、条件熵和信息熵的关系。7.互信息的大小如何计算？互信息的性质是什么？8.联合互信息、条件互信息、互信息之间的关系是什么？9.平均互信息的定义是什么？平均互信息的含义？平均互信息的性质？10.联合平均互信息、条件平均互信息和平均互信息的关系？11.损失熵和噪声熵的含义是什么？维拉图表示了哪些关系式？12.信道的传码率和传信率（信息率）的计算方法是什么？复习－413.信道容量的定义是什么？信道容量的含义如何理解？14.无噪无损信道、有噪无损信道、无噪有损信道、对称信道的信道容量如何计算？㈢《连续信源和波形信道》题纲：I.连续信源的定义、数学模型、绝对熵、相对熵II.给定条件下，连续信源的最大熵III.熵功率IV.连续信道和波形信道的信道容量需掌握的问题：1.连续信源定义、数学模型是什么？2.连续信源熵的表达式是什么？相对熵和绝对熵的区别是什么？3.如何计算均匀分布、正态分布连续信源的最大熵？4.什么是波形信道？了解波形信道互信息、信道容量的求解思路。5.香农公式是什么？物理意义是什么？第2章无失真信源编码题纲：I.基本概念1.编码2.二元码3.等长码复习－54.变长码5.码的N次扩展码6.唯一可译码II.等长码III.变长码IV.无失真信源编码定理V.编码方法1.香农编码2.费诺编码3.霍夫曼编码需掌握的问题：1.编码的定义及编码相关术语。2.信源编码的定义及目的是什么？3.解释二元码、等长码、变长码、唯一可译码。4.变长码和定长码的区别是什么？用码树描述二者的差异，能够说明变长码和定长码各自的优劣。5.描述香农第一定理及意义。6.掌握香农编码、费诺编码、霍夫曼编码的步骤及特点，会计算编码效率。7.了解游程编码和算术编码的思路。第3章信道编码题纲：I.检错、纠错原理及方法、能力II.差错控制理论复习－61.译码规则2.2种准则下的错误...