编码编码信息传输需要解决的两个问题：信息传输需要解决的两个问题：在不失真或允许一定失真的条件下，如何用尽可在不失真或允许一定失真的条件下，如何用尽可能少的信息率来传送信源信息？能少的信息率来传送信源信息？在信道受干扰的情况下，如何增加信号的抗干扰在信道受干扰的情况下，如何增加信号的抗干扰能力，同时又使得信息传输率最大？能力，同时又使得信息传输率最大？有效性和可靠性有效性和可靠性提高抗干扰能力（降低失真或错误概率）往往是提高抗干扰能力（降低失真或错误概率）往往是以降低信息传输率为代价的；以降低信息传输率为代价的；反之，要提高信息传输率常常又会使抗干扰能力反之，要提高信息传输率常常又会使抗干扰能力减弱。减弱。信源编信源编码码信道编信道编码码编码编码信源编码：信源编码：以以提高通信系统的有效性提高通信系统的有效性为目的的编码为目的的编码信源符号之间存在分布不均匀和相关性，使得信源存在冗信源符号之间存在分布不均匀和相关性，使得信源存在冗余度。余度。主要任务：减少冗余，提高编码效率。即用较少的码率传主要任务：减少冗余，提高编码效率。即用较少的码率传送较多的信息，使单位时间内传送的平均信息量增加，从送较多的信息，使单位时间内传送的平均信息量增加，从而提高通信的有效性。而提高通信的有效性。针对信源输出符号序列的统计特性，寻找一定的方法把信针对信源输出符号序列的统计特性，寻找一定的方法把信源输出符号序列变换为最短的码字序列。源输出符号序列变换为最短的码字序列。解除相关性解除相关性：使序列中的各个符号尽可能地互相独：使序列中的各个符号尽可能地互相独立立概率均匀化概率均匀化：使编码中各个符号出现的概率尽可能：使编码中各个符号出现的概率尽可能地相等地相等编码编码编码的分类编码的分类信道编码：以信道编码：以提高信息传输的可靠性提高信息传输的可靠性为目的的编码为目的的编码通常通过增加信源的冗余度来实现。通常通过增加信源的冗余度来实现。采用的一般方法是增大码率采用的一般方法是增大码率//带宽。带宽。密码：以密码：以提高通信系统的安全性提高通信系统的安全性为目的的编码为目的的编码通常通过加密和解密来实现。通常通过加密和解密来实现。从信息论的观点出发，“加密”可视为增熵的过程，从信息论的观点出发，“加密”可视为增熵的过程，“解密”可视为减熵的过程。“解密”可视为减熵的过程。无失真信源编码信源编码限失真信源编码编码信道编码加密编码第一极限定理第一极限定理第三极限定理第三极限定理第二极限定理第二极限定理编码编码无失真编码定理无失真编码定理可逆编码的基础。当信源符号转换成代码后，可可逆编码的基础。当信源符号转换成代码后，可从代码无失真地恢复原符号。从代码无失真地恢复原符号。适用于适用于离散信源离散信源//数字信号编码。数字信号编码。限失真编码定理限失真编码定理对于连续信源，编成代码后就无法无失真地恢复对于连续信源，编成代码后就无法无失真地恢复原来的连续值，因为取值可以有无限多个。此时原来的连续值，因为取值可以有无限多个。此时只能根据限失真编码定理进行限失真编码。只能根据限失真编码定理进行限失真编码。适用于适用于连续信源连续信源//模拟信号编码。模拟信号编码。第第55章信源编码章信源编码5.15.1编码的定义编码的定义5.25.2无失真信源编码无失真信源编码5.35.3限失真信源编码定理限失真信源编码定理5.45.4常用信源编码方法简介常用信源编码方法简介定长编码定理定长编码定理变长编码定理变长编码定理最佳变长编码最佳变长编码游程编码、算术编码游程编码、算术编码编码的定义编码的定义编码器编码器输入端为原始信源输入端为原始信源XX=(=(XX11XX22……XXll……XXLL))，其符号，其符号集为集为AA，即，即XXll{∈{∈aa11,,aa22,…,…aaii,…,…aann}}信道所能传输的符号集信道所能传输的符号集BB={={bb11,,bb22,…,…bbjj,…,…bbmm}}编码器的功能是用符号集编码器的功能是用符号集BB中的元素，将...
