《信息与编码理论》上机实验指导书 ——————— 应用 MATLAB 软件实现 U PC 通信工程系 1 前 言 本实验系列是采用MATLAB 软件，主要针对《信息论基础》课程中的相关内容进行的实验。 MATLAB 是一完整的并可扩展的计算机环境，是一种进行科学和工程计算的交互式程序语言。它的基本数据单元是不需要制定维数的矩阵，它可直接用于表达数学的算式和技术概念，解决同样的数值计算问题，使用MATLAB 要比使用Basic、Fortran和C 语言等提高效率许多倍。MATLAB 还是一种有利的教学工具，在大学的线性代数课程以及其它领域的高一级课程的教学中，已称为标准的教学工具。 该指导书共安排了4 个实验，现就一些情况作简要说明： 各实验要求学生在 MATLAB 系统上尽量独立完成，弄懂。实验内容紧扣课程教学内容的各主要基本概念，希望同学们在完成每个实验后，对所学的内容起到巩固和加深 理 解的作用。 每个实验做 完后必 须 交一份 实验报 告 。 恳 请 各位 实验老 师 和同学在实验中提出 宝 贵 意 见 ，以利于以后改 进提高。 2 目 录 实验一 离散信源及其信息测度.......................................3 实验二 离散信道及其容量...........................................6 实验三 无失真信源编码.............................................8 实验四 有噪信道编码..............................................10 附录 部分常用 MATLAB 命令.......................................12 3 实验一 离散信源及其信息测度 一、[实验目的] 离散无记忆信源是一种最简单且最重要的信源，可以用完备的离散型概率空间来描述。本实验通过计算给定的信源的熵，加深对信源及其扩展信源的熵的概念的理解。 二、[实验环境] windows XP,MATLAB 三、[实验原理] 信源输出的各消息的自信息量的数学期望为信源的信息熵，表达式如下 1()[ ()]( )lo g( )qiiiH XE I xip xp x 信源熵是信源的统计平均不确定性的描述，是概率函数()p x 的函数。 四、[实验内容] 1、有条 100 字符英文信息，假定其中每字符从 26 个英文字母和 1 个空格中等概选取，那么每条信息提供的信息量为多少？若将 27 个字符分为三类，9 个出现概率占 2/7,13 个出现概率占 4/7，5 个出现占 1/7，而每类中符号出现等概，求该字符信源的信息熵。 2、二进制通信系统使用 0、1,由于...
