信息论与编码心得体会篇一:通信工程134班刘钰安6102213946信息论与编码学习体会篇二:信息论与编码课程设计报告信息论与编码课程设计报告设计题目:统计信源熵与香农编码专业班级学号学生姓名指导教师教师评分20XX年3月24日目录一、设计任务与要求.................................................2二、设计思路.......................................................2三、设计流程图.....................................................3四、程序运行及结果.................................................5五、心得体会.......................................................6参考文献..........................................................6附录:源程序........................................................7一、设计任务与要求1、统计信源熵要求:统计任意文本文件中各字符(不区分大小写)数量,计算字符概率,并计算信源熵。2、香农编码要求:任意输入消息概率,利用香农编码方法进行编码,并计算信源熵和编码效率。二、设计思路1、统计信源熵:统计信源熵就是对一篇英文文章(英文字母数为N),通过对其中的a,b,c,d/A,B,C,D.....统计每个字母的个数n,有这个公式P=n/N可得每个字母的概率,最后又信源熵计算公式H(x)=??plogpi?1n可计算出信源熵H,所以整体步骤就是先统计出英文段落的总字符数,在统计每个字符的个数,即每遇到同一个字符就++1,直到算出每个字符的个数,进而算出每个字符的概率,再由信源熵计算公式计算出信源熵。2、香农编码:香农编码主要通过一系列步骤支出平均码长与信源之间的关系,同时使平均码长达到极限值,即选择的每个码字的长度ki满足下式:I?ki?I?1,?i具体步骤如下:a、将信源消息符号按其出现的概率大小依次排列为:p1?p2?......?pnb、确定满足下列不等式的整数码长ki为:?lb?ki??lb?1c、为了编成唯一可译码,计算第i个消息的累加概率:pi??pk?1i?1d、将累加概率Pi变换成二进制数。e、取Pi二进制数的小数点后Ki位即为该消息符号的二进制码字。在香农编码中对于求解编码效率主要是依靠这个公式:R=H/K,其中k??pii?1nH(x)=??plogpi?1n对于求解信源熵主要依靠公式三、设计流程图1、统计信源熵:2、香农编码篇三:信息论与编码实验报告课程名称:姓名:系:专业:年级:学号:指导教师:职称:实验报告信息论与编码年月日目录实验一信源熵值的计算........................................................................1实验二Huffman信源编码.....................................................................5实验三Shannon编码............................................................................9实验四信道容量的迭代算法..............................................................12实验五率失真函数.............................................................................15实验六差错控制方法..........................................................................20实验七汉明编码.................................................................................22实验一信源熵值的计算一、实验目的1进一步熟悉信源熵值的计算2熟悉Matlab编程二、实验原理熵(平均自信息)的计算公式q1H??pilog2???pilog2pipii?1i?1qMATLAB实现:HX?sum);或者h?h?x*log2)流程:第一步:打开一个名为“nan311”的TXT文档,读入一篇英文文章存入一个数组temp,为了程序准确性将所读内容转存到另一个数组S,计算该数组中每个字母与空格的出现次数,每出现一次该字符的计数器+1;第二步:计算信源总大小计算出每个字母和空格出现的概率;最后,通过统计数据和信息熵公式计算出所求信源熵值(本程序中单位为奈特nat)。程序流程图:1三、实验内容1、写出计算自信息量的Matlab程序2、已知:信源符号为英文字母(不区分大小写)和空格。输入:一篇英文的信源文档。输出:给出该信源文档的中各个字母与空格的概率分布,以及该信源的熵。四、实验环境MicrosoftWindows7Matlab五、...