信息论与编码实验一VIP免费

实验报告实验名称关于信源熵的实验课程名称信息论与编码姓名成绩班级电子信息1102学号日期2013.11.22地点综合实验楼实验一关于信源熵的实验一、实验目的1.掌握离散信源熵的原理和计算方法。2.熟悉matlab软件的基本操作，练习使用matlab求解信源的信息熵。3.自学图像熵的相关概念，并应用所学知识，使用matlab或其他开发工具求解图像熵。4.掌握Excel的绘图功能，使用Excel绘制散点图、直方图。二、实验原理1.离散信源相关的基本概念、原理和计算公式产生离散信息的信源称为离散信源。离散信源只能产生有限种符号。随机事件的自信息量I（xi）为其对应的随机变量xi出现概率对数的负值。即：I（xi）=-log2p(xi)随机事件X的平均不确定度（信源熵）H（X）为离散随机变量xi出现概率的数学期望，即：2.二元信源的信息熵设信源符号集X={0，1}，每个符号发生的概率分别为p(0)=p，p(1)=q，p+q=1，即信源的概率空间为：则该二元信源的信源熵为：H(X)=-plogp–qlogq=-plogp–(1-p)log(1-p)即：H(p)=-plogp–(1-p)log(1-p)其中0≤p≤13.MATLAB二维绘图用matlab中的命令plot(x,y)就可以自动绘制出二维图来。例1-2，在matlab上绘制余弦曲线图，y=cosx，其中0≤x≤2。>>x=0:0.1:2*pi；%生成横坐标向量，使其为0，0.1，0.2，…，6.2>>y=cos(x)；%计算余弦向量>>plot(x,y)%绘制图形4.MATLAB求解离散信源熵求解信息熵过程：1)输入一个离散信源，并检查该信源是否是完备集。2)去除信源中符号分布概率为零的元素。3)根据平均信息量公式，求出离散信源的熵。5.图像熵的相关知识图像熵是一种特征的统计形式，它反映了图像中平均信息量的多少。图像的一维熵表示图像中灰度分布的聚集特征所包含的信息量，令Pi表示图像中灰度值为i的像素所占的比例，则定义灰度图像的一元灰度熵为：图像熵计算过程：1)输入一幅图像，并将其转换成灰度图像。2)统计出图像中每个灰度阶象素概率。3)计算出一幅图像的一维熵。6.Excel的绘图功能比如：用Excel或制作二元熵函数曲线。具体步骤如下：1）启动Excel应用程序。2）准备一组数据p。在Excel的一个工作表的A列（或其它列）输入一组p，取步长为0.01，从0至100产生101个p（利用Excel填充功能）。3）使用Excel的计算功能，在B列中用二元熵函数计算公式，求得A列中各数值对应的二元熵值。比如：在单元格B2中输入公式：=-A2*LOG(A2,2)-(1-A2)*LOG(1-A2,2)。4）使用Excel的图表向导，图表类型选“XY散点图”，子图表类型选“无数据点平滑散点图”，绘制二元熵函数散点图。三、实验内容1、使用matlab软件绘制二元信源熵函数曲线，并说明其物理意义。2、使用matlab软件求解离散单符号信源熵，请自己构造两个信源空间，根据求解结果说明其物理意义。3、使用matlab软件计算图像一维图像熵，请自己选择任意两幅图像，根据求解结果说明其物理意义。4、使用Excel软件，绘制二元信源熵函数曲线的散点图。5、使用Excel软件，绘制（3）中两幅图像的灰度直方图（0到255各灰度占图像像素的比例值，使用柱状图绘制其比列分布）。四、程序设计与算法描述（1）绘制二元信源熵函数曲线实验代码：clc;p=0.00:0.01:1;H=-(p).*log2(p)-(1-p).*log2(1-p);plot(p,H);实验结果如下：物理意义：（1）信源熵为信源的平均不确定性，而概率的大小决定了信息量的大小。（2）由上图可知概率为1时，信息量最小，不确定性最低；概率等于0.5时熵最大。（2）求解离散单符号信源熵程序代码：p1=[0.1,0.4,0.5,0.1];h1=sum(-p1.*log2(p1));p2=[0.3,0.2,0.4,0.1];h2=sum(-p2.*log2(p2));h1,h2实验结果：h1=1.6932h2=1.8464计算结果表明了信源的平均不确定度。计算图像一维图像熵选择的图像如下：实验代码如下：（1）clearall;closeall;fid=fopen('lena.img','r');image1=fread(fid,[256,256],'uint8');fclose(fid);imshow(image1,[]);[C1R1]=size(image1);image1_size=C1*R1;H1=0;n=zeros(256,1);fori=1:C1forj=1:R1image1_level=image1(i,j)+1;n(image1_level)=n(image1_level)+1;endendfork=1:256P(k)=n(k)/image1_size;ifP(k)~=0;H1=-P(k)*log2(P(k))+H1;endendH1（3）用Excel软件，绘制二元信源熵函数曲线的散...