第三章3、1 设二元对称信道得传递矩阵为(1) 若 P(0) = 3/4, P(1) = 1/4,求 H(X), H(X/Y), H(Y/X)与 I(X;Y);(2) 求该信道得信道容量及其达到信道容量时得输入概率分布;解:1)2) 其最佳输入分布为3-2 某信源发送端有 2 个符号,,i=1,2;,每秒发出一个符号。接受端有 3 种符号,j=1,2,3,转移概率矩阵为。(1)计算接受端得平均不确定度;(2)计算由于噪声产生得不确定度;(3)计算信道容量。解:联合概率XY0则 Y 得概率分布为Y(1)取 2 为底(2)取 2 为底取 e 为底= 03、3 在有扰离散信道上传输符号 0 与 1,在传输过程中每 100 个符号发生一个错误,已知 P(0)=P(1)=1/2,信源每秒内发出 1000 个符号,求此信道得信道容量。解:由题意可知该二元信道得转移概率矩阵为:为一个 BSC 信道所以由 BSC 信道得信道容量计算公式得到:3、4 求图中信道得信道容量及其最佳得输入概率分布、并求当=0 与 1/2 时得信道容量 C 得大小。解: 信道矩阵 P=,此信道为非奇异矩阵,又 r=s,可利用方程组求解 = (i=1,2,3)解得 所以 C=log=log[20+2×2(1-)log(1-)+]=log[1+21-H()]=log[1+2]而 (j=1,2,3)得所以 P(a1)=P(b1)=当=0 时,此信道为一一对应信道,得 C=log3, 当=1/2 时,得 C=log2, ,3、5 求下列二个信道得信道容量,并加以比较(1) (2)其中 p+=1解:X0 Y0111221 -1 -(1)此信道就是准对称信道,信道矩阵中 Y 可划分成三个互不相交得子集 由于集列所组成得矩阵,而这两个子矩阵满足对称性,因此可直接利用准对称信道得信道容量公式进行计算。C1=logr-H(p1’ p2’ p3’)-其中 r=2,N1=M1=1-2 N2= M2=4 所以C1=log2-H(,p-ε,2ε)-(1-2)log(1-2)-2log4=log2+()log()+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog4ε=log2-2εlog2-(1-2ε)log(1-2ε)+()log()+(p-ε)log(p-ε)=(1-2ε)log2/(1-2ε)+()log()+(p-)log(p-)输入等概率分布时达到信道容量。(2)此信道也就是准对称信道,也可采纳上述两种方法之一来进行计算。先采纳准对称信道得信道容量公式进行计算,此信道矩阵中 Y 可划分成两个互不相交得子集,由子集列所组成得矩阵为,这两矩阵为对称矩阵 其中 r=2,N1=M1=1-2 N2=M2=2,所以C=logr-H(-,p-ε,2ε,0)-=log2+(-)log(-)+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog2ε=log2-(1-2ε)log(1-2ε)+( -)log(-)+(p-ε)log(p-ε)=(1-2ε)log2/(1-2ε)+2εlog2+(-)log(-)+(p-ε)log(p-ε)=C1...