第一章习题习题 1
1 在英文字母中 E 出现的概率最大,等于 0
105,试求其信息量
解:E 的信息量:I E=log21P(E )=−log2 P (E)=−log20
25 b习题 1
2 某信息源由 A,B,C,D 四个符号组成,设每个符号独立出现,其出现的概率分别为 1/4,1/4,3/16,5/16
试求该信息源中每个符号的信息量
解:I A=log21P( A)=−log 2P( A)=−log214 =2b II B=−log2316 =2
415b I C=−log2316 =2
415b I D=−log2516 =1
678b习题 1
3 某信息源由 A,B,C,D 四个符号组成,这些符号分别用二进制码组00,01,10,11 表示
若每个二进制码元用宽度为 5ms 的脉冲传输,试分别求出在下列条件下的平均信息速率
(1) 这四个符号等概率出现; (2)这四个符号出现概率如习题 1
解:(1)一个字母对应两个二进制脉冲,属于四进制符号,故一个字母的持续时间为 2×5ms
传送字母的符号速率为RB=12×5×10−3=100 Bd等概时的平均信息速率为Rb=RB log2 M=RB log24=200 b/s (2)平均信息量为 H= 14 log24+ 14 log2 4+ 316 log2163 + 516 log2165 =1
977 比特/符号则平均信息速率为 Rb=RBH=100×1
977=197
7 b/s习题 1
4 试问上题中的码元速率是多少
解:习题 1
5 设一个信息源由 64 个不同的符号组成,其中 16 个符号的出现概率均为 1/32,其余 48 个符号出现的概率为 1/96,若此信息源每秒发出 1000 个独立的符号,试求该信息源的平均信息速率
解:该信息源的熵为 H ( X )=−∑i=1MP(xi