《信息论基础》答案一、填空题(本大题共10小空,每小空1分,共20分)1
按信源发出符号所对应的随机变量之间的无统计依赖关系,可将离散信源分为有记忆信源和无记忆信源两大类
一个八进制信源的最大熵为3bit/符号3
有一信源X,其概率分布为,其信源剩余度为94
64%;若对该信源进行十次扩展,则每十个符号的平均信息量是15bit
若一连续消息通过放大器,该放大器输出的最大瞬间电压为b,最小瞬时电压为a
若消息从放大器中输出,则该信源的绝对熵是;其能在每个自由度熵的最大熵是log(b-a)bit/自由度;若放大器的最高频率为F,则单位时间内输出的最大信息量是2Flog(b-a)bit/s
若某一信源X,其平均功率受限为16w,其概率密度函数是高斯分布时,差熵的最大值为;与其熵相等的非高斯分布信源的功率为6、信源编码的主要目的是提高有效性,信道编码的主要目的是提高可靠性
7、无失真信源编码的平均码长最小理论极限制为信源熵(或H(S)/logr=Hr(S))
8、当R=C或(信道剩余度为0)时,信源与信道达到匹配
9、根据是否允许失真,信源编码可分为无失真信源编码和限失真信源编码
10、在下面空格中选择填入数学符号“”或“”(1)当X和Y相互独立时,H(XY)=H(X)+H(X/Y)
(2)假设信道输入用X表示,信道输出用Y表示
在无噪有损信道中,H(X/Y)>0,H(Y/X)=0,I(X;Y)