2.1 一 个 马 尔 可 夫 信 源 有3 个 符 号 1 ,23,u uu， 转 移 概 率 为 ：11|1/2p u u，21|1/2p uu，31|0p uu ，12|1/3p u u，22|0p uu ，32|2/3p uu，13|1/3p u u，23|2/3p uu，33|0p uu ， 画 出 状 态 图 并 求 出 各 符 号 稳 态 概 率 。 解 ： 状 态 图 如 下 状 态 转 移 矩 阵 为 ： 1/21/201/302/31/32/30p 设 状 态 u1， u2， u3 稳 定 后 的 概 率 分 别 为 W 1， W 2、 W 3 由1231WPWWWW 得1231132231231112331223231WWWWWWWWWWWW 计 算 可 得1231025925625WWW 2.2 由 符 号 集 {0， 1}组 成 的 二 阶 马 尔 可 夫 链 ， 其 转 移 概 率 为 ：(0|00)p=0.8，(0|11)p=0.2，(1|00)p=0.2，(1|11)p=0.8，(0|01)p=0.5，(0|10)p=0.5，(1|01)p=0.5，(1|10)p=0.5。画 出 状 态 图 ， 并 计 算 各 状 态 的 稳 态 概 率 。 解 ：(0|00)(00|00)0.8pp (0 |0 1)(1 0 |0 1)pp (0|11)(10|11) 0.2pp (0 |1 0 )(0 0 |1 0 )pp (1|00)(01|00)0.2pp (1 |0 1)(11 |0 1)pp (1|11)(11|11) 0.8pp (1|10)(01|10) 0.5pp u1u2u31/21/21/32/32/31/3 于是可以列出转移概率矩阵：0.8 0.200000.5 0.50.5 0.500000.2 0.8p 状态图为： 000110110.80.20.50.50.50.50.20.8 设各状态 00，01，10，11 的稳态分布概率为 W 1,W 2,W 3,W 4 有 411iiWPWW 得 13113224324412340.80.50.20.50.50.20.50.81WWWWWWWWWWWWWWWW 计算得到12345141717514WWWW 2.3 同时掷出两个正常的骰子，也就是各面呈现的概率都为 1/6，求： (1) “3 和 5 同时出现”这事件的自信息； (2) “两个 1 同时出现”这事件的自信息； (3) 两个点数的各种组合（无序）对的熵和平均信息量； (4) 两个点数之和（即 2, 3, „ , 12 构 成 的子集 ）的熵； (5) 两个点数中 至 少 有一 个是 1 的自信息量。 解 ： (1) bitxpxIxpiii 170.4181log)(l...
