
该信源任一时刻发出 0 和 1 的概率与时间无关,因此是平稳的,即该信源是离散平稳
信源。其信息熵为
H ( X )
P( x) log P( x) 0.971 比特/符号
信源是平稳无记忆信源,输出的序列之间无依赖,所以
H ( X 2 ) 2H ( X ) 1.942 比特/符号
H ( X 3 | X 1 X 2 ) H ( X ) 0.971 比特/符号
1 X2L X N ) H ( X ) 0.971比特/符号 lim H N ( X ) lim H ( X 1
N N N
H ( X ) 4H ( X ) 3.884 比特/符号
4
X 4 信源中可能的符号是所有 4 位二进制数的排序,即从 0000~1111 共 16 种符号。
【2.18】设有一信源,它在开始时以 P(a) 0.6 , P(b) 0.3 , P(c) 0.1的概率发出 X 1 。如 1 1
果 X 1 为 a 时,则 X 2 为 a、b、c ;如果为 b 时,则 X 2 为 a、b、c ;
3 3 1 如果 X 1 为 c 时,则 X 2 为 a、b 的概率为,为 c 的概率为 0。而且后面发出 X i的概率只与2 X i 1 有关,又当 i 3 时, P( X i | X i 1 ) P( X 2 | X 1 ) 。试用马尔克夫信源的图示法画出状态 转移图,并计算此信源的熵 H 。
解:
信源为一阶马尔克夫信源,其状态转换图如下所示。
1
a
1a
1 3
根据上述状态转换图,设状态极限概率分别为 P(a) 、P(b) 和 P(c) ,根据切普曼—柯尔 莫哥洛夫方程有
信息论答案(第三版)_工学_高等教育_教育专区。基础理论与应用 第三版 傅祖芸 电子工业出版社今日推荐 104份文档 2014年驾照交规...
第三版信息论答案_工学_高等教育_教育专区。第二章课后习题【2.1】设有 12...解:从信息论的角度看, “ 12 枚硬币中,某一枚为假币” 该事件发生的概率为...
信息论与编码姜丹第三版答案_工学_高等教育_教育专区。2002 Copyright EE Lab508 信息论与编码习题参考答案 第一章 单符号离散信源信息论与编码作业是 74 页,...
第三版信息论答案 91页 5财富值 信息论答案(第三版) 91页 2财富值 信息论 第四章习题解答 5页 免费 信息论第二章答案(南邮研究... 8页 2财富值 信息...
信息论与编码姜丹第三版答案_计算机硬件及网络_IT/计算机_专业资料。信息论与编码部分答案 姜丹第二版 中国科技大学出版社信息论与编码习题参考答案 第一章 单...
息论第九章习题答案(扫描版...歹 =8个 信息组中△ 也有 三个线性独 立 的信息组 ,由这 三个线性独立 ...
信息论第二版答案+傅祖芸_工学_高等教育_教育专区。第二章课后习题【2.1】...得到多少关于 M1 的附加互信息; (3)接收到第三个数字仍为 0 时,又增加了...
信息论与编码(第二版)习题答案+陈运+主编_工学_高等教育_教育专区。信息技术... 编三进制费诺码; 答案 5.3 对题 5.1 的信源分别编二进制和三进制赫夫曼...
信息论基础各章参考答案_工学_高等教育_教育专区。田宝玉等编著...(2)第三次称重 类似ⅰ)的情况,但当两个硬币知其中一个为假,不知为哪个时...
热门文档