文档下载 文档下载导航
设为首页 | 加入收藏
搜索 请输入内容:  
 导航当前位置: 文档下载 > 所有分类 > 高等教育 > 法学 > 第三版信息论答案
侵权投诉

第三版信息论答案

解得: P(0) P(1) P(2) 13

该一阶马尔克夫信源的信息熵为:

H

Q( Ei ) H ( X | Ei )

log p log p p 比特/符号

当信源为无记忆信源,符号的概率分布等于平稳分布,此时信源的概率空间为:

X P

0 1 2 1 1 1 3 3 3

/符号

此时信源的信息熵为 H ( X ) log 3 1.585 比特

由上述计算结果可知: H ( X ) H ( ) 。

求一阶马尔克夫信源熵 H 的最大值, H l p log p p ,有 2(1 p)p

dH

dp

可得,当 p 2 时, H 达到最大值,此时最大值为 log 3 1.585 比特/符号。

3

当 p 0 时, H

0 比特/符号; p 1 时, H

1比特/符号

【2.20】黑白气象传真图的消息只有黑色和白色两种,即信源 X {黑,白} ,设黑色出现的

概率为 P(黑) 0.3 ,白色出现的概率为 P(白) 0.7 。

(1) 假设图上黑白消息出现前后没有关联,求熵 H ( X ) ;

(2) 假设消息前后有关联,其依赖关系为 P(白|白) 0.9 ,P(黑 |白) 0.1 ,P(白| 黑) 0.2 ,

P(黑 | 黑) 0.8 ,求此一阶马尔克夫信源的熵 H 2 。

(3) 分别求上述两种信源的冗余度,并比较 H ( X ) 和 H 2 的大小,并说明其物理意义。 解:

如果出现黑白消息前后没有关联,信息熵为:

H ( X )

pi log pi 0.881 比特/符号

当消息前后有关联时,首先画出其状态转移图,如下所示。

上一页第14页

你可能喜欢

  • 复变函数论第三版
  • 复变函数论第三版答案
  • 计算机网络第三版答案
  • 水分析化学第三版答案

热门文档

相关文档

  • 信息论答案(第三版)

    信息论答案(第三版)_工学_高等教育_教育专区。基础理论与应用 第三版 傅祖芸 电子工业出版社今日推荐 104份文档 2014年驾照交规...

  • 第三版信息论答案

    第三版信息论答案_工学_高等教育_教育专区。第二章课后习题【2.1】设有 12...解:从信息论的角度看, “ 12 枚硬币中,某一枚为假币” 该事件发生的概率为...

  • 信息论与编码姜丹第三版答案

    信息论与编码姜丹第三版答案_工学_高等教育_教育专区。2002 Copyright EE Lab508 信息论与编码习题参考答案 第一章 单符号离散信源信息论与编码作业是 74 页,...

  • 信息论答案第三章

    第三版信息论答案 91页 5财富值 信息论答案(第三版) 91页 2财富值 信息论 第四章习题解答 5页 免费 信息论第二章答案(南邮研究... 8页 2财富值 信息...

  • 信息论与编码姜丹第三版答案

    信息论与编码姜丹第三版答案_计算机硬件及网络_IT/计算机_专业资料。信息论与编码部分答案 姜丹第二版 中国科技大学出版社信息论与编码习题参考答案 第一章 单...

  • 信息论第九章习题答案(扫描版)

    息论第九章习题答案(扫描版...歹 =8个 信息组中△ 也有 三个线性独 立 的信息组 ,由这 三个线性独立 ...

  • 信息论第二版答案+傅祖芸

    信息论第二版答案+傅祖芸_工学_高等教育_教育专区。第二章课后习题【2.1】...得到多少关于 M1 的附加互信息; (3)接收到第三个数字仍为 0 时,又增加了...

  • 信息论与编码(第二版)习题答案+陈运+主编

    信息论与编码(第二版)习题答案+陈运+主编_工学_高等教育_教育专区。信息技术... 编三进制费诺码; 答案 5.3 对题 5.1 的信源分别编二进制和三进制赫夫曼...

  • 信息论基础各章参考答案

    信息论基础各章参考答案_工学_高等教育_教育专区。田宝玉等编著...(2)第三次称重 类似ⅰ)的情况,但当两个硬币知其中一个为假,不知为哪个时...

站点地图 | 文档上传 | 侵权投诉 | 手机版
本站所有资源均来自互联网,本站只负责收集和整理,均不承担任何法律责任,如有侵权等其它行为请联系我们.
文档下载 Copyright 2013 doc.guandang.net All Rights Reserved.  -  email