P( AB)
P( A | B)
P( B)
已知该事件所能获得的信息量为
P( A) P(B | A)
P( B)
0.25 0.75
0.375
0.5
1 1.415 比特 I 0.375
【 2.5 】设 离 散无记 忆 信 源
X P( x)
a1 0 a2 1 a3 2 a4
3
3 / 8 1/ 4 1 / 4 1/ 8
,其发出 的 消 息为
(202120130213001203210110321010021032011223210),求
(1) 此消息的自信息是多少?
(2) 在此消息中平均每个符号携带的信息量是多少? 解:
信源是无记忆的,因此,发出的各消息之间是互相独立的,此时发出的消息的自信息
即为各消息的自信息之和。根据已知条件,发出各消息所包含的信息量分别为:
I (a0
I (a1 1) log 4 2 比特
8
0) log 1.415 比特
3
I (a2 I (a3
2) log 4 2 比特
3) log 8 3 比特
在发出的消息中,共有 14 个“0”符号,13 个“1”符号,12 个“2”符号,6 个“3” 符号,则得到消息的自信息为:
I 14 1.415 13 2 12 2 6 3 87.81 比特
45 个符号共携带 87.81 比特的信息量,平均每个符号携带的信息量为
I
87.81 1.95 比特/符号 45
注意:消息中平均每个符号携带的信息量有别于离散平均无记忆信源平均每个符号携带的
信息量,后者是信息熵,可计算得
H ( X )
P( x) log P( x) 1.91比特/符号
信息论答案(第三版)_工学_高等教育_教育专区。基础理论与应用 第三版 傅祖芸 电子工业出版社今日推荐 104份文档 2014年驾照交规...
第三版信息论答案_工学_高等教育_教育专区。第二章课后习题【2.1】设有 12...解:从信息论的角度看, “ 12 枚硬币中,某一枚为假币” 该事件发生的概率为...
信息论与编码姜丹第三版答案_工学_高等教育_教育专区。2002 Copyright EE Lab508 信息论与编码习题参考答案 第一章 单符号离散信源信息论与编码作业是 74 页,...
第三版信息论答案 91页 5财富值 信息论答案(第三版) 91页 2财富值 信息论 第四章习题解答 5页 免费 信息论第二章答案(南邮研究... 8页 2财富值 信息...
信息论与编码姜丹第三版答案_计算机硬件及网络_IT/计算机_专业资料。信息论与编码部分答案 姜丹第二版 中国科技大学出版社信息论与编码习题参考答案 第一章 单...
息论第九章习题答案(扫描版...歹 =8个 信息组中△ 也有 三个线性独 立 的信息组 ,由这 三个线性独立 ...
信息论第二版答案+傅祖芸_工学_高等教育_教育专区。第二章课后习题【2.1】...得到多少关于 M1 的附加互信息; (3)接收到第三个数字仍为 0 时,又增加了...
信息论与编码(第二版)习题答案+陈运+主编_工学_高等教育_教育专区。信息技术... 编三进制费诺码; 答案 5.3 对题 5.1 的信源分别编二进制和三进制赫夫曼...
信息论基础各章参考答案_工学_高等教育_教育专区。田宝玉等编著...(2)第三次称重 类似ⅰ)的情况,但当两个硬币知其中一个为假,不知为哪个时...
热门文档