【3.2】 设 8 个等概率分布的消息通过传递概率为 p 的 BSC 进行传送,8 个消息
相应编成下述码字:
M1=0000,M2=0101,M3=0110,M4=0011
M5=1001,M6=1010,M7=1100,M8=1111
试问:
(1)接收到第一个数字 0 与 M1 之间的互信息;
(2)接收到第二个数字也是 0 时,得到多少关于 M1 的附加互信息;
(3)接收到第三个数字仍为 0 时,又增加了多少关于 M1 的互信息;
(4)接收到第四个数字还是 0 时,再增加了多少关于 M1 的互信息。 解:
1
各个符号的先验概率均为8 (1)根据已知条件,有
P( y1 0 | M 1 ) P( y1
0 | 0000) P( y1
1 2
0 | x1
0) P( y1 0)
P(M i ) P(0 | M i )
M i
因此接收到第一个数字 0 与 M1 之间的互信息为:
I (M 1 ; y1
P( y10 | M 1 ) 1 log 比特
0) 1/ 2 P( y1 0)
(2)根据已知条件,有
P( y1 y2 00 | M 1 ) P( y1 y2 00 | 0000) 2
P( y1 y2 00)
1 2
P(M i )P(00 | M i ) 8 M i
4 2 p 2
4
因此接收到第二个数字也是 0 时,得到多少关于 M1 的互信息为:
信息论答案(第三版)_工学_高等教育_教育专区。基础理论与应用 第三版 傅祖芸 电子工业出版社今日推荐 104份文档 2014年驾照交规...
第三版信息论答案_工学_高等教育_教育专区。第二章课后习题【2.1】设有 12...解:从信息论的角度看, “ 12 枚硬币中,某一枚为假币” 该事件发生的概率为...
信息论与编码姜丹第三版答案_工学_高等教育_教育专区。2002 Copyright EE Lab508 信息论与编码习题参考答案 第一章 单符号离散信源信息论与编码作业是 74 页,...
第三版信息论答案 91页 5财富值 信息论答案(第三版) 91页 2财富值 信息论 第四章习题解答 5页 免费 信息论第二章答案(南邮研究... 8页 2财富值 信息...
信息论与编码姜丹第三版答案_计算机硬件及网络_IT/计算机_专业资料。信息论与编码部分答案 姜丹第二版 中国科技大学出版社信息论与编码习题参考答案 第一章 单...
息论第九章习题答案(扫描版...歹 =8个 信息组中△ 也有 三个线性独 立 的信息组 ,由这 三个线性独立 ...
信息论第二版答案+傅祖芸_工学_高等教育_教育专区。第二章课后习题【2.1】...得到多少关于 M1 的附加互信息; (3)接收到第三个数字仍为 0 时,又增加了...
信息论与编码(第二版)习题答案+陈运+主编_工学_高等教育_教育专区。信息技术... 编三进制费诺码; 答案 5.3 对题 5.1 的信源分别编二进制和三进制赫夫曼...
信息论基础各章参考答案_工学_高等教育_教育专区。田宝玉等编著...(2)第三次称重 类似ⅰ)的情况,但当两个硬币知其中一个为假,不知为哪个时...
热门文档