I ( X ;Y | Z )
P( x | z)
P( x, y, z) lX ,Y ,Z
P( x | z)
log P( x, y, z)P( x | yz) X ,Y ,Z
P( xz)P( yz)
log
P( z) X ,Y ,Z
等 号 成 立 当 且 仅 当 P( x | z) 1 P( xz) P( yz)
P( x | yz) P( xyz) P( z) P( y | z) P( y | xz) ,即 ( X , Z ,Y ) 是马氏链。
P( y | z)
, 即
P( y | xz)
【3.6】若有三个离散随机变量,有如下关系: X Y
Z ,其中 X 和 Y 相互统计
独立,试证明:
(1) H ( X ) H (Z ) ,当且仅当 Y 是常量时等式成立;
(2) H (Y ) H (Z ) ,当且仅当 X 为常量时等式成立;
(3)H (Z ) H ( XY ) H ( X ) H (Y ) ,当且仅当 X ,Y 中任意一个为常量时
等式成立;
(4) I ( X ; Z ) H (Z ) H (Y ) ;
(5) I ( XY ; Z ) H (Z ) ;
(6) I ( X ;YZ ) H ( X ) ;
(7) I (Y ; Z | X ) H (Y ) ;
(8) I ( X ;Y | Z ) H ( X | Z ) H (Y | Z ) 。
证明:
当 X Y
Z 时 , 有 P( z | xy)
0 z x y
, 即 H (Z | XY ) 0 , 而
1 z x y
H (Z | XY ) H (Z ) I ( XY ; Z ) ,因此 I ( XY ; Z ) H (Z ) 。
信息论答案(第三版)_工学_高等教育_教育专区。基础理论与应用 第三版 傅祖芸 电子工业出版社今日推荐 104份文档 2014年驾照交规...
第三版信息论答案_工学_高等教育_教育专区。第二章课后习题【2.1】设有 12...解:从信息论的角度看, “ 12 枚硬币中,某一枚为假币” 该事件发生的概率为...
信息论与编码姜丹第三版答案_工学_高等教育_教育专区。2002 Copyright EE Lab508 信息论与编码习题参考答案 第一章 单符号离散信源信息论与编码作业是 74 页,...
第三版信息论答案 91页 5财富值 信息论答案(第三版) 91页 2财富值 信息论 第四章习题解答 5页 免费 信息论第二章答案(南邮研究... 8页 2财富值 信息...
信息论与编码姜丹第三版答案_计算机硬件及网络_IT/计算机_专业资料。信息论与编码部分答案 姜丹第二版 中国科技大学出版社信息论与编码习题参考答案 第一章 单...
息论第九章习题答案(扫描版...歹 =8个 信息组中△ 也有 三个线性独 立 的信息组 ,由这 三个线性独立 ...
信息论第二版答案+傅祖芸_工学_高等教育_教育专区。第二章课后习题【2.1】...得到多少关于 M1 的附加互信息; (3)接收到第三个数字仍为 0 时,又增加了...
信息论与编码(第二版)习题答案+陈运+主编_工学_高等教育_教育专区。信息技术... 编三进制费诺码; 答案 5.3 对题 5.1 的信源分别编二进制和三进制赫夫曼...
信息论基础各章参考答案_工学_高等教育_教育专区。田宝玉等编著...(2)第三次称重 类似ⅰ)的情况,但当两个硬币知其中一个为假,不知为哪个时...
热门文档