《信息论与编码》习题解答-第三章
第三章 信道容量-习题答案
2/31/3
3.1 设二元对称信道的传递矩阵为
1/32/3
(1) 若P(0) = 3/4, P(1) = 1/4,求H(X), H(X/Y), H(Y/X)和I(X;Y); (2) 求该信道的信道容量及其达到信道容量时的输入概率分布;
解: 1)
3311
H(X) p(xi) ( log2 log2) 0.811 bit/symbol
4444iH(Y/X) p(xi)p(yj/xi)logp(yj/xi)
i
j
322311111122
( lg lg lg lg) log210
433433433433
0.918 bit/symbol
3211
p(y1) p(x1y1) p(x2y1) p(x1)p(y1/x1) p(x2)p(y1/x2) 0.5833
43433112
p(y2) p(x1y2) p(x2y2) p(x1)p(y2/x1) p(x2)p(y2/x2) 0.4167
4343
H(Y) p(yj) (0.5833 log20.5833 0.4167 log20.4167) 0.980 bit/symbol
j
I(X;Y) H(X) H(X/Y) H(Y) H(Y/X)
H(X/Y) H(X) H(Y) H(Y/X) 0.811 0.980 0.918 0.749 bit/symbolI(X;Y) H(X) H(X/Y) 0.811 0.749 0.062 bit/symbol
2)
1122
C maxI(X;Y) log2m Hmi log22 (lg lg) log210 0.082 bit/symbol
3333
1
p(xi)
2
3.2 解:
(1)p(x1) ,p(x2) 1
1/2 0 1/21/20 1/2
,P P(xy) ij (1 )/2(1 )/4(1 )/4 1/21/41/4
p(y1) 1/2,p(y2) /4 1/4,p(y3) (1 )/4 接收端的不确定度:
1111111
H(Y) log(2) ( )log( ) (1 )log((1 ))
244444431 1 log(1 ) log(1 ) 244(2)
信息论与编码 第二版 曹雪虹第三章 信道容量 答案 ?2 / 3 1 / 3 ? 3.1 设二元对称...
《信息论与编码》习题解答 信息论与编码》 信源熵第二章 信源熵-习题答案 2.1 试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍?解: 四进制脉冲可以...
《信息论与编码》 信息论与编码》第二章 信源熵 习题答案 2-1 解:转移概率矩阵为:P(j/i)= ,状态图为: 1/2 S1 1/3 1/2 S2 2/3 2/3 1/3 S...
《信息论与编码》习题解答-第二章《信息论与编码》习题解答-第二章隐藏>> 《信息论与编码》习题解答 信息论与编码》信息率失真函数第四章 信息率失真函数-...
《信息论与编码》习题解答 信息论与编码》信源熵第二章 信源熵-习题答案 2-1 解:转移概率矩阵为:P(j/i)= ,状态图为: 1/2 S1 1/3 1/2 S2 2/3...
仇佩亮 编 信息论语编码的 部分答案《信息论与编码》第七、第八章习题解答 7-2 ...
《信息论与编码》习题解答-第四章(新)_理学_高等教育_教育专区。《信息论与编码》习题解答第四章 信息率失真函数-习题答案 4.1 解: ? ? ?0 1 ? ?1 ...
《信息论与编码》第四章习题解答 4.1 计算如下所示离散无记忆信道的容量: (a) 0 εε 1 1-ε-δ δ 0 (b) 0 0.5 1 δ 1-ε-δ 1-ε ε 1-...
《信息论与编码》课后习题答案_理学_高等教育_教育专区。《信息论与编码》课后习题常考题答案信息论与编码常识题 1、 在认识论层次上研究信息的时候,必须同时考虑...
热门文档