《信息论基础》
一、填空题(共15分,每空1分)
1、信源编码的主要目的是提高有效性,信道编码的主要目的是提高可靠性。
2、信源的剩余度主要来自两个方面,一是信源符号间的相关性,二是信源符号的统计不均匀性。 3、三进制信源的最小熵为0,最大熵为log32 4、无失真信源编码的平均码长最小理论极限制为信源熵(或H(S)/logr= Hr(S))。
5、当R=C或(信道剩余度为0)时,信源与信道达到匹配。
6、根据信道特性是否随时间变化,信道可以分为恒参信道和随参信道。
7、根据是否允许失真,信源编码可分为无失真信源编码和限失真信源编码。
8、若连续信源输出信号的平均功率为 2,则输出信号幅度的概率密度是高斯分布或正态分布或
x
2
f

x
2
2时,信源具有最大熵,其值为值
1
log2 e 22
。 9、在下面空格中选择填入数学符号“ , , , ”或“ ” (1)当X和Y相互独立时,H(XY)=H(X)+H(X/Y)=H(Y)+H(X)。 (2)H2 X
H X1X2 X1X2X3
2
H3 X
H 3
(3)假设信道输入用X表示,信道输出用Y表示。
在无噪有损信道中,H(X/Y)> 0, H(Y/X)=0,I(X;Y)<H(X)。 二、(6分)若连续信源输出的幅度被限定在【2,6】区域内,当输出信号的概率密度是均匀分布时,计算该信源的相对熵,并说明该信源的绝对熵为多少。
Qf x 1
,2 x 6
4
0,其它 相对熵h x 6
2f x logf x dx
=2bit/自由度 该信源的绝对熵为无穷大。 三、(16分)已知信源
S s1s2s3s4s5s6 P 0.20.20.20.20.10.1
(1)用霍夫曼编码法编成二进制变长码;(6分)
(2)计算平均码长L;(4分)
(3)计算编码信息率R ;(2分)
(4)计算编码后信息传输率R;(2分) (5)计算编码效率 。(2分)
(1)
S10.200
S20.21S30.20
1.00
S40.211
S50.10
1
S6
0.1
1
编码结果为:
S1 00S2 01S3 100S4 101 S5 110S6 111
(2)6
L Pi i 0.4 2 0.6 3 2.6码元 1
i(3)R logr=2.6 (4)R
H S
2.53
0.973bit2.6
其中,H S H 0.2,0.2,0.2,0.2,0.1,0.1 2.53 (5)
H S logr
H S 0.973
评分:其他正确的编码方案:1,要求为即时码 2,
平均码长最短 四、(10分)某信源输出A、B、C、D、E五种符号,每一个符号独立出现,出现概率分别为1/8、1/8、1/8、1/2、1/8。如果符号的码元宽度为0.5 s。计算: (1)信息传输速率Rt。(5分)
(2)将这些数据通过一个带宽为B=2000kHz的加性白高斯噪声信道传输,噪声的单边功率谱密度为
n60 10 W
。试计算正确传输这些数据最少需要的
发送功率P。(5分)
解:
(1)R1
t t
H X H X
信息论与编码期末考试题(全套)_教育学_高等教育_教育专区。编码答案(一)一、判断题共 10 小题,满分 20 分. 1. 当随机变量 X 和 Y 相互独立时,条件熵 H ...
信息论与编码期末考试题(全套)_工学_高等教育_教育专区。《信息论基础》参考答案 一、填空题(共 15 分,每空 1 分) 1、信源编码的主要目的是提高有效性,信道...
信息论与编码期末考试题(全套)_数学_自然科学_专业资料。(一)一、判断题共 10 小题,满分 20 分. 1. 当随机变量 X 和 Y 相互独立时,条件熵 H ( X ...
信息论与编码期末考试题---学生复习用_理学_高等教育_教育专区。信息论与编码基础题及答案(一)一、判断题. 判断题. 1. 当随机变量 X 和 Y 相互独立时,条件...
信息论与编码期末考试题_教育学_高等教育_教育专区。信息论与编码试题 (一)一、填空题 1、信源编码的主要目的是提高有效性,信道编码的主要目的是提高可靠性。 2...
信息论与编码期末考试题---学生复习用 2_理学_高等教育_教育专区。经典的信息论与编码题目,你值得拥有!1、信源编码的主要目的是提高有效性,信道编码的主要目的是...
信息论与编码期末考试试题信息论与编码期末考试试题隐藏>> 2.7 同时掷出两个正常的骰子,也就是各面呈现的概率都为 1/6,求: (1) “3 和 5 同时出现”这...
信息论与编码期末考试题_工学_高等教育_教育专区。(一)一、判断题. 1. 当随机...吃哪些食物不发胖 在家全套瑜伽练习教程116份文档 2014一级建造师考试 ...
(二)一、填空题 1、信源编码的主要目的是提高有效性,信道编码的主要目的是提高...()(2) 信息论研究的主要问题是在通信系统设计中如何实现信息传输、存储和处理...
热门文档