信息论
信道容量的迭代算—彭海军
研究信道的目的是要讨论信道中平均每个符号所能传送的信息量,而将最大的信息传输率称为信道容量。由于对于普通的线性信道(信道矩阵r=s),直接可以采用C ln e 求解信道容量。但当
j
j
信道矩阵r<s时,该方法实现比较困难,因此需采用迭代算进行反复计算。 一 算法原理
设输入随机变量为X,输出为Y,由信道容量的定义可知
C max{I(X;Y)}。因而求信道容量,可转化为求X,Y的互信息量。
首先根据互信息公式得到:
I(X;Y) p(xi)p(yj|xi)ln
i
j
p(yj|xi)
p(x)p(y
i
i
j
|xi)
(1)
要求信道容量C就是要在p(xi)的约束下,求I(X;Y)的极大值。首先引入后验概率,即:
q(xi|yj)
p(xi)p(yj|xi)
p(xi)p(yj|xi)
i
(2)
将(2)式代入到(1)中,即可得到
I(X;Y) p(xi)p(yj|xi)ln
i
j
q(xj|yi)p(xi)
(3)
迭代算法的要点是,当信道固定(即p(yj|xi)固定)时,把I(X;Y)看成p(xi)和q(xj|yi)的函数,用(3)进行信道容量计算的迭代。每一次迭代由两步组成(其中n表示迭代次序):
(1)将p(n)(xi)固定,在约束
q(x
i
j
|yi) 1的条件下改变
q(xj|yi),得到I(X;Y)的最大值,记为
I(X;Y) C(p(n)(xi);q(n)(xi|yj)) C(n,n);此时q(n)(xi|yj)满足(2)式;重
写为:
实验日期: 报告内容: (目的和要求、原理、步骤、数据、计算、小结等) 实验名称:信道容量的迭代算法 一、实验目的(1) (2) (3) 进一步熟悉信道容量的迭代算法。...
信道容量 C: 0.3263 [2] 0.4051 迭代计算精度 k: 1.0000e-005 由计算结果可知,经过汇编设置好参数,通过一定转换计算公式,就可实现信道容 量的计算,当遇到...
实验要求 (1)理解和掌握信道容量的概念和物理意义 (2)理解一般离散信道容量的迭代算法 (3)采用 Matlab 编程实现迭代算法 (4)认真填写实验报告。 3. 算法 4. ...
1 实验二 1. 实验目的 . 一般信道容量迭代算法 掌握一般离散信道的迭代运算方法。 2. 实验要求 . 1) 理解和掌握信道容量的概念和物理意义 2) 理解一般离散...
信道容量的迭代算法 组长:20090710107 胡思宇 组员:20090710611 20090710902 20090710904 20090710928 20090711022 20090711201 蒙晶 樊璐 傅予 郑国盛 夏阳 卜红丽 信道...
实验二 一般信道容量迭代算法 一、实验目的 ? 熟悉 Matlab 工作环境及工具箱; ? 掌握一般DMC信道容量迭代算法的原理。 二、实验原理 ? 信道的分类 ? 根据I/O...
信道容量的迭代算法_数学_自然科学_专业资料。陕西科技大学实验报告 4 ? ? pk
信道容量的迭代算法一. (1)已知:信源符号个数 r、信宿符号个数 s 、信道转移概率矩阵 P。 (2)输入:任意的一个信道转移概率矩阵。信源符号个数、信宿符号个数...
实验目的: 通过该实验,掌握通过计算机实验信道容量的迭代算法 实验环境: Matlab7.1 实验内容及过程 : 实验原理(流程图):输入 ? ? p(b j ai ) ? ? (i...
热门文档