浅谈协方差矩阵
今天看论文的时候又看到了协方差矩阵这个破东西,以前看模式分类的时候就特困扰,没想到现在还是搞不清楚,索性开始查协方差矩阵的资料,恶补之后决定马上记录下来,嘿嘿~本文我将用自认为循序渐进的方式谈谈协方差矩阵。
统计学的基本概念
学过概率统计的孩子都知道,统计里最基本的概念就是样本的均值,方差,或者再加个标准差。首先我们给你一个含有n个样本的集合X={X1,…,Xn},依次给出这些概念的公式描述,这些高中学过数学的孩子都应该知道吧,一带而过。
i=1 Xin
nn均值:X = (X-X)i
i=12
标准差:s = n-1n
2 (X-X)i
方差:s = 2i=1
n-1
很显然,均值描述的是样本集合的中间点,它告诉我们的信息是很有限的,而标准差给我们描述的则是样本集合的各个样本点到均值的距离之平均。以这两个集合为例,
[0,8,12,20]和[8,9,11,12],两个集合的均值都是10,但显然两个集合差别是很大的,计算两者的标准差,前者是8.3,后者是1.8,显然后者较为集中,故其标准差小一些,标准差描述的就是这种“散布度”。之所以除以n-1而不是除以n,是因为这样能使我们以较小的样本集更好的逼近总体的标准差,即统计上所谓的“无偏估计”。而方差则仅仅是标准差的平方。
为什么需要协方差?
上面几个统计量看似已经描述的差不多了,但我们应该注意到,标准差和方差一般是用来描述一维数据的,但现实生活我们常常遇到含有多维数据的数据集,最简单的大家上学时免不了要统计多个学科的考试成绩。面对这样的数据集,我们当然可以按每一维独立的计算其方差,但是通常我们还想了解更多,比如,一个男孩子的猥琐程度跟他受女孩子欢迎程度是否存在一些联系啊,嘿嘿~协方差就是这样一种用来度量两个随机变量关系的统计量,我们可以仿照方差的定义:
浅谈协方差矩阵今天看论文的时候又看到了协方差矩阵这个破东西, 以前看模式分类的时候就特困扰, 没想 到现在还是搞不清楚,索性开始查协方差矩阵的资料,恶补之后...
然后,对样本矩阵 计算其协方差矩阵,按照《浅谈协方差矩阵》里末尾的 update,我们知道,协方 差矩阵可以简单的按下式计算得到: 下面,根据我们上文的推理,将协方差...
协方差矩阵_理学_高等教育_教育专区。。。今日推荐 120份文档 2014... 协方差矩阵计算--连续收... 1页 免费 浅谈协方差矩阵 4页 免费...
协方差矩阵_数学_自然科学_专业资料。浅谈协方差矩阵今天看论文的时候又看到了协方差矩阵这个破东西,以前看模式分类的时候就特困扰,没想到现在还是搞不清楚,索性...
协方差矩阵和相关矩阵_数学_自然科学_专业资料。一、协方差矩阵 变量说明: 设... 浅谈协方差矩阵 4页 免费 协方差与协方差矩阵 2页 免费 协方差矩阵 3页 ...
N ( ?1 , ? 2 , ? 1 , ? 1 , ? ), 试求其 2 2 协方差矩阵。... 协方差与协方差矩阵 2页 免费 浅谈协方差矩阵 4页 免费 协方差矩阵与主成...
浅谈协方差矩阵 4页 免费 协方差矩阵 3页 免费 第四节 矩 协方差矩阵 9...前面我们介绍了随机变量的数学期望 和方差,对于多维随机变量,反映分量之 间关系...
协方差矩阵 16页 免费 协方差的意义和计算公式 4页 1下载券 协方差 42页 免费 4.4 协方差与相关系数3... 39页 免费 浅谈协方差矩阵 4页 免费...
第四节 矩、协方差矩阵简介在数学期望一讲中, 在数学期望一讲中,我们已经介绍... 浅谈协方差矩阵 4页 免费 协方差矩阵 5页 免费 基于不同协方差矩阵的 8页...
热门文档