协方差矩阵与主成成分分析(整理后
统计学的基本概念
统计里最基本的概念就是样本的均值,方差,或者再加个标准差。首先我们给你一个含有n个样本的集合,依次给出这些概念的公式描述,这些高中学过数学的孩子都应该知道吧,一带而过。 均值:

标准差: 方差:
很显然,均值描述的是样本集合的中间点,它告诉我们的信息是很有限的,而标准差给我们描述的则是样本集合的各个样本点到均值的距离之平均。以这两个集合为例,[0,8,12,20]和[8,9,11,12],两个集合的均值都是10,但显然两个集合差别是很大的,计算两者的标准差,前者是8.3,后者是1.8,显然后者较为集中,故其标准差小一些,标准差描述的就是这种“散布度”。之所以除以n-1而不是除以n,是因为这样能使我们以较小的样本集更好的逼近总体的标准差,即统计上所谓的“无偏估计”。而方差则仅仅是标准差的平方。
为什么需要协方差?
上面几个统计量看似已经描述的差不多了,但我们应该注意到,标准差和方差一般是用来描述一维数据的,但现实生活我们常常遇到含有多维数据的数据集,最简单的大家上学时免不了要统计多个学科的考试成绩。面对这样的数据集,我们当然可以按照每一维独立的计算其方差,但是通常我们还想了解更多,协方差就是这样一种用来度量两个随机变量关系的统计量,我们可以仿照方差的定义:

来度量各个维度偏离其均值的程度,标准差可以这么来定义:
摘 :通过对同一原始数据的协方差矩阵和相关系数矩阵主成分分析进行比较研究 ,发现二 要 者的应用与研究目的有关 ,若不加区别 , 将会暴露各自的优点与不足 。...
PCA 协方差矩阵之主成分分析_数学_自然科学_专业资料。协方差矩阵之主成分分析Articles of Angry Master 再谈协方差矩阵之主成分分析 2011-02-24 19:02:26 ...
利用协方差矩阵的主成分分析C++程序_理学_高等教育_教育专区。利用协方差矩阵的主成分分析C++程序年降水量(毫米) : 718.4,380.7,393.2,544.4,489.9,488....
2014教师资格材料分析辅... 2014小学教师资格考试《... 2014年幼儿园教师资格... 协方差矩阵与主成成分分... 9页 1下载券 ch10第10章 计算方差-协... ...
了解了主成分分析的基本思想、数学模型后,问 题的关键: 1、如何进行主成分分析?(主成分分析的方法) 基于相关系数矩阵还是基于协方差矩阵做主成分 分析。当分析中...
这些综合指标就称为主成分。要讨论的问题是: (1) 基于相关系数矩阵/协方差矩阵做主成分分析? (2) 选择几个主成分? (3) 如何解释主成分所包含的实际意义? §...
? 因此在实际求解主成分的时候,总是从原始变量的协方差矩 阵或相关矩阵的结构分析入手。 ? 一般地说,从原始变量的协方差矩阵出发求得的主成分与从 原始变量的...
这些综合指标就称为主成分。要讨论的问题是: (1) 基于相关系数矩阵/协方差矩阵做主成分分析? (2) 选择几个主成分? (3) 如何解释主成分所包含的实际意义? §...
? 因此在实际求解主成分的时候,总是从原始变量的协方差矩 阵或相关矩阵的结构分析入手。 ? 一般地说,从原始变量的协方差矩阵出发求得的主成分与从 原始变量的...
热门文档