模式识别课件
四、序贯分类决策
除了错分类会造成损失外,还须考虑获取特征所花的代价(前述方法是在n个特征同时
给出且不考虑获取特征所花的代);
实际处理过程中,为了得到n维特征空间的样本x=(x1,x2,...,xn)T,即x的n个测量值,
总要花费一定的代价。也就是说,即使是正确的分类,也会有一定的损失,而且这种损失是分散到为了获得每一个特征所付出的代价上的;
在按着最小条件平均风险R( i|x)决策时,每个特征对R( i|x)都有不同的影响。一
般随着特征数目的增多,决策风险R( i|x)会降低,同时各个特征对R( i|x)的贡献会有一定的份额;
有时获取了k个特征(k < n)后,进行分类决策更为合理。因为其余n--k个特征的加入虽
然可以使分类错误降低,减少代价(损失),但补偿不了获取这些特征所花费的代价; 序贯分类决策先用一部分特征来分类,逐步加入特征以减少分类损失。每步都要衡量加入新特征所花的代价与所降低分类损失的大小,以便决定是继续再加入新特征还是停止。这两种选择都要付出代价,应根据哪种代价小而进行选择。 序贯分类决策 把x的各个特征按对分类贡献大小排队,由大到小逐个将x用于分类过
程中。每投入使用一个新特征就计算一次最小条件平均风险,设已取得k个特征,其测量值分别为x1 1, , xk k,此时有两种选择:
① 根据这k个特征作出最后的分类决策(就此结束); ② 再选择第k+1个特征作分类决策(继续进行)。
这两种选择都要付出代价,应根据代价小的进行选择。于是设第k步的最小损失代价 min定义为 S( 1,..., k)和 C( 1,..., k)二者中小代价一个,即
min( 1,..., k) min s( 1,..., k), c( 1,..., k)
i 1,...,m
其中: S( 1,..., k)表示根据已获得的k个特征的测量值x1 1, , xk k作出的分
类决策而产生的损失叫停止损失;
C( 1,..., k)表示再取第k+1个特征进行分类决策或继续取特征所产生的损失叫继
续损失。注意 C( 1,..., k)的写法,括号中表示取k个特征,下标C表示继续,总的表示取完k个特征后继续取下一个特征。
如果 min( 1,..., k) s( 1,..., k),就停止贯序分类过程,使用前k个对分类贡献大的特征作出最后的分类决策。否则继续获取新特征。 停止损失
s( 1,..., k) min
说明:
i 1,2,...,m
( , )P(
i
j
j 1
m
j
| 1,..., k)
第二章 贝叶斯决策理论 2.1 引言 2.2几种常用的决策规则 2.3正态分布时的统计决策 2.4关于分类器的错误率问题 2.1 引言 ? 模式识别的分类问题是根据识别...
2013年8月4日星期日 第2章 贝叶斯决策理论 2.0 基本概念 2.1 最小错误概率的Bayes决策 2.2 2.3 2.4 2.6 最小风险的Bayes决策 Neyman-Pearson决策 ...
2 2 2 Q P(ω1 ) = P(ω2 ) ∴ 贝叶斯决策规则可表示 为: 如p (x
P(ω2)——马哈鱼的先验概率第二章 贝叶斯决策理论 郝红卫 4 引 言 先验概率反映了在实际的鱼没有出现之前,我们所拥有的对于可能出现哪种鱼的先验 知识。比如...
模式识别 Pattern Recognition 第二章 贝叶斯决策理论 张芳 13702180623 hhzhangfang@126.com 2014-4-11 模式识别 —— 贝叶斯决策理论 1 引言 复习:特征向量和特征...
P(ω2)——马哈鱼的先验概率第二章 贝叶斯决策理论 郝红卫 4 引 言 先验概率反映了在实际的鱼没有出现之前,我们所拥有的对于可能出现哪种鱼的先验 知识。比如...
内容纲要 研究目的和意义 第二章 贝叶斯决策理论 0011 0010 1010 1101 0001 0100 1011 1 01 内容纲要 第二章 贝叶斯决策理论 第二章 内容纲要 研究目的和意义 ...
模式识别 第二章 贝叶斯决策理论中国矿业大学信电学院 蔡利梅 第二章 贝叶斯决策理论 2.1贝叶斯决策的基本概念 2.2基于最小错误率的贝叶斯判别法 2.3基于最小...
内容纲要 研究目的和意义 第二章 贝叶斯决策理论 0011 0010 1010 1101 0001 0100 1011 4 1 2 01 1 内容纲要 第二章 贝叶斯决策理论 第二章 内容纲要 研究...
第三讲 贝叶斯决策理论 参考书: 中文教材:第二章 p9-34,p42-43 2011-2012学年第二学期 第二章 贝叶斯决策理论 ? 2.1 引言 ? 2.2 贝叶斯决策理论 ? 2....
热门文档