摘 要:隐马尔可夫模型是序列数据处理和统计学习的一种重要概率模型,最近几年已经被成功应用到许多关于自然语言处理的任务中。简要介绍了隐马尔可夫模型, 对其在词性标注应用中的难点、 模型的建立、 Viterbi算法等问题进行了详细论述, 给 出了基于隐马尔可夫模型的中文科研论文头部信息抽取过程以及模型结构的学习和参数的训练等关键问题的解决办法。
0引言
隐马尔可夫模型(hiddenmarkovmodel,HMM)是一种用参数表示,用于描述随机过程统计特性的概率模型,它是在马尔可夫模型基础上发展起来的。近几年,HMM由于算法成熟并且可以模拟很多问题建立模型,所以开始被应用到许多新的领域,特别是自然语言处理领域。如词性标注[1-2]、词法分析[3]、特定信息抽取
[4-6]
、命名实体识别[7]
等。另外在生物信息学中HMM
被广泛用来分析基因、蛋白质序列[8]等。
1HMM简介
隐马尔可夫模型可以看成是能够随机进行状态转移并输
出符号的有限状态自动机,它通过定义观察序列和状态序列的联合概率对随机生成过程进行建模。每一个观察序列可以看成是由一个状态转移序列生成,状态转移过程是依据初始状态概率分布随机选择一个初始状态开始,输出一个观察值后再根据状态转移概率矩阵随机转移到下一状态,直到到达某一预先指定的结束状态为止,在每一个状态将根据输出概
-5514-
率矩阵随机输出一个观察序列的元素。
从上面的叙述不难看出,一个HMM有5个组成部分,通常记为一个五元组{S,K,
,A,
B},其中:①S是模型的状态集,模型共有N个状态,记为S={s1,s2,…,sN};②K是模型中状态输出符号的集合,符号数为M,符号集记为K={k1,k2,…,kM};③=
{
2
,…

,
i
是状态Si作为初始状态的概率;④A是状
态转移概率矩阵,记为A={aij},1≤i≤N,1≤j≤N。其中aij是从状态Si转移到状态Sj的概率;⑤B是符号输出概率矩阵,记为B={bik},1≤i≤N,1≤k≤M。其中bik是状态Si输出Vk的概率。
要用HMM解决实际问题,首先需要解决如下3个基本问题:①给定一个观察序列O=O1O2…OT和模型{
),也就是在给定模型的情况下观察序列
O的概率;②给定一个观察序列O=O1O2…OT和模型{
,A,B}的参数,使得P(O|
微机软件 ? 隐马尔可夫模型及其在自然语言处理中的应用刘海天 ,赵政文 ,盛光磊 1 1 2 ( 1. 西北工业大学计算机学院 ,西安 710072; 2. 郑州大学信息工程学院...
自然语言理解是人工智能最活跃的研究领域之一,同时也是目前前沿的课题之一。该领域的研究人员通过对隐马尔可夫模型这一数学模型的跨领域应用,解决了自然语言理解中...
马尔可夫模型在语言处理中的应用_理学_高等教育_教育专区。马尔可夫模型在语言... 隐马尔可夫模型在自然语... 暂无评价 3页 2.00 隐马尔可夫模型在多...
(2007)01-0033-03 ComputerandInformationTechnology 隐马尔可夫模型在自然语言理解研究中的应用卢 微071002)( 河北大学人文学院, 河北 保定摘 要: 自然语言理解是...
宗成庆-统计自然语言处理--第六章--- 隐马尔可夫模型_计算机软件及应用_IT/计算机_专业资料。宗成庆《统计自然语言处理》--- 第六章--- 隐马尔可夫模型,由...
2 基于层叠隐马模型的命名实体识别方法 隐马尔可夫模型是一种在自然语言处理领域 中被广泛应用的统计模型。中文命名实体识别中的 人名识别、地名识别、译名识别以及...
(哈尔滨工业大学计算机学院信息检索研究室 摘要:词义消歧一直是自然语言处理领域的...隐马尔可夫模型和 HowNet 在汉语词义标注中的应用 /1003 经济 /225 政策 /...
隐马尔可夫模型刘秉权哈工大智能技术与自然语言处理研究室 2006年11月 主要内容...隐马尔可夫模型的应用 隐马尔可夫模型 2 马尔可夫链一个系统有 N 个状态 S1...
{djw, tliu, lzm, ls}@ir.hit.edu.cn 摘要:词义消歧是自然语言处理中的...应用在词义消歧问题中的隐马尔可夫模型可以定义为: 1) S 表示模型中的状态,N...
热门文档