文档下载 文档下载导航
设为首页 | 加入收藏
搜索 请输入内容:  
 导航当前位置: 文档下载 > 所有分类 > IT/计算机 > 隐马尔可夫模型在自然语言处理中的应用
侵权投诉

隐马尔可夫模型在自然语言处理中的应用

摘 要:隐马尔可夫模型是序列数据处理和统计学习的一种重要概率模型,最近几年已经被成功应用到许多关于自然语言处理的任务中。简要介绍了隐马尔可夫模型, 对其在词性标注应用中的难点、 模型的建立、 Viterbi算法等问题进行了详细论述, 给 出了基于隐马尔可夫模型的中文科研论文头部信息抽取过程以及模型结构的学习和参数的训练等关键问题的解决办法。

0引言

隐马尔可夫模型(hiddenmarkovmodel,HMM)是一种用参数表示,用于描述随机过程统计特性的概率模型,它是在马尔可夫模型基础上发展起来的。近几年,HMM由于算法成熟并且可以模拟很多问题建立模型,所以开始被应用到许多新的领域,特别是自然语言处理领域。如词性标注[1-2]、词法分析[3]、特定信息抽取

[4-6]

、命名实体识别[7]

等。另外在生物信息学中HMM

被广泛用来分析基因、蛋白质序列[8]等。

1HMM简介

隐马尔可夫模型可以看成是能够随机进行状态转移并输

出符号的有限状态自动机,它通过定义观察序列和状态序列的联合概率对随机生成过程进行建模。每一个观察序列可以看成是由一个状态转移序列生成,状态转移过程是依据初始状态概率分布随机选择一个初始状态开始,输出一个观察值后再根据状态转移概率矩阵随机转移到下一状态,直到到达某一预先指定的结束状态为止,在每一个状态将根据输出概

-5514-

率矩阵随机输出一个观察序列的元素。

从上面的叙述不难看出,一个HMM有5个组成部分,通常记为一个五元组{S,K,

,A,

B},其中:①S是模型的状态集,模型共有N个状态,记为S={s1,s2,…,sN};②K是模型中状态输出符号的集合,符号数为M,符号集记为K={k1,k2,…,kM};③=

{

2

,…

隐马尔可夫模型在自然语言处理中的应用

,

i

是状态Si作为初始状态的概率;④A是状

态转移概率矩阵,记为A={aij},1≤i≤N,1≤j≤N。其中aij是从状态Si转移到状态Sj的概率;⑤B是符号输出概率矩阵,记为B={bik},1≤i≤N,1≤k≤M。其中bik是状态Si输出Vk的概率。

要用HMM解决实际问题,首先需要解决如下3个基本问题:①给定一个观察序列O=O1O2…OT和模型{

),也就是在给定模型的情况下观察序列

O的概率;②给定一个观察序列O=O1O2…OT和模型{

,A,B}的参数,使得P(O|

第1页

你可能喜欢

  • 指纹识别
  • 专家系统
  • 语音识别系统
  • 隐马尔科夫模型
  • 评价模型
  • 学习机器人
  • 哼唱检索
  • 动态贝叶斯网络

热门文档

相关文档

站点地图 | 文档上传 | 侵权投诉 | 手机版
本站所有资源均来自互联网,本站只负责收集和整理,均不承担任何法律责任,如有侵权等其它行为请联系我们.
文档下载 Copyright 2013 doc.guandang.net All Rights Reserved.  -  email