文档下载 文档下载导航
设为首页 | 加入收藏
搜索 请输入内容:  
 导航当前位置: 文档下载 > 所有分类 > 自然科学 > 吴军-数学之美系列
侵权投诉

吴军-数学之美系列

现的概率等于每一个词出现的概率相乘,于是P(S) 可展开为:

P(S) = P(w1)P(w2|w1)P(w3| w1 w2)…P(wn|w1 w2…wn-1)

其 中 P (w1) 表示第一个词w1 出现的概率;P (w2|w1) 是在已知第一个词的前提下,第二个词出现的概率;以次类推。不难看出,到了词wn,它的出现概率取决于它前面所有词。从计算上来看,各种可能性太多,无法 实现。因此我们假定任意一个词wi的出现概率只同它前面的词 wi-1 有关(即马尔可夫假设),于是问题就变得很简单了。现在,S 出现的概率就变为:

P(S) = P(w1)P(w2|w1)P(w3|w2)…P(wi|wi-1)…

(当然,也可以假设一个词又前面N-1个词决定,模型稍微复杂些。)

接 下来的问题就是如何估计 P (wi|wi-1)。现在有了大量机读文本后,这个问题变得很简单,只要数一数这对词(wi-1,wi) 在统计的文本中出现了多少次,以及 wi-1 本身在同样的文本中前后相邻出现了多少次,然后用两个数一除就可以了,P(wi|wi-1) = P(wi-1,wi)/ P (wi-1)。

也许很多人不相信用这么简单的数学模型能解决复杂的语音识别、机器翻译等问题。其实不光是常人,就连很多语言学家都曾质疑过这种方法的有效性,但事实证明,统计语言模型比任何已知的借助某种规则的解决方法都有效。比如在 Google 的中,用的最重要的就是这个统计语言模型。去年美国标准局(NIST) 对所有的机器翻译系统进行了评测,Google 的系统是不仅是全世界最好的,而且高出所有基于规则的系统很多。

现 在,读者也许已经能感受到数学的美妙之处了,它把一些复杂的问题变得如此的简单。当然,真正实现一个好的统计语言模型还有许多细节问题需要解决。贾里尼克 和他的同事的贡献在于提出了统计语言模型,而且很漂亮地解决了所有的细节问题。十几年后,李开复用统计语言模型把 997 词语音识别的问题简化成了一个 20 词的识别问题,实现了有史以来第一次大词汇量非特定人连续语音的识别。

我是一名科学研究人员 ,我在工作中经常惊叹于数学语言应用于解决实际问题上时的神奇。我也希望把这种神奇讲解给大家听。当然,归根结底,不管什莫样的科学方法、无论多莫奇妙的解决手段都是为人服务的。我希望 Google 多努力一分,用户就多一分搜索的喜悦。

来自:

数学之美系列二:谈谈中文分词

摘要

上一页第3页

你可能喜欢

  • 科学之美
  • 中文分词技术
  • 数学美欣赏
  • 数学问题
  • 世界名言
  • 数学与建筑

热门文档

相关文档

  • Google_科学家吴军写的《数学之美》

    科学家吴军写的《数学之美》 Google 科学家吴军写的《数学之美》系列 文章 数学之美 系列一 -- 统计语言模型 2006 年 4 月 3 日 上午 08:15:00 从本...

  • Google 科学家吴军写的《数学之美》

    科学家吴军写的《数学之美》 Google 科学家吴军写的《数学之美》系列文章数学之美 系列一 -- 统计语言模型 2006 年 4 月 3 日 上午 08:15:00 从本周...

  • 数学之美 系列十四

    2006 年 8 月 9 日 上午 09:12:00 发表者:吴军,Google 研究员 [注:一直关注数学之美系列的读者可能已经发现,我们对任何问题总是在找相应的准确的 数学模型...

  • 数学之美系列(1-24)-谷歌黑板报

    十四、谈谈数学模型的重要性 2006 年8 月9 日上午 09:12:00 发表 者:吴军,Google 研究员 [注:一直关注数学之美系列的读者可能已经发现,我们对任何问题总是...

  • 数学之美 系列十

    Google (谷歌)中国的博客网志,走近我们的产品、技术和文化 数学之美 系列十 有限状态机和地址识别 2006 年 7 月 5 日 上午 09:09:00 发表者:吴军,Google...

  • 数学之美 系列六

    Google (谷歌)中国的博客网志,走近我们的产品、技术和文化 数学之美系列六 --...吴军,Google 研究员 [离散数学是当代数学的一个重要分支,也是计算机科学的数学...

  • 数学之美 系列二十

    Google (谷歌)中国的博客网志,走近我们的产品、技术和文化 数学之美 系列二十 ...吴军 我 们在前面的系列中介绍和提到了一些年轻有为的科学家,迈克尔·柯林斯,...

  • 数学之美 系列五

    数学之美 7页 免费 数学之美系列完整版 48页 1财富值 数学之美 系列十四 3页 免费 数学之美 Google 吴军 39页 1财富值 数学之美 系列十 2页 免费...

  • 数学之美 系列八

    Google (谷歌)中国的博客网志,走近我们的产品、技术和文化 数学之美 系列八--...Google 研究员,吴军 读 者也许注意到了,我们在前面的系列中多次提到了贾里尼克...

  • 数学之美 系列三

    Google (谷歌)中国的博客网志,走近我们的产品、技术和文化 数学之美 系列三 -...吴军,Google 研究员 前言:隐含马尔可夫模型是一个数学模型,到目前为之,它一直...

站点地图 | 文档上传 | 侵权投诉 | 手机版
本站所有资源均来自互联网,本站只负责收集和整理,均不承担任何法律责任,如有侵权等其它行为请联系我们.
文档下载 Copyright 2013 doc.guandang.net All Rights Reserved.  -  email