程序员数学——数学之美系列
程序员数学――数学之美系列(1-24)
作者:吴军, Google 研究员 来源:Google黑板报
数学之美系列一:统计语言模型
摘要 在很多涉及到自然语言处理的领域,如机器翻译、语音识别、印刷体或手写体识别、拼写纠错、汉字输入和文献查询中,我们都需要知道一个文字序列是否能构成一个大家能理解的句子,显示给使用者。对这个问题,我们可以用一个简单的统计模型来解决这个问题。 前言
也许大家不相信,数学是解决信息检索和自然语言处理的最好工具。它能非常清晰地描述这些领域的实际问题并且给出漂亮的解决办法。每当人们应用数学工具解决一个语言问题时,总会感叹数学之美。我们希望利用 Google 中文黑板报这块园地,介绍一些数学工具,以及我们是如何利用这些工具来开发 Google 产品的。
系列一: 统计语言模型 (Statistical Language Models)
Google 的使命是整合全球的信息,所以我们一直致力于研究如何让机器对信息、语言做最好的理解和处理。长期以来,人类一直梦想着能让机器代替人来翻译语言、识别语音、认识文字(不论是印刷体或手写体)和进行海量文献的自动检索,这就需要让机器理解语言。但是人类的语言可以说是信息里最复杂最动态的一部分。为了解决这个问题,人们容易想到的办法就是让机器模拟人类进行学习 - 学习人类的语法、分析语句等等。尤其是在乔姆斯基(Noam Chomsky 有史以来最伟大的语言学家)提出 “形式语言” 以后,人们更坚定了利用语法规则的办法进行文字处理的信念。遗憾的是,几十年过去了,在计算机处理语言领域,基于这个语法规则的方法几乎毫无突破。
其实早在几十年前,数学家兼信息论的祖师爷 香农 (Claude Shannon)就提出了用数学的办法处理自然语言的想法。遗憾的是当时的计算机条件根本无法满足大量信息处理的需要,所以他这个想法当时并没有被人们重视。七十年代初,有了大规模集成电路的快速计算机后,香农的梦想才得以实现。
首先成功利用数学方法解决自然语言处理问题的是语音和语言处理大师贾里尼克 (Fred Jelinek)。当时贾里尼克在 IBM 公司做学术休假 (Sabbatical Leave),领导了一批杰出的科学家利用大型计算机来处理人类语言问题。统计语言模型就是在那个时候提出的。
给大家举个例子:在很多涉及到自然语言处理的领域,如机器翻译、语音识别、印刷体或手写体识别、拼写纠错、汉字输入和文献查询中,我们都需要知道一个文字序列是否能构成一个大家能理解的句子,显示给使用者。对这个问题,
程序员数学讨论_理学_高等教育_教育专区。程序员如何学习数学I've been working for the past 15 months on repairing my rusty math skills, ever since I ...
程序员的数学修养 可能有很多朋友在网上看过 google 公司早几年的招聘广告,它的第一题如下了:{first 10digit prime found in consecutive digits e}.com,e 中...
喜欢此文档的还喜欢 程序员怎样学数学:半路出... 6页 免费搜你所想,读你所爱 拒绝盗版,营造绿色文库 如要投诉违规内容,请到百度文库投诉中心;如要提出功能...
程序员怎样学数学: 程序员怎样学数学:半路出家也能让编程是小菜一碟 从我读了 Johnny von Neumann 的传记,我已经为弥补我糟糕的数学技能花了 15 个月了.读了...
” 程序员的数学修养不是一朝一夕就可以培养的。数学修养与数学知识不一样,修养需要一个长期的过程,而知识的学习可能只是一段短暂的时间。下面是一些我个人对于...
程序员该怎样学数学_计算机软件及应用_IT/计算机_专业资料。介绍了程序员该如何学好数学的程序员怎样学数学 自从我读了 Johnny von Neumann 的传记,我已经为弥补...
——编者注 160 程序员的数学 图6-11◎ ◎帕斯卡三角形 1 1 1 1 1 1 1 6 5 15 4 10 20 3 6 10 15 2 3 4 5 6 1 1 1 1 1 1 在帕斯卡...
历年程序员与信息处理技术员考试中的数学题一.增长率问题(指数计算) 增长率问题(指数计算) (1)据某地区统计,今年中小学生中肥胖学生约占 10%,而且,肥胖学生人数...
百度文库 专业资料 自然科学 数学程序员的R语言_数学_自然科学_专业资料 暂无评价
热门文档