常用分词算法的比较与设想


与基于理解的分词算法和基于统计的分词算法相比,基于文本匹配的算法更加通用。基于文本匹配的算法又称之为“机械分词算法”,他是它是按照一定的策略将待分析的汉字串与一个“充分大的”机器词典中的词条进行配,若在词典中找到某个字符串,则匹配成功,可识别出一个词。按照扫描方向的不同,文本匹配分词方法可以分为正向匹配和逆向匹配两种;按照不同长度优先匹配的情况,可以分为最大(最长)匹配和最小(最短)匹配;按照是否与词性标注过程相结合,又可以分为单纯分词方法和分词与标注相结合的一体化方法。

  常用的几种机械分词方法如下:

  1) 正向最大匹配法(由左到右的方向)

  2) 逆向最大匹配法(由右到左的方向)

  3) 最少切分(使每一句中切出的词数最小)。

  其他的还有将上述各种方法相互组合形成的分词算法,例如,可以将正向最大匹配方法和逆向最大匹配方法结合起来构成双向匹配法。由于汉语单字成词的特点,正向最小匹配和逆向最小匹配一般很少使用。本文中着重讨论正向最大匹配法和逆向最大匹配法。

  由于机械分词算法的准确性取决于算法的准确性与词库完备性两个方面。在本文中设想词库充分大,包含需要的词语。

  一般说来,逆向匹配的切分精度略高于正向匹配,遇到的歧义现象也较少。统计结果表明,单纯使用正向最大匹配的错误率为1/169,单纯使用逆向最大匹配的错误率为1/245。但这种精度还远远不能满足实际的需要。实际使用的分词系统,都是把机械分词作为一种初分手段,还需通过利用各种其它的语言信息来进一步提高切分的准确率。

  我们先看两句中文:

  1) 长春市长春节致辞

  2) 长春市长春药店

  我们假使词库中包含如下词语“长春”,“长春市”,“市长”,“春节”,“致辞”,“春药”,“药店”,“春药店”等。

  用正向最大匹配法得到的结果是:

  长春市/长春/节/致辞(分成4个词,其中“节”未匹配到,语义错误)

  长春市/长春/药店(分成3个词,都匹配到,语义正确)

  用逆向最大匹配法得到的结果是:

  长春/市长/春节/致辞(分成4个词,都匹配到,语义正确)

  长春/市长/春药店(分成3个词,都匹配到,语义错误)

  从此,我们可以看到正向最大匹配法和逆向最大匹配法的利弊所在:都能够正确解释部分中文,同时都有一些无法区分。

  是否可以考虑将这两种匹配法结合起来,各取所长呢?答案是肯定的。

  首先,我们对同一个词用正向最大匹配法和逆向最大匹配法分别切词,再将结果进行比较。如切分“长春市长春节致辞”,因为正向最大匹配法有一个词语无法匹配,故选择使用逆向最大匹配法作为结果。

  其次,我们可以引入词频的概念,及每一个词语都会根据其在汉语中出现的概率获得一个词频值。我们对“长春市长春药店”进行两种方法的分词,但是因为逆向最大匹配法得到的“春药店”的词频相比于其他词语的词频要低很多。我们可以认为这种分词方法得到的结果不通用,取正向最大匹配法得结果。

  当然,还可以将其他的一些方法(如扫描标志法,词性检查法等)与这两种匹配法相结合,以获得更好更准确的分词效果。



相关阅读:
asp.net gridview中用checkbox全选的几种实现的区别
asp下轻松实现将上传图片到数据库的代码
生成卡号php代码
调用js时ie6和ie7,ff的区别
javascript学习之闭包分析
利用sql函数生成不重复的订单号的代码
入侵基于JSP+Tomcat的Web网站实录
OpenOffice试用后感想
asp.net生成静态页并分页+ubb
动态网站导航菜单:Javascript和jQuery导航菜单教程
Tensilica公布Linux论坛加强第三方支持
收藏一个代码
将MySQL从MyISAM转换成InnoDB错误和解决办法
html特效代码合集
快速导航
PHP MySQL HTML CSS JavaScript MSSQL AJAX .NET JSP Linux Mac ASP 服务器 SQL jQuery C# C++ java Android IOS oracle MongoDB SQLite wamp 交通频道 作文范文 画扇窗给自己作文400字 学校优秀班干部竞选演讲稿 快乐六一节的小小主持人 如果伤心是必经之路 作文在启示、积累、实践中提高 乔布斯励志故事:决不妥协 镇农民增收情况调研报告 小学六年级作文550字:关于女孩 读岳飞传有感 励志故事:好运气缘何降临七次 谁知道我的心 恐龙奇遇记 思想汇报2014年3月两会:为理想的实现做好准备 茶叶研究所汇报材料 乡镇妇联工作情况总结报告 冯老师作文600字 园长任职演讲稿 一生相思为一人 职场达人活动策划书 淘气包马小跳好词好句好段 玩沙战(修改) 高一作文:七宝游记作文800字 城管局2016年春节致老干部老同志慰问信 寂静岭2影评 教师节的礼物——吴峥昕 韶山社区居委会2004年环境卫生工作总结 愿真爱伴你同行 毕业赠言胡适 跟着你,就是让你疼 你和我隔着一道梦 风雨求学路——叹生活 2016年迎新春座谈会主持词 一样中秋别样情散文 真理还有不存在的一面 大学毕业典礼演讲稿 小沈阳搞笑语录 吊李群玉 小学六年级作文600字:神奇女生住如愿读后感 化“敌”为友作文600字 行走在树林小径上 90后爱情唯美短句 2016学年度本人述职报告 红尘迷梦 2014年寒假读书心得 放不下的爱,辗转反侧啊 回忆起那年的中秋节 励志作文:没有理由不奋斗 财务经理转正总结 自强不息勇往直前(精品) 【精品】认识垂直教学反思

Copyright © 2016 phpStudy |