词性标注:这个词在这里是名词还是动词
【规划】在这一句里是名词,换一句成了动词。这篇讲词性标注:类别的清单是怎么定下来的,程序怎样在一词多类里选对,标完以后研究者拿各类词的多少做什么,想深入该读哪几篇论文。
假设你手上有两万条游客写给一条历史街区的评论,想分开看三件事:游客提到了哪些东西,在那里做了什么,觉得怎么样。提到的东西多半是名词,比如【牌坊】【小吃】【停车场】;做的事是动词,【排队】【拍照】;感受落在形容词上,【热闹】【拥挤】。要是每个词都带着它的类别,这三张表一筛就出来了。
给句子里的每个词标上类别,这件事叫词性标注(part-of-speech tagging,常缩写成 POS tagging)。它有两处要费心。一处是一个词可以属于不止一类。【规划】在【这份规划做得很细】里是名词,在【重新规划游览路线】里是动词;【方便】在【交通方便】里是形容词,到了【方便游客进出】又成了动词。人读句子时不觉得为难,程序得靠前后的词来判断。另一处是先得有一份清单,写明一共分多少类、每一类怎么界定,这份清单叫标注集(tagset)。
程序怎样学会选对,标注集怎样定下来
最早发表的尝试是 Klein 和 Simmons 1963 年的程序,这是 DeRose 1988 年回顾时的说法。按原论文的摘要,程序不靠查大词典,靠计算给英语的每个词定词类,在两份科技文章的样本上,九成以上的词得到了正确而且唯一的类别(Klein 与 Simmons,1963)。
Francis 和 Kučera 在布朗大学编的 Brown 语料,收的是 1961 年在美国出版的英语文章,分成 500 个样本,共 1014312 词。1979 年完成的标注版给每个词都加了标签,标签有八十多个。其中有名词、动词这样的大类,也有介词、连词这些虚词,not 这样的词单独占一个标签,名词的复数、动词的过去式这类词形变化也各有记号(Francis 与 Kučera,1979)。先给这一百万词打底稿的程序叫 TAGGIT,是 Greene 和 Rubin 1971 年做的,里面有 3300 条上下文规则。DeRose 转述说,它标对的词约占 77%,剩下的由人改完。
1988 年的两篇论文用的是概率。Church 的程序从标好的 Brown 语料里统计两样东西,一样是这个词被标成各类的机会各有多大,另一样是前面几个词性之后跟着某个词性的机会有多大,然后给整句挑一组标签,让这两样乘起来最大。Church 报告的正确率在 95% 到 99% 之间,随【正确】怎么定义而变(Church,1988)。DeRose 的程序在整个 Brown 语料上测得 96%。文章还数出,Brown 语料里有不止一种可能类别的词,按词条算约占 11.5%,按出现次数算超过四成。两篇都提到,给 LOB 语料(和 Brown 对应的英国英语语料)做标注的研究者已经在用标签前后相接的概率。
Brown 之后的项目大多在它那一套上加标签,LOB 语料用了约 135 个,伦敦-隆德口语语料用了 197 个。Marcus、Santorini 和 Marcinkiewicz 做宾州树库(Penn Treebank)时往回减,只留 36 个词性标签,另有 12 个给标点和货币符号。他们给的理由是,靠统计的程序怕标签太细,每个标签见到的例子会太少;标签少了,同一种用法也不容易被标得前后不一。他们还比过两种标法,人从头标所花的时间,大约是人修改程序底稿的两倍,标注人之间的分歧也约是两倍(Marcus 等,1993)。
Brill 1995 年指出,概率方法学到的东西藏在成千上万个概率值里,人很难看懂,也很难改进。Brill 的办法是先给每个词标上它最常见的词性,再和人标的答案对照,学出一串改错的规则,例如【前一个词是限定词,就把情态动词改成名词】。在宾州树库的《华尔街日报》语料上,60 万词学出 447 条规则,在词表已知的条件下正确率是 97.2%(Brill,1995)。
中文的标注集不止一套。宾州中文树库的词性标注规范 2000 年定稿,共 33 个标签。Xia 在文中先交代定标签时考虑了什么,再逐个讲解,最后同另外三套标注集作了比较,其中两套是中文的,分别来自台湾中研院和北京大学(Xia,2000)。Wang 2016 年拿《现代汉语词典》第 5 版来数一词多类,这部词典分 12 类词性,兼属几类的词有 3742 个(Wang,2016)。
中文还多一道工序,词和词之间没有空格,标词性之前得先切词。Ng 和 Low 2004 年在宾州中文树库上比较了三种做法,正确率按字计算。切词和标词性一步做完、按字来标,正确率最高,是 91.9%;先切词再按字标是 91.7%,训练和运行却快得多;先切词再按词标只有 84.1%(Ng 与 Low,2004)。
英语的正确率后来停在 97% 上下。Manning 2011 年指出,在同一份《华尔街日报》语料上,按词算是 97.3%,整句全对的只有 56% 左右。文章分析了剩下的错,认为换更好的学习方法帮助有限,余地更大的是把标注所依据的语言学分类理清楚;有些词本来就难归进少数几类中的某一类(Manning,2011)。
各家标注集不同,跨语言就不好比。Petrov、Das 和 McDonald 2012 年提出 12 类的通用标注集,把 25 种树库的标注集对应过来,合起来覆盖 22 种语言(Petrov 等,2012)。Jurafsky 和 Martin 的教材 2026 年的稿子里,列出的是 Universal Dependencies(通用依存,见依存句法分析)标注集的 17 类词性;教材还写道,英语上不论用哪种算法,正确率都在 97% 左右(Jurafsky 与 Martin,2026)。
| 年份 | 谁 | 留下了什么 |
|---|---|---|
| 1963 | Klein 与 Simmons | 靠计算给英语词定词类的程序 |
| 1979 | Francis 与 Kučera | 标完词性的 Brown 语料和八十多个标签 |
| 1988 | Church、DeRose | 按语料里的概率挑标签 |
| 1993 | Marcus 等 | 精简到 36 个词性标签的宾州树库 |
| 1995 | Brill | 让程序自己学出改错的规则 |
| 2000 | Xia | 宾州中文树库的 33 个标签 |
| 2004 | Ng 与 Low | 比较中文先切词再标还是一步做完 |
| 2011 | Manning | 剩下的错要从分类本身去改 |
| 2012 | Petrov 等 | 跨语言通用的 12 类 |
标完以后,拿词性做什么研究
各类词占多大比例,可以拿来量文体。Heylighen 和 Dewaele 2002 年提出一个衡量文字正式程度的指标,用各类词的频率来算。依据是正式的表达里名词和形容词更多,冠词和介词也更多;依赖语境的表达里多的是代词和副词,还有动词和叹词。这个指标在英语和另外三种欧洲语言的材料上都能把不同体裁分开(Heylighen 与 Dewaele,2002)。Biber 1988 年用计算的办法分析 23 种口语和书面语体裁的语言特征,归纳出六个维度(Biber,1988),详见语体的多维度分析。
旅游研究里有人专看形容词。Durán-Muñoz 2019 年研究英语的探险旅游宣传文字,把形容词挑出来,同两个通用英语语料库对比,算每个形容词的关键性,看这类文字用形容词和平常的英语差多少(Durán-Muñoz,2019)。Turney 2002 年给评论分【推荐】和【不推荐】,第一步就是用词性标注找出含形容词或副词的短语,再估计这些短语偏褒还是偏贬。试验用了 410 条评论,四类里有一类是旅游目的地,平均正确率 74%(Turney,2002)。
研究政策文本,也有人用词性找短语。Handler 等人 2016 年为不熟悉语言处理的社会科学研究者提出一个办法,先标词性,再据此把多个词组成的短语抽出来,补进单个词的统计里,并用它分析了一批美国国会法案。单个词的统计分不开共用一个词、各有政治意味的短语,比如【illegal immigrant】(非法移民)和【undocumented immigrant】(无证移民)(Handler 等,2016)。
做主题模型之前按词性筛词也有人试过。Martin 和 Johnson 2015 年拿同一批新闻做了三个版本,一个用原文,一个做了词形还原(把变了形的词改回原形),一个还原后只留名词。只留名词的版本,主题连贯度比原文版本高 6%;只做词形还原也有相近的改善,只留名词的好处是训练更快(Martin 与 Johnson,2015)。
想深入可以读这几篇
- Church(1988)A Stochastic Parts Program and Noun Phrase Parser for Unrestricted Text,用概率标词性的早期论文,八页,开头拿 table 当动词和当名词的句子讲一词多类。
- Marcus、Santorini 与 Marcinkiewicz(1993)Building a Large Annotated Corpus of English: The Penn Treebank,想知道一套标注集是怎样取舍出来的,读第二节。
- Manning(2011)Part-of-Speech Tagging from 97% to 100%: Is It Time for Some Linguistics?,讲剩下的错是哪些,为什么难消掉。
- Petrov、Das 与 McDonald(2012)A Universal Part-of-Speech Tagset,12 类通用标注集的出处。
- Xia(2000)The Part-Of-Speech Tagging Guidelines for the Penn Chinese Treebank (3.0),中文的每个标签怎么界定,容易混的两类怎么分,都在里面。
- Jurafsky 与 Martin(2026)Speech and Language Processing,教材第三版的稿子,全文免费,第 18 章从词类讲到算法。
TATOOLS 的词性标注工具
访谈稿、政策文件或游客评论,都可以交给 TATOOLS 的【词性标注】。报告把每个词的类别归并成名词、动词等 14 个大类,画出各类的分布,列出每类的示例词,还有相邻词性的转移概率矩阵。中文材料有分词和句法两条标注结果,同一个词在两边的归类可能不同。报告还拿新闻、口语等六类参考语料比各类词的占比,看材料更接近哪种写法;交了几份材料,会多一张跨文件的词性分布热力图。