文本简化:把难读的文字改好读,意思不变
长句和难词会把读者挡在门外。文本简化把文字改得好读,同时保住原意。这篇讲它怎样从替程序拆长句走到替读者改写,改得好不好怎么评,各领域怎么用,想深入该读哪几篇论文。
假设你在研究一座古镇的游客管理,想把景区管理办法里的一条规定放进问卷,问游客赞不赞成。原文是这样一句(这句是编的):【为切实加强核心保护区内历史建筑的保护管理,经研究决定,自即日起,除持有有效通行证的应急车辆外,其他机动车辆一律不得驶入核心保护区,违者由综合执法部门依照相关规定予以处理。】游客读到一半就得回头再读。改成几句短话好懂得多:【从今天起,机动车不能开进核心保护区。有通行证的应急车辆可以进。不守规定的,由执法部门处理。】
这次改写把一句长话拆成了三句,把例外情况挪到规定后面单说,【予以处理】也换成了更平常的【处理】。开头讲目的的半句删掉了,删得对不对,要看游客需不需要知道这条规定为什么定。
文本简化(text simplification)研究的就是怎样让计算机做这种改写。Siddharthan 2014 年的综述给了两种说法。窄一点讲,简化只降低文字的语言难度,原来的信息和意思都保留。宽一点讲,简化也可以动内容,比如用重复和把话说明白来突出要点,或者像摘要那样删去次要的信息(Siddharthan,2014)。上面删掉讲目的的那半句,算宽一点的那种。
从替程序拆长句到替读者改写
1996 年,Chandrasekar、Doran 和 Srinivas 想解决的是程序的难处。论文说,当时靠自然语言输入的系统碰上又长又复杂的句子就容易卡住,完整的句法分析又慢又容易失败。他们试了两种不做完整分析的办法,找出句子里能分出去的成分,各自改成独立的短句。文中举了一个新闻稿里常见的长句,手工改成了四句。作者也承认简化会丢掉一些细微的意思,法律文件这类一点都不能丢的文字不适合这样改(Chandrasekar 等,1996)。
三年后,Carroll 等人把读者放到了中间。他们的系统帮失语症患者读英文报纸,失语症通常由中风或头部外伤引起。句子上,系统把被动句改成主动句;词上,系统先从 WordNet(一部按词义组织的英语词库)取出同义词,查各自的词频,选最常见的那个换上去。论文记下了两个麻烦。长句换成几句短句,全文反而变长;连词去掉以后,代词和它所指的东西可能落到两个句子里,所以拆句时要把代词换回它指的名词(Carroll 等,1999)。
拆句以后文章还连不连贯,是 Siddharthan 博士论文里的一个大问题。这篇论文 2004 年作为剑桥大学的技术报告出版,题目是【句法简化与文本衔接】,用一小套人工编写的规则处理定语从句、同位语以及并列和从属结构。作者指出,改写后的文字如果失去衔接,简化让更多读者读得懂的好处就可能被抵消,所以逐一讨论了拆出来的句子怎样排序,连接词和代词又该怎么用(Siddharthan,2004)。
Zhu、Bernhard 和 Gurevych 2010 年换了思路,让模型从数据里学。他们把简化看成一种特殊的翻译,复杂句是原文,简单句是译文。训练用的句对取自英文维基百科和简单英文维基百科(Simple English Wikipedia),后者写给儿童和学英语的成年人,要求作者用简单的词和短句。两边的条目按句子对齐,得到 108016 个句对,叫 PWKP,对齐用的是句子层面的 TF-IDF 相似度。论文的模型把拆句和删减、调序和换词四种操作放在一起处理(Zhu 等,2010)。
2012 年的 SemEval(国际语义评测研讨会)第一次为换词设了公开比赛,题目是英语词汇简化,由 Specia、Jauhar 和 Mihalcea 组织。题目给出句子里的一个词和几个都说得通的替换词,参赛系统要按简单程度排序,简单的标准偏向英语非母语的读者。九个参赛系统里,得分最好的几个同时用了看上下文和不看上下文的信息,单项贡献最大的是替换词本身有多常见(Specia 等,2012),也就是词频统计数出来的那个数。
Xu、Callison-Burch 和 Napoles 2015 年写道,简单英文维基百科主导简化研究已经五年,只盯着它会限制这项研究。他们随机抽出 PWKP 的 200 个句对逐一检查,17% 两句意思对不上,33% 意思相同但简单一侧并不更简单,真正算简化的只有 50%。论文认为这些毛病主要是因为简单英文维基百科由大家自发合写,没有更具体的写作规范,于是换用 Newsela 公司的 1130 篇新闻,每篇由编辑按不同年级的阅读水平改写过四遍(Xu 等,2015)。
打分的办法也得换。Zhu 等人 2010 年评测时就发现,BLEU(机器翻译常用的一种自动评分)最高的对照系统,可读性分数明显不如他们的模型,论文据此说,单语翻译做得好不一定简化得好。Xu 等人 2016 年指出,此前的研究调模型只用 BLEU,可机器翻译的指标不拿输出和原句比,简化却必须和原句比,才看得出变没变简单。他们请众包工人给 2350 个句子各写了 8 个简化版本,发现拿 BLEU 对着这 8 个版本调参,模型干脆一字不改,照抄原句就能得 99.05 分(满分 100)。论文提出的 SARI 同时对照原句和参考简化,分别看系统加进来、删掉和留下的词对不对(Xu 等,2016)。Sulem、Abend 和 Rappoport 2018 年发现,涉及拆句时,BLEU 和人对语法、原意的评判相关很低或不相关,和简单程度还常常负相关,句子越简单分数反倒越低(Sulem 等,2018)。
Nisioi 等人 2017 年把序列到序列(sequence to sequence,读进一串词、写出一串词)的神经网络用到简化上,论文称这是第一次。系统能同时换词和压缩内容,人工评判显示输出几乎都合语法、保住了原意,简化程度也高过当时最好的系统(Nisioi 等,2017)。
大语言模型出现后,Kew 等人 2023 年测了 44 个现成的大语言模型,测试句子来自维基百科、新闻和医学三个领域,每个模型只给几个例子。最好的几个模型没有专门为简化训练过,表现和专门的简化系统相当(Kew 等,2023)。Yang、Sun 和 Wan 2023 年写道,中文句子简化进展慢,是因为缺数据。他们从《人民日报》2014 年的语料里取了 383 个句子,请人每句写两个简化版本,编成 CSS。在这份数据上,他们认为 GPT-3.5-turbo 这样的大语言模型可以当高质量的中文简化系统用,同时说明没有对模型输出做人工评估。按论文的说法,当时中文还没有公开的简化语料可供训练(Yang 等,2023)。
| 年份 | 谁 | 留下了什么 |
|---|---|---|
| 1996 | Chandrasekar 等 | 把长句拆短,给程序减负 |
| 1999 | Carroll 等 | 为失语症读者改被动句、换常用词 |
| 2004 | Siddharthan | 拆句之后保住衔接 |
| 2010 | Zhu 等 | 把简化当翻译,用维基百科句对训练 |
| 2012 | Specia 等 | 第一次词汇简化评测 |
| 2015 | Xu 等 | 指出维基句对的毛病,换用编辑改写的新闻 |
| 2016 | Xu 等 | 对照原句和参考简化打分的 SARI |
| 2017 | Nisioi 等 | 用神经网络做简化 |
| 2023 | Kew 等;Yang 等 | 评测大语言模型,中文评测集 CSS |
谁在用它,拿它做什么
健康信息方面,Leroy 等人 2013 年按词在网络语料里的频率判断一个词熟不熟,把生词标出来,再从词库里找同义词、上位词和释义,交给作者挑着换。99 名参与者完成了实验,他们在五级量表上给难度打分(1 分最容易),简化文得 2.3 分,原文 3.2 分;对着文章答题,读简化文的正确率是 63%,读原文的是 52%;自由回忆没有显著差别(Leroy 等,2013)。
公共管理里,Mandravickaitė 等人 2024 年把立陶宛语的行政文书改写到 Plain Language(平实语言)的程度。他们拿 mT5 和 mBART 两个现成的模型做微调,也试了 ChatGPT。mBART 各项指标都最好;ChatGPT 对简短的指令照做得不错,指令写得详细了,里面的规则大多被忽略。和人工评价对照,BERTScore 与 ROUGE 两种自动指标吻合程度中等,BLEU 和可读性分数的相关较低,甚至为负(Mandravickaitė 等,2024)。
Rello 等人 2013 年面向读写障碍者,比较了两种做法,一种直接把难词换成最简单的同义词,一种在读者需要时列出几个同义词。96 名参与者里有 47 名读写障碍者,他们觉得后一种做法的文字显著更好读、更好懂(Rello 等,2013)。
想深入可以读这几篇
- Siddharthan(2014)A survey of research on text simplification,汇总跨学科的简化研究,也谈到人工简化对许多读者确实有帮助。
- Shardlow(2014)A Survey of Automated Text Simplification,整理 1998 到 2013 年的研究,介绍词汇简化和句法简化,也介绍统计机器翻译和混合的做法。
- Paetzold 与 Specia(2017)A Survey on Lexical Simplification,只讲换词,把它拆成认难词、找候选、挑合适、排难易四步。
- Xu、Callison-Burch 与 Napoles(2015)Problems in Current Text Simplification Research: New Data Can Help,讲只靠维基百科的数据怎样限制了简化研究,还给了一套比较数据质量的办法。
- Alva-Manchego、Scarton 与 Specia(2020)Data-Driven Sentence Simplification: Survey and Benchmark,综述靠对齐的句对学习简化的方法,以英语为主,附带各方法在同一批数据上的对比。
TATOOLS 里的中文文本简化
TATOOLS 的【中文文本简化】以删为主,删去重复的表述、口头语和多余的修饰,也把口语说法整理成书面表述。适合交给它的是访谈整理稿和座谈会记录,游客的口头意见也行,这类文字口语味重。报告页是一份简化后的文档,可以在页面上直接翻看;一次交了几份材料,可以逐份切换。