可读性公式:一篇文字要读到几年级才看得懂
一份规划公示,居民说看不懂,它到底有多难?这篇讲英文可读性公式怎么来的,各自数什么,中文为什么不能照搬,这些分数能信到什么程度,想深入该读哪几篇论文。
假设你在研究老旧小区改造里的公众参与,收集了几个街道贴出的改造方案公示和征求意见稿。访谈时,好几位老人说这些公告看不懂。原因可能很多,你想先弄清这些文字本身难不难读,哪一份更难,要读到几年级才看得懂。
可读性公式(readability formula)回答的就是这个问题。它不管写的是什么,只数几样容易数的东西,一样是句子有多长,一样是词有多难。词难不难,有的公式看它有几个音节,有的看它在不在一张常用词表上。数出来的结果代进一个式子,得到一个分数,或者直接换算成美国学校的年级。Flesch 的 Reading Ease(易读分数)就是这样一个式子。
易读分数 = 206.835 − 1.015 × 平均句长 − 84.6 × 平均音节数
平均句长是平均每句几个词,平均音节数是平均每个词几个音节。两项都是越大越难,所以都要减去。分数大致在 0 到 100 之间,越高越容易读。举个例子,数字是假设的。一份英文的游客须知,平均每句 25 个词,每词 1.7 个音节,206.835 减去 25.375,再减去 143.82,得 37.64 分。改写以后每句 15 个词,每词 1.5 个音节,分数升到 64.71。Flesch 给分数分过档,30 到 50 算难,60 到 70 算标准,相当于美国七八年级的水平(DuBay,2004)。改写前后的两份正好一份在【难】,一份在【标准】。
从数音节到机器学习
更早已经有人用句长和难词估计难度。Flesch 1948 年发表了自己的第二个公式,其中的易读分数去掉了前一个公式要数的词缀,只用每 100 词里的音节数和句子数两个量(Flesch,1948;DuBay,2004)。同一年 Dale 和 Chall 的公式也看句长,另一项换成难词的比例。难词指不在一张 3000 个易词表上的词,表上的词八成是四年级学生认识的(DuBay,2004)。
Gunning 1952 年在 The Technique of Clear Writing(清晰写作的技巧)一书里发表了 Fog 指数(迷雾指数)。它数平均句长和每 100 词里超过两个音节的词,两项相加乘以 0.4 就是年级,因为好用而流行起来。McLaughlin 1969 年的 SMOG(全称的意思是【官样文章的简易量度】)只数 30 个句子里超过两个音节的词,开平方再加 3。Gunning 定公式时要求读者答对 90%,SMOG 要求答对 100%,标准比别的公式高,所以这两个公式算出的年级往往偏高(DuBay,2004)。
1975 年,Kincaid 等人为美国海军重算公式。他们用阅读测验定出 531 名水兵的阅读水平,同时测他们对 18 段训练手册选文的理解,再用结果把 ARI(自动可读性指数)、Fog 和 Flesch 易读分数改成适合海军的版本(Kincaid 等,1975)。改出来的公式直接给年级,由 Flesch 改来的那个就是现在常说的 Flesch-Kincaid 年级。DuBay 2004 年写道,Microsoft Word 这类常用的文字处理软件里都带着可读性公式(DuBay,2004)。
Redish 2000 年梳理文献,指出公式是照着儿童课本定的,不管读者之间的差别,也不管内容和版式,只重能数的特征(Redish,2000)。Bailin 和 Grafstein 2001 年从语言学上检查公式依据的标准,认为这些标准不足以判断阅读难度,同时承认在一些研究里,公式的分数和教师判断的年级有一定相关(Bailin 与 Grafstein,2001)。DuBay 不认同【公式是为儿童定的】这类批评,认为 Flesch 和 Kincaid 这类常用公式主要是为成人定的,也在成人材料上反复检验过。
Graesser 等人 2004 年发布 Coh-Metrix(衔接度量工具),给英文文本算 200 多项有关衔接、语言和可读性的指标。论文指出,常规公式只靠词长和句长给文本定难度,Coh-Metrix 还顾及衔接关系、世界知识和语篇特征(Graesser 等,2004)。同一年,Collins-Thompson 和 Callan 改用统计语言模型预测一段文字适合几年级。他们指出 Flesch-Kincaid 这类公式默认句子划分清楚,用在网页上往往不准;新的分类器在英语和法语的各个测试集上,和标注年级的相关在 0.63 到 0.79 之间(Collins-Thompson 与 Callan,2004)。
中文不能直接套这些式子。中文一个字通常就是一个音节,每词几个音节到了中文就成了每词几个字;词和词之间又没有空格,得先分词,词长和难词才数得出来。Sung 等人 2015 年以文本所属的年级为标准,从词语到衔接分四个层面取了 31 项中文特征,结论是多层面的做法更能反映文本和阅读理解过程的复杂(Sung 等,2015)。第二年他们介绍了 CRIE(中文可读性指标分析器)。文章说,已有的几种文本分析工具是为英语和西班牙语这类拼音文字做的,还没有分析中文的;CRIE 能做分词和句法分析,提取 82 项语言特征(Sung 等,2016)。
Crossley 等人 2019 年用众包收集读者对文本理解和阅读速度的判断,再用自然语言处理工具取特征建模。选进模型的特征在理论上和理解、阅读速度关系更紧,这样的模型胜过 Flesch-Kincaid 这类经典公式(Crossley 等,2019)。
| 年份 | 谁 | 留下了什么 |
|---|---|---|
| 1948 | Flesch | 按句长和音节数算的易读分数 |
| 1948 | Dale 与 Chall | 句长加上不在常用词表上的难词比例 |
| 1952 | Gunning | 按句长和多音节词算年级的 Fog 指数 |
| 1975 | Kincaid 等 | 用海军士兵的测验重算公式,有了 Flesch-Kincaid 年级 |
| 2001 | Bailin 与 Grafstein | 公式依据的语言学标准不足以判断难度 |
| 2004 | Graesser 等 | 算 200 多项指标的 Coh-Metrix |
| 2004 | Collins-Thompson 与 Callan | 用统计语言模型预测年级 |
| 2015 | Sung 等 | 从多个层面取特征衡量中文难度 |
| 2019 | Crossley 等 | 按读者判断建的模型胜过经典公式 |
Flesch 的式子只用平均句长和平均音节数,把一篇文章的句子打乱顺序,这两个平均数不变,分数也不变。各个公式的结果对不上,DuBay 举过一例,同样四段文字,Flesch 年级是 8.9,SMOG 是 11.7,Fog 是 12.3;就算用同一个公式,不同软件数句子和音节的办法不一样,结果也有出入。年级说的是美国学制。DuBay 引过 Klare 等人 1969 年的话,公式的分数最好当作粗略的指引,不要当作很精确的数值。
现在谁在用,拿它做什么
规划文件早有人量过。1989 年 Gallagher 和 Patrick-Riley 发表的文章,题目就是美国联邦土地管理规划的可读性(Gallagher 与 Patrick-Riley,1989)。2020 年澳大利亚维多利亚州有两个政府网站负责发布新冠健康信息,Serry 等人用 SMOG 和 Flesch 易读分数检查了它们的网页。这些网页的难度高于健康宣传材料通常建议的小学高年级水平,读懂要有高中高年级的阅读能力,面向公众和面向专业人员的页面没有差别(Serry 等,2023)。
旅游研究里,Fang 等人 2016 年用 TripAdvisor(猫途鹰)上的景点评论,研究哪些评论会被读者看作有价值,发现评论文字的可读性和评论者的特征都有影响(Fang 等,2016)。Dolnicar 和 Chapple 2015 年测了旅游学期刊文章的可读性。这些文章很难读,难度像是已经停在【很难】这一档,可读性和被引次数也没有关联(Dolnicar 与 Chapple,2015)。
会计研究里,Li 2008 年用 Fog 指数和篇幅衡量上市公司年报的可读性,发现盈利较低的公司年报更难读,年报好读的公司正盈利更持久(Li,2008)。Loughran 和 McDonald 2014 年把 Fog 称作最常用的可读性指标,又指出它放到财务文件上设定不当,两个组成部分一个有误,一个难以测量;年报文件的大小这个简单的替代指标,表现反而胜过 Fog(Loughran 与 McDonald,2014)。
想深入可以读这几篇
- DuBay(2004)The Principles of Readability,可读性研究和经典公式的简史,列出了公式的算法,全文免费。
- Bailin 与 Grafstein(2001)The linguistic assumptions underlying readability formulae: a critique,从语言学上检查公式依据的标准。
- Collins-Thompson(2014)Computational assessment of text readability,自动评估可读性的综述。
- Crossley、Skalicky 与 Dascalu(2019)Moving beyond classic readability formulas: new methods and new models,新模型和经典公式的正面比较。
- Loughran 与 McDonald(2014)Measuring Readability in Financial Disclosures,公式搬到财务文件上出的问题。
- Sung 等(2016)CRIE: An automated analyzer for Chinese texts,中文可读性分析数哪些特征。
TATOOLS 里的可读性工具
【文本可读性分析】可以比较政策文件、规划公示或景区介绍的难易,几份材料的结果在报告里并排列出。英文材料给出 Flesch 易读分数和 Flesch-Kincaid 年级等七项指标。中文材料列出用字在《通用规范汉字表》各级和表外的比例,平均句长、生僻字比例和虚词密度各占一项,再给出 0 到 100 的综合可读性分和估计阅读年级,分数越高越易读;报告的方法说明写明,综合分是按经验设定的规则,不是已发表的中文可读性公式。每份材料还列出最难和最易的 5 句。