人工智能的诗与远方，一文读懂NLP起源、流派和技术（外一篇））

白硕应用语言学研习 2022-06-09

感谢关注我们！加油，研习人！

欢迎关注我们，一站式获取海量语言学资源

来源编辑：新智元公众号

转载编辑：研习君

敬请星标应用语言学研习，喜欢请点赞，真爱请分享⭐

以下文章来源于阡寻科技，作者白硕

新智元推荐

作者：白硕来源：阡寻科技

【新智元导读】本文从NLP的起源和流派，分词、句法分析、语义表示等的具体技术，到NLP的实际应用，深入浅出地对自然语言处理技术做了 “入门级的” 介绍。

自然语言是人类文明传承和日常交流所使用的语言。狭义的自然语言处理是使用计算机来完成以自然语言为载体的非结构化信息为对象的各类信息处理任务，比如文本的理解、分类、摘要、信息抽取、知识问答、生成等的技术。进一步延展场景，广义的自然语言处理技术也包含自然语言的非数字形态（如语音、文字、手语等）与数字形态之间的双向转换（识别与合成）环节。鉴于自然语言丰富地表现了人类的认知、情感和意志，潜在地使用了大量常识和大数据，自身在算法和模型上也多采用各种启发式线索，目前一般均把自然语言处理作为人工智能的一个分支。最近，在人工智能领域出现重要进展、人工智能应用受到各行各业热切期待，自然语言处理技术也水涨船高，受到普遍的重视。本文对自然语言处理技术做一 “入门级的” 初步介绍，有进一步兴趣者可参阅专业资料。

NLP 的源与流

自然语言处理作为人工智能的一个分支，其源头和人工智能一样，都出自于计算机科学的祖师爷级人物——阿兰 · 图灵。图灵在提出图灵测试的时候，就把使用自然语言与人进行对话可以乱真的能力作为判别一个机器系统有无智能的标准。在图灵的时代，让机器 “善解人意” 是人工智能的诗与远方，在当时的技术条件下还看不到实现的希望。

使用简单直接的词袋技术和模板匹配技术，是处理自然语言早期尝试的开始，冲在最前面的是机器翻译和人机对话。由于没有掌握自然语言的要领，早期的机器翻译和人机对话系统总体上表现稚嫩，充其量只能是玩具系统。

数据库技术和专家系统技术都具有较为复杂的查询和使用逻辑，其内部表示和人类用户所熟悉的自然语言表示具有较大的差异，为弥补这方面的人机差距，实现更加友好的人机互动，利用自然语言处理技术为数据库和专家系统等提供自然语言接口是早期自然语言处理技术发展的动力之一。但是由于图形人机界面技术的发展，冲淡了对自然语言接口的需求，加之自然语言处理技术本身还要攻克大量难关，数据库和专家系统的自然语言接口直到多年以后的 Watson 系统才得以展现其威力，在此之前只是一个不太被看好的 “弃儿”。

随着语言学领域在乔姆斯基的倡导下发生了天翻地覆的革命，形式化方法被引入语言学，用于刻画自然语言的句法结构，形式语言理论蓬勃发展，形成了乔姆斯基形式语言理论框架体系。在这个体系下，语言被分为 0 型（短语结构语法）、1 型（上下文相关语法）、2 型（上下文无关语法）和 3 型（正则语法），它们的成员判定问题复杂度依次为半可判定、NP 完全、多项式和线性。对于各种自然语言来说，大体上占到 2 型的很少但很不规则的一部分，但部分现象呈现上下文相关性，会在局部对 2 型有所突破。这就是笔者所说的 “毛毛虫” 现象。

按照当代语言学理论，自然语言分符号、词法、句法、语义和语用五个层面。在符号层面，有语音、文字、手语和电子输入。在词法层面，有词典、词性标注、词的形态变化、构词法等。在句法层面，有词对词的关联 / 依存关系，以及短语对短语的结合 / 拼接关系。在语义层面，有语义标签与它们在现实 / 想象世界中的所指之间的映射关系和语义标签之间的角色指派关系。在语用层面，有语言成分与语境之间、字面意义和言外之意之间的复杂互动关系。一般称的 “语法”，包含了词法和句法两个层面。

针对自然语言的特性，在形式语言理论框架下建立不同的模型，形成了自然语言处理的诸多形式化机制，基于规则的形式化机制包括 LFG（词汇功能语法）、GPSG（广义短语结构语法）、HPSG（中心词驱动的短语结构语法）、DG（依存语法）、CG（范畴语法）、CCG（组合范畴语法）等，基于统计的形式化机制包括 HMM（隐马尔科夫模型）、PCFG（概率上下文无关语法）等，基于联结的形式化机制包括 CNN（卷积神经网络）、RNN（循环神经网络）、LSTM（长短时记忆模型）等。具有交叉学科性质的 “计算语言学”，就是自然语言处理技术在模型、算法级的研究领域的集中体现。

实际上，鉴于欧氏空间具有良好和丰富的数学工具可用，语言 / 文本的向量化努力是跨越统计和联结两大阵营的。基于统计的向量化方法是隐性语义标引（LSI）模型，基于联结的向量化方法是词嵌入（Word embedding）模型，前者具有保距离特性，后者具有保运算特性而且可与任务派生的优化目标深度耦合。目前，嵌入技术已经不局限于词，也可以整结构、整句嵌入了。但是总体说来，当前技术能够大规模处理的，仍然只是具有 “浅层句法” 或者 “简单标记” 的 NLP 任务。更复杂语言现象的理解、更复杂语义关系的抽取，仍然任重道远。

随着日本五代机计划的失败，第二波人工智能浪潮消退，互联网在 WWW 的出现后迅速崛起，NLP 技术穿上了互联网马甲，搭上了搜索引擎的班车，成为了一门互联网应用技术。在无比简单的搜索框背后，是各种 NLP 技术的组合体，文本的分类、聚类、摘要、协同过滤、信息抽取、机器翻译…… 可以说应有尽有。这段时期之所以 NLP 既远离 “人工智能” 的招牌，也远离 “计算语言学” 招牌，是因为人工智能招牌在当时并无正面贡献，而语言学家在经验主义范式下不得施展甚至每每成为负担。而互联网这棵大树却足够容纳 NLP 的一系列成果。大型互联网公司在机器翻译领域的出色表现很好地证明了这一点。

随着深度学习技术以摧枯拉朽之势横扫语音、图像识别和浅层自然语言处理各类任务，知识图谱技术为语义知识处理走向各行各业做好技术栈和工具箱的铺垫，人工智能招牌强势的王者归来已经在所难免，自然语言处理技术也自然地成为了这王者头上的王冠。这是因为，语音和图像识别大局已定。自然语言处理已经成为一种应用赋能技术，随着实体知识库的构建、知识抽取和自动写作在特定领域的实用化和对话机器人从对接语料到对接知识图谱的换代，正通过新一代人工智能创新创业团队，全面渗透到人工智能应用的各个角落。自然语言处理从浅层到深层面临范式转换，还处在对接情感计算与常识计算的战略性要地的关键位置。谁能拔得头筹，谁就能在当下的人工智能 “军备竞赛” 中处于有利地位。

回顾 NLP 技术的发展历史，可以清晰地看到几个流派各领风骚数十年的沿革和范式转换的踪影。从上世纪五六十年代到八十年代，是 “理性主义” 学派盛行的年代，是基于规则的范式主导的年代。上世纪九十年代开始，“经验主义”学派开始反超，基于统计的范式繁荣了近二十年，终于在 2010 年前后被同为 “经验主义” 学派的基于联结的范式所全面取代。这是深度学习算法显现的巨大威力，也是数据和算力积累到临界点的一次综合性的爆发。目前，基于联结的范式风头正盛，但 “深度” 自然语言处理的需求压力之下，“理性主义”学派以某种方式再度回归，实现 “波粒二象性” 的有机结合，也是可期待的。

分词与词法

词法（Lexicon）是自然语言处理的基础层次。西方语言文字多采用空格作为词间间隔的标记，相对易认易解析。汉语、日语等东方语言多采用无空格的词语连写格式，因此需要一个额外的环节，就是分词。

按给定词典进行分词，是中文自然语言处理的经典研究方向，现已有相对成熟的算法和技术。并不是说这样的算法和技术可以独自在词法层面解决所有分词难题，而是说靠这样的技术可以大体上保持一个较高的水准，还有一些分词有歧义的场合，需要结合更大的上下文背景、甚至结合句法分析、语义分析等后续工序的逆向选择，才能够搞定。

分词歧义分成两类：一类叫做 “组合歧义”，另一类叫做“交叉歧义”。“我家家门口的小河很难过” 当中的 “难过” 是一个词 “难过” 还是两个词 “难 / 过”，这是组合歧义。“上交所有非法所得” 当中的 “上交所有” 是“上交 / 所有”还是“上交所 / 有”，这是交叉歧义。这类歧义现象，有的通过上下文句法、语义关系甚至词语的统计分布特征就很容易排除，有的则需动用更高深的情感和常识机制才能排除，这些都是“伪歧义”。除了伪歧义之外还有真歧义，就是必须在具体语境中才能明确的歧义。

依照词典进行分词并不是词法层面唯一的分析任务。其他任务也很实际并且同样具有挑战性。下面我们依次列出除分词之外的词法分析任务，并简述其工作目标和技术难点。

词性标注（POS tagging）。给分出来的词做词性标注，一方面是对那些理论上有多种标注可能、但特定上下文中只有唯一标注可能的词通过标注来消除歧义（比如 “指挥” 既可以是名词又可以是动词；同为名词的“指挥”，既可以指事，又可以指人），另一方面，标注之间的连接和共现关系可以更好地帮助解决分词问题。所以，加上词性标注的分词过程和结果，不仅更有利于后续工序（构词法和句法分析）的处理，也使词法分析这道工序本身获得更多的启发式信心。这样一来，采用何种标注体系，就成了技术路线选择躲不过去的坎儿。选择的依据，一是取决于应用场景的实际区分度需求，二是取决于开发者的语言学理念。业界比较常用的标注体系有北大标注体系和宾州树库标注体系等可供选择，但这并不排除开发者还可以根据实际情况自创其他标注体系。

命名实体识别（NER）。命名实体识别既是自然语言处理当中相对独立的专项任务，也是自然语言深度解析所不可缺少的实际前置步骤。人名、地名、组织机构名、化合物名、药名、金融交易标的名称等等，都有各自的命名体系，而且有很强的专义性（one sense per context）。有些命名实体采取了缩略简称的形式。命名实体识别和词典分词 / 词性标注之间有复杂的协同关系。我们见到有的系统把二者分离处置，各干各的，让后续工序无所适从，这种缺陷，值得引以为戒。

形态变化还原（STEMMING）。西方语言大多属屈折型，词的形态变化比较发达，名词的性、数、格和动词的时态、语态往往需要借助各种形态变化来表示。某些东方语言属粘着型，用名词加粘着语素表示格，用动词的元音谐变表示时态、语态信息。与这些变化手段相应的还原工作，都是对应语言词法分析的应有之义。汉语是孤立型语言，总体上说词的形态变化很不发达，但也有以重叠手段为主的较为初级的形态变化（AA、ABB、AABB、ABAB、A 一 A、A 不 A、A 不 AB 等），很多变化具有能产性，不宜罗列，于是也需要相应的还原。此外，汉语中还有非常独特的 “离合词” 现象。比如 “这种亏我们可不能再吃了” 当中的 “亏” 和“吃”，就是 “吃亏” 这个词的离合形态，中间既被其他词语穿插，又被改变了语序。离合词的识别和还原，既需要词典绑定，又需要借助句法的手段将拆开来的词素精准定位，是比较高级的词法分析技巧。

构词法（Compound-wordformation）。合成词是在词典词基础之上根据一定的机制形成的具有内部 “微结构” 的词。这种词往往是有规律可循的，而且具有相当的能产性，用词典化的方法难以将其穷尽。构词法是以类似句法的手段处理合成词，当然，只是其微结构 “类似句法” 而已，构词法中仍然有许多体现词法特点的因素，比如韵律、倒装等。构词法和句法也许并没有特别严格的界限，中间存在一干灰色地带。在这些灰色的地带，你即可以说是句法反作用于词法，也可以说这本身就是词法内部的事情。在另一个极端，就是压根儿不依赖词典，直接把构词法的触角伸到“字”，由字根据构词法生成一切词典词和非词典的合成词。这些探索，孤立看很难断定成败得失，需要结合应用目标和工程约束才好评判。

由此可见，词法分析领域绝非基于词典的分词这么简单，这个领域还有大量有待攻克的难关，有些难题已经与句法分析搅在一起，非统筹考虑是无法单独推进的。

句法分析

句法（syntax）和词法合称语法（grammar）。语法这个层次要不要存在，一直是引起很热烈争论的话题。如果说符号（说了什么）是起点、语义（谁和谁有什么关系）是终极的话，那么语法就是中继站。如果说符号在一楼、语义在三楼的话，那么语法（谁和谁有关系）就在二楼。从一楼到三楼有两种走法：一种是从一楼直接搭梯子上三楼，这叫 “意合” 派，实际上很多工程性的 NLP 系统采用了这一派，语言学界也有比较极端的人在学术上主张这种观点；另一种是从一楼上到二楼，在二楼拿到一些 “导航” 信息，然后再从二楼再上三楼直达目标，这叫 “结构制导” 派。

很显然，如果意合派能够达到满意的语义分析效果，那么语法就是多余的。如果意合派只能达到表浅的语义分析效果，那么就它只是一种利用了浅层分析技术的阶段性技术路线而已，随着技术的发展和应用的推动，必将让位给充分利用结构信息、更具分析深度的新一代技术路线。真正把 “结构制导” 这样的思路在工程上贯彻到底且能付诸应用的系统少之又少，但这极可能是技术门槛高的原因，而不是技术路线走不通的原因，对此我们后文还会有进一步的讨论。目前看来，“意合”的技术瓶颈是很明显的，比如对机器人说 “你给我讲个故事吧！” 和“我给你讲个故事吧！”，如果没有对语序结构的深究，仅靠基于词袋和模板来处理，混同的可能性更大。

如果说以词袋和模板为基础的 “浅层” 句法分析方法具有局限的话，那么，可以一用的 “深层” 句法分析方法。目前有哪些呢？概括说起来，传统的 “主流” 结构表示方法有三种：CFG（上下文无关语法）、DG（依存语法）、CCG（组合范畴语法），新潮的结构表示方法只有一种，就是字符串到向量空间的嵌入（seq2seq）。

上下文无关语法是比较经典的模型，着眼点在邻接成分之间的拼接（concatenation）关系。它的最大好处是直观，适宜于描述由小的成分逐层拼接成大的成分，自然形成树型层次结构。由于模型过于宽泛，其中有大量递归现象是实际的自然语言中不会发生的，但通用的分析算法却为这种不会发生的递归现象付出了很多无谓的代价。另外，上下文无关语法不能直接处理个体词语之间的关联（association）关系。一旦要处理关联关系，就必须通过语言的语言的向心结构，把复杂成分用中心词语作代表，把中心词语的关联关系和邻接成分之间的拼接关系统一起来。但在有些语言如汉语中，含有大量非中心词参与对外关联关系的 “交叉” 现象，不可能简单地实现关联关系和拼接关系的统一。

依存语法与上下文无关语法相反，处理的着眼点在个体词语之间点对点发生的关联关系。彻底的依存语法可以打破树形结构的羁绊，把所有实际发生的关联关系都揭示出来。而邻接成分之间的拼接关系，则可以通过关联关系的辖域间接得出。故此，依存语法有更大的灵活性和简洁性。但适宜于依存语法的分析手段还没有上下文无关语法那么丰富。尽管如此，依存语法还是成为近期内句法分析领域超过上下文无关语法的首选模型。

组合范畴语法是在范畴语法基础之上发展起来的，是一种秉持了比较严谨风格的形式化数学演算体系。它把语言成分之间的结合处理为句法范畴对象之间的 “约分” 运算。这种形式化演算体系见诸实用的例子很难找到，但其中很多闪光的思想可以借鉴。特别是词负载结构、无需规则的思想，语言成分自带对外结合的 “插座” 和“插头”的思想，如能发扬光大，扬长弃短，说不定将会有令人惊喜的前景。

字符串到向量空间的嵌入，理论上可以隐性地容纳较为复杂的语言结构，但在深度学习语境下，这些复杂的语言结构转化为向量后，很难显性地予以展现和解释，这对于自然语言处理的工程化实现和根据面向客户的投诉定点纠错、敏捷修复的要求，都是很难做到的。此外，如果应用任务是直接把文本映射为可简单标注的答案，比如是非题或者选择题的答案，或者可轻松获取的答案，比如双语对齐语料，向量嵌入是有优势的；但如果应用任务是复杂知识表示结构的抽取，标注的复杂性和专业性会急剧上升，标注成本会高到得不偿失。

无论使用什么样的句法分析技术，有一点必须明确，就是句法本身是不自足的。细粒度描述的句法不具备鲁棒性和可行性，而粗粒度描述的句法往往必然带有伪歧义。比如 “馒头吃光了” 只有一个理解是符合常识的，即 “馒头” 作为受事，被某个施事 “吃光” 了。另一个理解，即 “馒头” 作为施事，把 “光” 作为受事 “吃” 了，是不符合常识的，因为一个无生命的食品，不会去吃一种有影无形的物理对象。“这碗猪都不喝的汤”，虽然其中的数量短语 “这碗” 和名词 “猪” 之间在句法上是可结合的，但它们之间并不不具备统计上显著的搭配性或者说相谐性。这说明，语义和统计可以反过来作用于句法分析，帮助句法分析环节排除伪歧义。套用量子力学的比喻，如果说正向的结构制导作用好比是 “粒子” 的话，这种基于语义或大数据统计的逆向筛选的作用就好比是“波”，二者恰好构成一种完美的“波粒二象性”。

最后我们要说明，即使语言的结构表示模型是基于理性主义（符号或规则）路线的，但语言解析过程本身仍可以采用基于统计的或基于联结的方法。比如 PCFG 就是基于规则的结构表示与基于统计的过程控制的有机结合。

词典化（免规则）、单子性（免复杂层次）、局域化（免跨成分关联）和鲁棒性（对灵活语序和修辞性失配的适应性），是自然语言句法分析技术未来的发展趋势。限于篇幅，这里不展开论述了。

语义表示与理解

如果说自然语言处理是人工智能的王冠，那么语义表示和理解技术就是王冠上的明珠。目前人工智能领域的发展态势，在语义这一块已经到了重兵集结的程度。句法分析技术的进步，使得我们有希望从结构和算法方向逼近更加精准的语义解析；应用领域数据转化为知识的实践方兴未艾，知识图谱的技术栈里算力充足工具齐全，使得我们有希望从表示的方向为语义架桥铺路添砖加瓦。精彩纷呈的明珠争夺战，可以说是万事俱备，一触即发。

语义长什么样？下面我们以 “今年 A 公司营业额比去年增长 20%” 这句话为例，看看它涉及了哪些语义表示与描述。对它进行解析，可产生如下一些结果：A 公司是 “公司” 这个类型的一个实例，它有一个属性叫做 “营业额”，营业额对应不同的“期间” 标签，有的不同的取值实例。“增长”是一个事件，它涉及基准、当事和比率三个角色，这三个角色都是数学量。基准和当事都是金额，比率是纯量。等等。

有心人很快会发现，这就是知识图谱。

的确，知识图谱就是当代最通用的语义知识表示形式化框架。它的节点就是语义学里面说的 “符号根基（symbol grounding）”，即语言符号与真实或想象空间中的对象的对接，在计算机中体现为语言符号与数字化对象的对接。它的边则是语义学里面说的 “角色指派（role assignment）”，在计算机中体现为每个数字化对象与其他数字化对象之间的语义关系标签。节点和边，这恰恰是知识图谱所支持的要件。

但是，事情并没有完结。语义结构表示框架中，现有的知识图谱可以完美描述实体、关系、属性（状态）及其值这三类要素。但是剩下的还有事件、时间、空间、因果条件、逻辑模态等，我们必须对现有的知识图谱结构进行改造，才能适应这些语义要素的表示。

先看事件。事件可以改变关系和属性。比如 “撤销职务” 的事件真正的语义效果是改变相应实体的 “职务” 属性的取值，其他一切操作，如果不落到这上面，都是耍流氓。此外，一个事件可以触发其他事件（例如 “国王去世” 触发 “王储继位”），一串事件可以是一个大事件的细粒度展开（比如“立案侦查”、“调查取证”、“拘捕” 可能是某个 “案件” 事件的细粒度展开）。这些具有动态特性的操作如何与静态知识图谱的结构和工具融为一体，是一个非常有挑战性的问题。我们注意到哈工大有关 “事理图谱” 的相关研究成果，但要成体系地解决事件的表示问题，目前成果还是很不够的。

再看时间和空间。大多数关系、属性、状态均与时空有关。事件也是在时空中才得以展开。基于关系、属性、状态、事件的语义知识处理，也要依据特定条件在给定时空范围内是否满足而遵循不同的处理逻辑。以农产品现货、期货为例，特定天气事件（比如暴雨、洪水）产生于特定时间（比如橡胶生长期）和空间（橡胶生长地），对特定农产品（橡胶）及其现货、期货交易者才构成预警。所以，时空标签如何引入静态知识图谱，也是一个具有挑战性的问题。

逻辑模态（例如 “准备裁员百分之二十”/“预计增产百分之十五”）、委婉表述（例如 “不认为有必要”/“倾向于暂缓”）、高阶逻辑表述（例如 “对房价过快上涨的预期减弱”）等，也都超出静态知识图谱的表示能力范围之外。如何为此类文本的语义设计相应的标签体系，也是正确抽取知识、融合知识所必须解决的问题。

此外，人类的语义解析过程充满了所谓 “脑补”。比如：“增长率超过了联想”，在字面语义上，“增长率” 作为一个数值和 “联想” 作为一家公司，是不可比的。但我们在 “公司” 为核心节点的本体中，可以找到 “增长率” 这样一个类型匹配的关联属性，于是就可以启动自动的 “脑补” 过程。可见，借助知识图谱，智能化地完成这类需要 “脑补” 的语义理解过程，是语义分析技术走向实用和深化的必然要求。

从上面的分析我们看到，自然语言的语义的确是一个博大精深的体系。知识图谱为语义计算准备好了基本的框架，但要全面推进到实用，还要做许多基础性的工作，包括资源建设和理论模型创新。我们期待在这一领域能有重量级的成果出现，将语义表示和计算的工作推向深入。

应用

自然语言处理技术的应用场景甚广，大致可分为分析型、生成型和交互型三类。舆情监控系统是典型的分析型系统；自动写作系统是典型的生成型系统；形形色色的聊天机器人是典型的交互型系统。

自然语言处理能力以平台化方式提供服务，是广大自然语言处理技术提供者求之不得的事情，但现实中可以这样做的场景几乎没有，也就是说自然语言处理本身的能力输出作为商业模式，是受到很多非技术因素限制的。现实中，更多的自然语言处理技术是融合于一个更大的行业应用场景中，作为其中一项核心技术来发挥自己的作用的。

除了法律、医疗、教育等先行行业之外，金融证券行业对自然语言处理技术业有很迫切的落地需求，但往往必须结合专业领域知识和私有数据才能构建有价值的场景。IT 背景的公司在这方面大都有所欠缺。另一方面，自然语言处理技术门槛很高，资源依赖性很强，不掌握新一代技术的团队也很难在赛道上坚持到胜利。

目前，行业技术提供商、互联网巨头和人工智能创业企业都在进入这个领域。行业技术提供商宜静观进展，直接采用经过实战考验的成熟技术；人工智能创业企业没有一招鲜就没有活路；而互联网巨头们，既有财力又有机制去自我孵化出 N 招鲜来。硝烟滚滚，磨刀霍霍，自然语言处理技术为题材的一场好戏已经开场。

外一篇|

专访冯志伟：NLP研究尚处于初级阶段，未来将属于年轻一辈

原创Non 来源AI科技评论公众号

2018-10-22

计算语言学是一门结合计算机和语言学的交叉领域。在这一领域，有这样一位极为罕见的文理兼通、跨学科的研究型专家。他既懂得理科中的数学、物理、化学和计算机科学，又懂得语言学中的古代汉语、现代汉语、文字学、音韵学和普通语言学，深研过汉、英、法、德、俄、日等语言的语音、词汇和语法的自动处理，并把各方面的知识紧密地结合起来综合应用，在计算机上加以实现，完成各种研究任务。他在不同学科、不同语言研究中都取得重要的成就，分别成为这些学科的学术带头人。

这是冯志伟教授今年（2018）获得 CCF-NLPCC 杰出贡献奖的得奖理由。作为中国最早进行计算语言学研究的元老级人物之一，冯志伟教授目前为北京大学、浙江大学、中国传媒大学、大连海事大学兼职教授，杭州师范大学高端特聘教授。

在 18 岁以优异成绩考入北京大学地球化学专业之后，他在北大图书馆偶然看到美国语言学家乔姆斯基（N. Chomsky）的论文《语言描写的三个模型》(Three models forthe description of language)，被乔姆斯基在语言研究中的新思想所吸引，继而转到语言专业从事文科类的语言学学习。

在 1964 年考上北京大学语言学理论的研究生后，他将研究生毕业论文的题目定为《数学方法在语言学中的应用》，在我国语言学研究中，首次系统地、全面地来研究数理语言学这个新兴学科。

文革之后，他又以优异的理科成绩考上中国科学技术大学研究生院信息科学系的研究生，又开始了理科学习。

1978 年，冯志伟教授去往法国格勒诺布尔理科医科大学应用数学研究所（IMAG）自动翻译中心（CETA），师从法国著名数学家、国际计算语言学委员会主席沃古瓦（B.Vauquois）教授，研究数理语言学和机器翻译问题，研制了世界上第一个汉语到多种外语的 FAJRA 机器翻译系统。

他于 1981 年回国，在中国科学技术信息研究所计算中心担任机器翻译研究组组长。

回国之后，他所做的主要研究工作如下：

1981 年在计算机科学杂志上，从数学的角度，首次系统分析乔姆斯基的形式语言理论。
1983 年发表文章在国内首次系统地介绍泰尼埃的依存语法，推动了国内对于依存语法的研究。
1985 年研制成功世界上第一个中文术语数据库。
1985 年提出潜在歧义理论，为汉语歧义结构的排歧建立了行之有效的形式化方法。
80 年代：写出了中国第一本数理语言学专著；出版了中国第一本现代语言学流派的专著；提出术语形成经济律，并用 FEL 公式来描写这个定律；首次发表文章系统地分析齐普夫定律来龙去脉，开国内计量语言学和数理语言学研究之先河。
90 年代用德文出版了汉字的专著，2017 年先后出版了希腊文和英文的汉字专著。
翻译出版「自然语言处理综论」的大部头专著，出版「自然语言计算机形式分析的理论与方法」的大部头著作，出版中国第一部「现代术语学引论」专著，主持和参与多个有关术语和信息处理的国家标准的研制。
连续五年主持国际标准 information and documentation: romanization ofChinese 的研制。

「老骥伏枥，志在千里。」冯志伟教授年近八十，仍笔耕不辍，活跃在科研第一线，积极推动计算语言学的发展。就在今年，在 79 岁高龄，他已经发表 9 篇中文论文，《机器翻译是人工智能皇冠上的明珠》一文成为他发表的第 400 篇中文论文，并被《语言战略研究》2018 年第 5 期用作「卷首语」。

以下为雷锋网 AI 科技评论与冯志伟教授的对话实录，六十年研究，冯志伟教授见证了计算语言学在中国的逐步发展与壮大，也对中国的年轻一代充满希冀。

1. 您进行计算语言学研究的契机是什么？能谈谈您这些年的研究历程吗？

冯志伟：我于 1957 年进入北大，最初学习地球化学专业，研究地球上的元素分布。那时候，我对自然界的矿物很感兴趣，比如各种石头、宝石等。由于元素种类、晶体结构不同，石头的颜色各异，我想研究这些元素是如何分布的，这本身具有实用价值，可以指导地质工作，也比较有意思。

当时北大比较开放，除了老师讲课，还有其他获取知识的方式。在图书馆，我看到乔姆斯基在《InformationTheory》上的文章《语言描写的三种模型》，这三种模型（马尔可夫模型、短语结构模型、转换模型）都用数学方法描述语言现象。语言具有文化色彩，如何让它跟数学产生关联，这是一件非常有意思的事情。进一步，我得到消息，美国在 1954 年就用计算机将俄文自动翻译成英文。

乔姆斯基的论文以及美国的俄英翻译系统的研制让我展开无尽想象——能不能用数学的方法来处理、帮助机器翻译呢。这方面的研究当时是语言学界在做，因此我下定决心转行研究语言学。真正从事语言学研究之后才知道，这并不像我所想的那么简单。语言跟人的思维有关，它又是人类几千年文化传承的产物，与自然现象不同，是非常复杂的问题。

我 1964 年考上研究生，花了两年左右的时间，想出了描述语言的数学结构模型的基本轮廓。1966 年，发生文化大革命，没法再继续研究。1967 年，毕业之后我离开北大去云南教中学物理。直到 1977 年，邓小平主张发展科学，高等院校重新招生，但是那时候是面向理科招生，因此我决定考取中国科技大学信息科学系研究生。1978 年我考上研究生之后，科研形势变好，之后就被公派到法国留学。

我在中学时就把俄语学得差不多了，去北大之后又自学了英文、德文，到法国又学习了法语。我与在法国留学期间的老师——沃古瓦（B.Vauquois）教授商量之后，决定做一个汉语翻译系统，把中文翻译成外文（英、法、德、日、俄）。

从法国学成归来以后，我最早在中国科学技术信息研究所计算中心担任工程师，随后，被调入国家语言文字工作委员会语言文字应用研究所（后更名为教育部语言文字应用研究所），那之后，我先后到德国夫琅禾费研究院（FhG）新信息技术与通信系统研究所、德国特里尔大学语言文学院、德国康斯坦茨高等技术学院国际术语学和应用语言学中心（CiTaL）、桑夏自然语言处理研究院、韩国科学技术院（KAIST）电子工程与计算机科学系（EECS）进行学习和工作。

2. 这些年的研究生涯中，哪一成果您觉得最具代表意义？

冯志伟：我在法国留学期间的导师沃古瓦（B.Vauquois）教授是法国著名数学家、国际计算语言学委员会第一届主席。跟他商量之后，我决定研制上面所说的汉语翻译系统，把中文翻译成五种外文（英、法、德、日、俄）。

那时候的理论根据，基本上围绕乔姆斯基理论展开，他的短语结构语法用来分析英文、法文很合适，但分析中文有一个很大的问题——短语结构语法太简单。后来我提出「多叉多标记树模型」（Multiple-labeled and Multiple-branched Tree Model，MMT），可以解决他的理论难以解决的中文问题。多叉多标记树理论对语言在形态、句法、语义、逻辑等方面进行多角度的分析，分了很多层次。MMT 模型是我对 NLP 最大的一项贡献，一直到现在，NLP 学界基本没有跳出形态、句法、语义、逻辑这个框架。当然，这一成果跟我的老师分不开，他指导我做到了相当深的程度。

3. 我国计算语言学经历了怎样的发展历程？

冯志伟：中国的计算语言学研究，大致分为如下三个时期：

萌芽期

1954 年，美国研制出第一个俄英机器翻译系统，中国就开始注意到这个问题。在 1956 年国家科学规划里，谈到机器翻译和自然语言的形式化研究。当时，科学院的一些研究人员已经认识到语言学科的数学模型研究，NLP这个学科开始萌芽，但还没有出现成果。

1959 年，我国研制出第一个机器翻译模型，将俄文翻译成中文，实现了从无到有的突破。那一段时期，我国以语言所和计算所为中心，开始准备研制英汉翻译系统并提出设计方案。国内如哈尔滨、广州等地有一些语言学与计算机的专家联合作战，攻关机器翻译。随着文化大革命的出现，国家停止了对科研的投入，NLP 的研究进度也开始放缓。

恢复期

文革结束之后，萧条了 10 年之久的 NLP 研究开始复苏。我国公派一批学生去国外学习，了解 NLP 最新进展，带回国外的先进理念。从 1976 年开始，持续到 80 年代末期，留学生学成归来之后，在国内积极开展工作。这段时期，中国积极与国际交流，将计算语言学由技术问题发展成一门学问。大概从 1982 年开始我参加了COLING-82的国际会议并发表论文，中国的学者逐渐出现在计算语言学顶级学术会议上。

发展期

1989 年以后，机器翻译从基于规则到基于语料库，开始走向工业应用，以翻译产品为主的公司出现。这段时期开始着重资源建设，例如收集数据，建立双语语料库。

2016 年以后，神经机器翻译的正确率可以达到 95% 以上。神经机器翻译出现之后，机器翻译开始实用化，国内科大讯飞、百度、搜狗、有道等纷纷推出机器翻译系统。

从国际上来看，计算语言学的发展与自然语言处理顶级会议 COLING 息息相关。

1989 年以前，基本上是基于语言学规则来进行机器翻译、信息检索、文本处理。这时候语言学家的知识与计算语言学密切联系，只需把知识形式化，用数学模型表达出来就可以。

1989 年以后出现重大转折，在1993年的机器翻译高峰会议（MT summit）上，提出如下观点，规则难以覆盖语言现象，我们不应仅仅从书本中获取知识，而应从真实的大规模语料库中获取。那之后，知识的提取不再借助于规则，而是基于真实的文本。这时候非常重视语料库的建设，注重知识的客观性。

这之后，信息抽取、数据挖掘以及语音识别普遍使用统计的方法。这一阶段，机器翻译的正确率从 60% 一跃提高到 80% 以上，我们看到了希望。

现在 COLING 的方向又变了，研究工作全是基于 CNN、RNN 等深度学习的方法。这些年间，学科经历了从书本到语料库，再到大型双语语料库的转变。

总结起来，大致分为这三个阶段：

第一阶段，基于规则的符号主义阶段。

第二阶段，基于语料库的经验主义阶段。

第三阶段，基于深度学习的阶段。

4. 目前国内在计算语言学研究上，有哪些不错的成果？

冯志伟：对深度学习在机器翻译中的改进，现在国内有一些工作做得比较不错。清华大学计算系刘洋主要做神经机器翻译，最近做了改进深度学习的方法，他的工作在国际上有一定影响力。邓力也是国际上知名的深度学习专家，华裔美国人，他们在合写《自然语言处理中的深度学习》一书，这具有国际水平。

在三、四十岁左右的年轻人中，有不少青年才俊。例如北大计算语言学研究所的孙栩，他最近获得 NLPCC 青年新锐奖，这几年也发表了不少文章，在自然语言处理上先后提出一系列新方法并获得突出效果。

1982 年，我作为唯一的一个中国代表参加 COLING，那也是中国计算语言学界第一次参加国际会议，近些年进步很快，像王海峰、周明等人进入了国际语言学会领导班子，甚至还带领国外向前走。

5. 结合您的研究生涯，目前我们对 NLP 的研究尚处于什么阶段？未来有哪些值得研究的方向？

冯志伟：从法国学成归来以后，我继续做过英汉、德汉、法汉、日汉系统，当时的问题是，系统在封闭领域内做得还不错，一旦开放，正确率可能就只能达到 50%-60%。当时，每做一个系统大概需要 3 年左右的时间，优化起来也很困难，这么低的正确率，根本不能为社会服务，这在当时是个相当痛苦的问题。

1993 年在日本神户召开的 MT summit 对我启发很大，当时提出基于统计的方法来进行机器翻译。那之后，我读了许多统计方面的文献著作，我与一些学者合作，系统正确率能达到 80% 左右。

我们应该对机器翻译的发展持乐观态度。现在神经机器翻译的正确率能够达到 98% 以上，是我们过去所没有想到的，这个成绩非常不错。

当然也不能过分乐观。现在这种做法存在一个问题，神经网络是个黑箱，虽然效果不错，但我们对运行机制不清楚，拿到社会上用也是很冒险的。这一点与我们早期做机器翻译不同，当时基于规则的方法虽然正确率不高，但每一模块的原理都非常清楚，哪块程序出现错误，需要在哪里进行调试一目了然。

咱们还得研究神经网络机器翻译的运行机制。当然，现在又有了一些解释，如 Word2vec，把词的分布看成向量，通过向量运算关系算出结果。但运算过程如何？仍然是个黑箱。咱们还得在这方面多花功夫，把原理弄清楚。

以机器翻译为例，现在对一些新闻类或者特定场景下的文本的翻译没有问题。但是对于有思想感情的文学作品，如何在翻译中体现出喜怒哀乐？人是有感情的，想要实现机器对感情的理解，这一点还做不到。另外，还有常识知识的引入。很多时候，翻译结果在语法上没有错误，但是缺乏常识。常识的形式化是一个没有解决的问题，虽然现在有了知识图谱，能够帮助我们进一步解决，但这仍然是一个非常艰巨的任务。

语言非常生动，有文化传统，我们对于语言要有敬畏感，要真正把它形式化，还有非常长的路要走。现在尽管非常繁荣，但是还没有到顶点。从理论上来看，我们还处在比较浅的初级阶段，虽然出版了一些很厚的大部头著作，但还是比较幼稚。想要真正了解语言的结构、运行机制，可能还需要几辈人的努力。

科学研究像一棵参天大树，有一些学科，如物理学、化学、语言学、文学、哲学都很发达，他们是很粗的枝干。还有一些刚刚发芽，我们这一研究，就是一个刚刚长出的芽，虽然现在是一颗幼芽，但它是学科交叉生出的枝节，是科学的生长点，可以充分发挥创造性，提出很多新的理论、方法。

现在政府也很重视 NLP，它是人工智能的一个重要分支，很多人在进行研究。我觉得这一领域值得年轻人投入，他们充满了智慧和激情，可以将这一领域做好。

6. 在计算语言学的发展过程中，学习语言学、计算机、数学三个方向的人，在学科的交叉融合上做得怎么？应该从哪些方面努力，促进学科发展？

冯志伟：NLP 是文、理、工结合的最佳范例，我们深入到语言内部看数学面貌已有 60 年历史。美国著名计算语言学家马丁•凯伊（Martin Kay）在 2005 年获得 ACL 终生成就奖的答谢辞中曾经说过这样的话：「计算语言学正在试图用计算的方式来研究语言学家们研究的问题」。这个说法我认为很深刻，我们应当把语言学与计算机科学紧密地结合起来，进一步推动自然语言处理的发展。

这三科目前主要的问题是互相学习、知识更新。现在这一领域的研究人员，特别是年轻人，比我们那时候要好。那时候，语言学家不懂统计学知识，只能提供语言学科的资料，现在大家基本上都会对其他学科有所了解。

最近几年情况比较好，学科之间有很多互动和交流，在国际、国内会议上，大家共聚一堂，讨论的主题基本接近，用的术语基本一致，有很多共同语言。现在固守某个领域的人已经越来越少。

当大家变成文理工兼通的人才，这样学科发展就会更快。这样的年轻人越来越多了，兼具跨学科思想与跨学科能力的人逐渐增加，这是非常好的现象。例如深度学习的方法，我们现在都在使用，对深度学习的理论探讨，对其运行机理的最后攻关，可能还要由语言学与计算机两个领域共同努力。

7. 传统语言学工作者，应该怎么帮助计算语言学研究？

冯志伟：这是一个比较大的问题。传统语言学的研究方法、目的跟我们完全不一样。他们的目的是找到一些语言规律，主要围绕把文章写得准确、鲜明、生动这三条原则。语言学家的研究没有形式化，他们往往对计算机运行机制不清楚，很难对计算语言学提供帮助。传统语言学要进一步发展，考虑之后如何将他们的研究与 NLP 结合，提供一些新的思想。

8. 这些年来，您翻译了许多大部头著作，也在写 NLP 相关教材，推动您进行这些工作的原因是什么？

冯志伟：NLP 是一门交叉学科，有完整的知识体系。在我看来，想要进行这种跨学科研究，最好先对这个交叉的领域有全面理解。语言工作者和计算机工作者对于对方领域的理解不够深入，在研究这一学科时，需要互相学习，进行知识更新。

我主张通过关注国外的进展，把优秀的总结性著作引入中国，把国内外的知识整合成一个系统用于授课，这就是我翻译并且亲自写大部头著作的动机。

通过这些工作，我基本上搭出了 NLP 研究的架子。对于目前存在什么问题，前人研究过什么问题，我们需要研究什么，具体的应用问题，这些我都一目了然。

一些博士生不太同意我这种观点，他们会说，要是先花一两年把学科钻研透再做研究，会造成成果延迟、影响力下降，现在都流行直接进入主题。确实，直接进入主题足够快，但这样的学生有一个问题，他对 NLP 知识体系的理解不够深入，只知其一不知其二，并不是一个很好的研究者。全面学好理论知识，对于你快速进入很窄的主题领域，会有启发作用。

写书和翻译属于基础建设，我们国家的 NLP 研究，除了要做好课题攻关解决具体问题，还得重视基础建设。

9. 对于计算语言学研究人员，您有哪些学习上的建议？

冯志伟：我还是坚持原来的看法，一定要把基础打好，不能急功近利。基础是做学问的根基，应当把数学、外语、计算机的基础知识掌握好。另外，要关心国际进展，经常浏览国外最新杂志，读完以后，争取有所突破。

新一代自然语言学家，一定要关注国内外最新杂志期刊，跟踪学科进展。作为研究者，一定要有意识地更新知识。例如进行语言学研究的人，想要进入计算语言学领域，一定要学一点数学、计算机知识，而且还要认真、深入地学，至少达到这两门课程的本科水平。

现在的年轻一代很幸福，国家给予各种机会和条件，可以申请资金，还有往前走的机会。他们可能不知道我们老年人的事情，那时候，由于中国社会的变化，我们的研究经历过许多曲折。我 1957 年从云南考入北大，那时候中国的环境主张读书，但慢慢，社会变动以后，就开始对认真读书的人进行批判。离开北大之后，因为种种原因，我不能再继续研究计算语言学，按照分配回云南教物理，后来国家主张科学研究，我又有机会去国外学习。我们这代人的经历比你们复杂得多，现在的年轻人应该好好珍惜机会。

10. 获得 2018 年 NLPCC 杰出成就奖，您对此有什么感受？

冯志伟：CCF（中国计算机学会）授予我杰出成就奖，我事先毫不知情。这个奖不能由本人申请，也不能由本人推荐，完全是背靠背进行的。我觉得CCF的这种评奖方式很好，做到了公平和公正。通过对我们老年人的评奖，可以看出学科的发展历史。

这个奖不是我一个人的，是整个学科共同奋斗的结果，学界承认了我们这 60 年来所做的工作，从我们做的工作可以看出学科的发展面貌。

希望 CCF 能继续保持对学科的鼓励，包括对年轻人的鼓励，有意识引导大家往这个方向发展，让 NLP 向前迈进。

我在 18 岁时对计算语言学产生热爱，现在已经 80 岁，由一个小孩儿变成老人。但是这 60 多年来，NLP 一直都是新兴学科，这说明学术是永恒的，学术像一棵永恒的大树，人的生命很渺小，跟科学发展不能比。所以，我们也不要因为目前所取得的点滴进步而沾沾自喜，一个人的成就与科学这棵参天大树相比，犹如沧海一粟，实在没有什么了不起。

后记：

1957 年，乔姆斯基把语言描述的三种模型写成了一篇通俗的语言学读物，这本著作出版之后，人们对他的思想展开激烈辩论，承认这一思想的伟大，他从此变得举世闻名。

在采访最后，谈到乔姆斯基对他的影响，冯志伟教授说道，「我在乔姆斯基还是一个小人物的时候就认识他，后来，他变成大人物以后，我仍然是一个小人物。」在 AI 科技评论看来，冯志伟教授对中国 NLP 的发展做出的贡献无可比拟，在 NLP 萌芽的这段时期，正是由于他们这些老一辈科学家的投入，我国的NLP 研究才得以繁荣至今。他口中的「小人物」，正是无数 NLP 后辈所敬仰的大人物。

综合编辑：应用语言学研习

微信公众平台审核：梁国杰

科研助力

选题宝 | 教育部人文社科项目申报线上培训——语言学专场（8.12日）

文献综述应走出哪些误区？

立项率3连降！2021年度教育部人文社科项目立项分析

在线课程 | 人文社科研究方法——质化、量化、混合研究方法，报名马上学！

原版引进 | 德古意特认知语言学研究丛书+应用丛书（13种）

文献延伸阅读（研习人指引）

本平台友情整理相关文献索引链接，

欢迎感兴趣的朋友按需选购。

科研助力