查看原文
其他

【言十系列】去伪存真——从ESI指标谈起

言 十 计算机教育 2020-09-30

编者按

ESI(essential science indicators)是当前国内高校关注度比较高的一个学术指标,在促进论文发表方面起到了一定的作用。由于得到官方的背书,ESI指标经常被作为衡量学科水平的标准,从而在国内大学掀起一场追求ESI指标的热潮,但片面追求ESI指标也带来了许多负面影响。针对这个现象,我们组织了这篇文章,目的是指出当前对ESI指标认识中存在的误区,以及对高校科学研究和学术氛围可能带来的后果,并针对这些问题提出纠正的建议。


0 引 言

ESI(essential science indicators,基本科学指标)[1]是建立在科睿唯安(Clarivate Analytics,原汤森路透知识产权与科技事业部)旗下数据库Web of Science™(SCI/SSCI,涵盖全球12 000多种期刊)的论文计量分析工具,于2001年推出。

ESI™针对22 个专业研究领域,利用最近10年的数据,每2个月更新一次,分别对国家、研究机构、期刊、论文、科学家进行统计分析和排序,主要指标包括论文数、引文数、篇均被引频次。对研究机构而言,可以产生学科领域的排名;对学者个人,则可以得到高被引科学家(highly cited researchers)、高被引论文(highly cited papers)、热点论文(hot pagers)。ESI试图从引文分析的角度,“分析机构、国家和期刊的论文产出和影响力,发现自然科学和社会科学领域中的重大发展趋势,按研究领域对国家、期刊、论文和机构进行排名,评估潜在的合作机构和具有潜力的人才”。

2009年,上海交通大学李明禄教授在全国高校计算机系主任/院长论坛上做了“基于ESI浅析两岸三地大学计算机学科”[2]的报告,ESI开始进入国内学术界大众视野。随后,ESI指标得到教育主管部门的高度重视,并逐步成为国内高校评价学科水平的重要标准,甚至,有多少学科进入ESI前1%(或者1‰)成为主管部门和地方政府衡量大学办学水平的重要条件。

应该看到,作为论文客观计量指标,ESI指标不只考虑发表论文数,还考虑了学术界比较重视的论文引用情况,比以前国内论文评价只考虑SCI论文数和期刊影响因子,确实显得更加合理,因此,在评价研究机构、学者、论文的学术影响方面,的确可以起到一定的参考意义。ESI指标被国内学术界引入后,对高校科学研究,特别是学术论文,起到了一定的促进作用。

然而,凡事皆有度。当ESI指标被行政部门采用作为重要标准之后,行政指挥棒的巨大威力使其对于大学和学科的重要性被无限提高,与此同时,其片面性也得到了放大。大学逐步明白,通过各种形式的资源投入、激励措施甚至造假,ESI指标可以在短期内快速提升。ESI指标的官方背书,为大学不顾一切提高ESI指标提供巨大的诱惑。目前,高校追求ESI指标,已经演变成一场乱象。


1 国内常用ESI指标的内涵

1) 学科ESI排名1%和1‰。

某个研究机构某学科领域(目前划分为22个)排名参照指标为总被引次数(citations)、论文数(papers)和篇均被引次数(citations per paper)。

2) 高被引论文。

高被引论文是指同学科领域同年度中被引次数排在前1%的论文。数据是基于最近10年的引文数据。高被引论文反映某篇论文在某年度中在本学科领域的相对引用数。需要注意到,在同一学科领域,不同的研究方向有时很难进行比较。此外,综述性的文章容易形成高被引。

3) 热点论文。

热点论文是指同学科领域最近两个月内被引次数排在前0.1%的论文,其依据的是某一学科领域最近两年发表的论文数据。

4) 高被引科学家。

高被引科学家是基于ESI数据库中的高被引论文数据,于过去10年间在相应学科领域发表高被引论文数量最多的科研人员。


2 当前国内对ESI的认识误区和存在的现象

ESI数据库在一定程度上为研究机构和研究人员发表论文和论文被引用情况提供了方便的查询和统计,在衡量研究机构和学者发表论文以及论文的影响力方面,有其合理性的一面,因此,被使用是可以理解的。然而,目前国内从主管部门、地方政府到相当一部分大学领导,未能科学、全面地看待ESI指标,过于放大ESI指标的作用,形成了一定的认识误区。

2.1 国内对ESI指标的认识误区

误区一:ESI是国际公认的学科评价标准。实际上,所谓公认的国际标准,是一个以讹传讹的错误说法。发达国家的大学从来不存在这样一个标准。为了证实这个问题,笔者专门咨询了来自多个欧美发达国家近20所不同大学的教授,他们反馈的信息几乎一致,国外大学根本没有这样一个标准,有的教授甚至还不清楚ESI是什么。所谓的国际公认标准实际上是一个误区。

误区二:进入ESI前1%的学科属于国际领先学科,或者国际公认的世界高水平学科。这是一个更大的误区。一个学科的水平,如果有公认标准,一定是由师资队伍水平、学科作出的科学贡献、培养的人才质量等方面所构成。ESI指标只是体现了学术论文中的一部分(如果没有造假的话)。诚然,国际上领先的学科在ESI上的表现可能也会不错,但反之亦然并不成立。

本质上,ESI指标仅仅是一个论文计量工具,而论文仅是科研成果的一方面。科研评估需要多元化的体系,ESI指标只能是科研评估体系的一部分内容,无法体现科研成果的全部,更无法承担评价学科水平的任务。

还需要注意到,ESI划分的22个学科领域和我们国家对一级学科的划分并不对应。例如,其工程学包括了我们若干一级学科;所有的社会科学各学科则被ESI的一个社会科学总论所包括。计算机科学所收录的主要期刊则和计算机科学领域公认的期刊/会议有很大偏差[3]。例如,计算机领域由于其自身发展迅速的特点,产生了一批声誉很高的高水平学术会议,但这些会议论文都不在ESI指标框架里。因此,把ESI指标套用到国内的一级学科并不合理。

2.2 政府对ESI指标的导向政策

在近年教育主管部门和地方政府相关政策中,ESI指标直接或间接得到充分的重视和体现,甚至被片面拔高地位。这些政策包括:①ESI指标成为“双一流”学科的重要遴选依据,如进入ESI 1‰可以作为入选一流学科的充分条件;②ESI大学综合排名(一所高校入选ESI前1%的学科数、入选ESI前1‰的学科数、ESI学科排名位次)决定“一流大学”建设的层次;③ESI指标进入教育部学科评估体系;④ESI被部分省份作为对高校重大学科建设项目的立项和验收条件或建设目标[4-5]。

政府政策对大学是个指挥棒。在政府相关政策的引导下,追求在ESI指标上的突破成为许多大学的学科建设规划中的具体目标(典型的是在学校学科建设规划中明确提出多少学科进入1%)。不少大学把提升ESI指标作为一项工程来落实,采取的措施包括出台ESI奖励政策[6]、召开ESI动员会(启动会)、举办ESI专题讲座(熟悉游戏规则)、制订某些学科进入1%的时间表、定期出ESI通报(公布各学科离1%的距离)。学科建设从一项长期而复杂的任务,演变成了一套角逐性的游戏。某大学的ESI启动会甚至有这样的发言:“……都已经醒悟,开始熟悉游戏规则⋯⋯”。对于国家高等教育来说,这是多么令人担忧的现象!

2.3 追求ESI指标出现的学术不规范现象

为了快速提升ESI指标,一些大学制订出台具有强烈刺激作用、不符合科研规律甚至学术规范的ESI奖励政策。典型做法如下:①学校明文规定研究生毕业发表的论文必须引用本单位ESI期刊论文一定次数,如某大学规定博士答辩需要“所发表SCI期刊论文引用本院计算机学科ESI论文累计10次”;②学校以金钱方式鼓励校外同行引用本单位ESI期刊论文,按引用次数计算报酬,如某学校规定“引用本单位SCI论文的,给予奖励”,甚至有学校规定引用本单位学科的论文,按次数付酬金;③学校以聘任短期访问教师的名义,对论文和引用进行变相购买。不少学校为了提升本学科的ESI指标,无所不用其极。这些所谓的“措施”,大多数实际上是拿不上台面的低级伎俩,对大学学术生态的破坏作用是显而易见的。

大学的政策对基层教学科研单位和科技工作者个人又造成了诱导。在追求ESI指标巨大的利益驱使下,除了利用上述单位政策外,一些学者采用了不符合学术规范甚至造假的办法提高引用数,制造高被引论文、热点论文。例如,同行、朋友间采取利益交换的互相引用,建立互相引用利益共同体(微信群等),用隐蔽甚至公开的形式要求同行引用自己的论文,利用审稿人的权利要求作者引用等。一时,学术论文引用怪状迭出。一些论文的参考文献数量令人惊奇,一些引用毫无逻辑联系,甚至出现风马牛不相及的跨领域引用……

在上述不符合学术规范的政策、拿不上台面的造假手段共同作用下,一些学校某一学科发表论文数、被引数、ESI高被引论文数、热点论文数突飞猛进。以计算机学科为例,一些原本名不见经传的学校ESI指标进步之神速令人目瞪口呆。笔者以5年作为统计区间检索发现,有的学校计算机学科这些指标和10年前相比,增长超过100倍。作为参照,国内计算机学科力量比较强的清华大学、北京大学、浙江大学等(在教育部学位与研究生教育发展中心组织的全国第四轮学科评估中均评为最高等级A+),则只增长几倍。那些突飞猛进的进步背后所隐藏的含义,对学术界而言都是心知肚明的。


3 ESI作为学科评价标准的负面影响与分析

诚然,ESI作为一种论文指标工具,对于以发表论文为主要目的的研究的促进作用是明显的,但是ESI指标仅着眼于论文发表在哪里、被多少人引用,并不能全面反映研究机构、学者、论文的科学贡献;另一方面,ESI指标客观上方便作假。从科学的角度,这样的指标是不宜赋予很高的权值的。

ESI指标官方化给大学带来了显而易见的负面影响。从目前的情况来看,对已经出现的负面影响可以作如下概括。

从国家层面,不仅造成了国家资源错配和人力、物力、财力的巨大浪费,更主要的是败坏了学术风气。科学研究有其自身的规律。科学研究成果也有多种展示形式,论文仅仅是其中一种,ESI更只是论文的某个方面。过分强调论文甚至某个论文指标,必然会贬低科学研究成果的其他展示形式,对科研工作形成错误导向。长期下去,国家的科技就要出问题。

从大学层面,将大学从服务国家需求、服务社会发展引导到片面追求某个论文指标的道路上。由于采用各种手段追求ESI指标可以在短时间内起到立竿见影的效果(特别是对于许多原本实力不够强的大学,ESI指标更是提供了一种“弯道超车”的可能),许多大学不再遵循科研规律,而是采取运动式抓ESI指标,营造ESI大干快上的气氛,各种ESI新闻、ESI政策、ESI动态充斥校园,使得科研工作越来越功利化,和大学应有的学术氛围背道而驰,长此下去对于大学科学研究乃至于整个大学功能的破坏作用是巨大的。

从学科层面,将学科建设引入歧路。学科综合实力的提高,是一个漫长而艰难的过程。学科建设也有极其丰富的内涵。用ESI指标衡量学科水平,使人们以为学科建设就是提升ESI指标,这对学科建设起到一个错误的导向作用。采用造假的方式提高ESI指标,则从根本上破坏了学科声誉。

从学者个人层面,诱导了学术不端行为,影响了学者个人声誉。作为学者个体,期望多发表论文、论文被引数多、高被引论文和热点论文多无可非议,也能提高学者个人在学术同行中的影响力,但采取不符合学术规范甚至是学术腐败的手段提高这些指标,违背了科研工作者应有的学术道德;况且,不符合学术规范的引用总是会留下蛛丝马迹,在信息化社会是难以隐形的。做得越多,败露的可能性也越大,因此这实际上是一件风险很大的事情。


4 建议与呼吁

国内追求ESI指标所产生的乱象以及给学术环境带来的弊端,需要引起有关部门的重视和深思。为了扭转当前的乱象,笔者建议与呼吁:

(1)从教育主管部门、地方政府、高校到教师,客观看待ESI等论文评价指标,消除当前部分存在的将ESI和学科水平画等号的错误认识。去伪存真,回归科学,扎扎实实做好学科建设。

(2)落实教育部清理“五唯”文件,建立科学的高校教学科研与人才评价体系。高校科学研究的政策应该着眼于鼓励真正的创新,为创新研究提供良好的环境和氛围。一切的科研评价方法均应围绕这一目标。科研评价是一个高度复杂的过程,不能指望用少数几个数量化指标客观反映。国际上高水平大学所采用的“同行评价”,给我们提供了有益参考。

(3)呼吁教育主管部门、地方政府与高校纠偏由于ESI等指标带来的谬误现象,停止当前高校这场轰轰烈烈的追求ESI指标运动,努力给科技人员营造一个宽松而安静的科研环境。建议主管部门和地方政府将各类官方建设规划、评估、学科遴选等相关文件和办法中单列的ESI指标剔除;建议高校取消各种不符合学术规范的ESI指标激励政策和措施。

(4)呼吁学术界与教育界共同努力,努力营造风清气正的学术氛围;呼吁广大教师和科技工作者追求科学,树立良好学风,进行真正的创新研究,把论文写在中国大地上。

最后,让我们重温一下古德哈特定律(Goodhart’s law[7]):当一项指标变成目标,它将不再是一个好的指标(When a measure becomes a target, it ceases to be a good measure)。


参考文献:

[1] 科睿唯安. Essential Science IndicatorsSM了解科学研究的前沿趋势和引领者[EB/OL]. [2019-02-14]. https://clarivate.com.cn/products/essential-science-indicators/.

[2] 李明禄. 基于ESI浅析两岸三地大学计算机学科[R]. 香港: 第十二届全国高校计算机系主任/院长论坛, 2009.

[3] 吴楠. 计算机科学ESI 评价指标之商榷[J]. 中国计算机学会通讯, 2018(8): 78-80.

[4] 关于做好江苏高校优势学科建设工程一期项目考核验收工作的通知[S].学科发[2014]1号.

[5] 广东省教育厅关于印发《广东省高水平大学建设实施方案》[S]. 粤教科函 [2015] 21号.

[6] 刘芳, 陈芳, 朱沙. ESI学科建设奖励政策调查研究[J]. 高等教育研究学报, 2016, 39(4): 74-81.

[7] Wikipedia. Goodhart’s law[EB/OL]. (2019-02-12)[2019-02-14]. https://en.wikipedia.org/wiki/Goodhart%27s_law.


(完)


更多精彩:

【言十系列】一流计算机学科建设的关键是切实提高师资队伍水平

【言十系列】一流计算机学科必须是一流本科教育

【言十系列】关于我国建设世界一流计算机学科的看法与建议

【言十系列】论新工科建设及计算机与软件工程学科的作用

【言十系列】新工科建设与系统能力培养

【言十系列】新工科与大数据

【言十系列】美国21世纪CPS教育报告简介

【言十系列】美国21世纪CPS教育报告的课程结构设计及启示

【言十系列】美国21世纪CPS教育报告的专业课程规划及启示

【目录】《计算机教育》 2019年第5期

结合CTF竞赛的网络安全课程教学改革

新工科背景下应用型大数据人才培养路径探究

他山之石可以攻玉——中外计算机教育研究文章汇编

计算机水平,美国大学生比中印俄三国厉害的多?

清华大学宣布:不再强制要求博士生在学期间发表论文

新工科计算机通识课的教与学平台及非标准化考试体系

基于MOOC平台打造大学计算机基础国家在线精品课程

从图灵奖看人工智能的历史沉浮

2019 中国高校计算机教育大会征文通知

新工科要求下的地方高校网络工程专业建设思路

【目录】《计算机教育》 2019年第4期

教育部公布新增人工智能等本科专业的高校名单

开源技术——大学计算机专业的一门重要课程

【目录】《计算机教育》 2019年第3期

业内大牛送给计算机方向学生的7个实用建议!

【目录】《计算机教育》 2019年第2期

主编寄语:教育类期刊的初心

【目录】《计算机教育》2019年第1期



    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存