中国这类研究8年暴增40倍,质量堪忧却传遍世界
Meta 分析又被称为“荟萃分析”,是一种统计方法和研究模式。这种方法不需要动手做实验,只要收集相关研究数据,就可以利用一定方法将前人的不同研究进行合并,通过统计手段得出综合结论。
过去的十几年间,这种研究模式开始在中国流行——通过这种方法“加工”出的论文, 8 年内暴增 40 倍,数量之大让人不得不感叹:“全世界都是中国的 Meta 分析...”
图片来源:tctmd.com
来源 公众号“DrWhy”
撰文 谭老师
万物皆可盘——这句话放到医学领域,恐怕就是万物皆可 Meta 分析了。治疗有没有效安不安全可以 Meta,危险因素是不是真的有关可以 Meta,就连一种疾病的成因,都可以 Meta 一下,看看是生活方式还是基因重要[1]。
对 Meta 分析的趋之若鹜,倒也不是什么新闻。当下各种 Meta 分析“学习班”、“速成班”之类的海报满天飞,先不说好不好发文章,毕竟是循证医学金字塔的塔尖,结论肯定有可信度啊。
看看,循证医学金字塔的塔尖上就是Meta分析
但是,就像硬币都有正反面,阳光会投下影子一样,Meta 分析和它的好朋友系统评价,似乎也有点儿高处不胜寒。这种方法本身的缺陷是一回事,但如果被用到了“泛滥成灾”的程度,就是在浪费纸啦。
要是寻根溯源,Meta 分析的理念来源还真不是医学,而是源自数学、天文学这些整天和数据打交道的学科[2],出现在 17 世纪前后的欧洲。那会儿的西方医学刚从蛮荒时代挣扎出来,还称不上现代。
直到 1904 年,英国统计学家 Karl Pearson 才第一次把“将多项关于同一问题的研究数据,进行统计学处理,综合得出结论”,这样全套 Meta 分析的方法用到医学上,分析注射疫苗对英军士兵伤寒肠热病发病情况的影响[3]。
Pearson 在自己的论文中没有说明这么做的原因,也许是他注意到了不同地方的受试者情况存在明显差异,也许是他嫌部分研究的样本量太小不够反映结论,不管怎样,他开辟了医学史的先河。
Karl Pearson 的研究还是很有代表性的,那时的英国还是全球驻军的日不落帝国
Meta 分析这个词真正诞生,要等到几十年之后了。随着二战后科学技术的不断进步,科学家们逐渐意识到汇总科研结果的重要性——就算再业内大牛学术权威,想把自己关注领域的科研动态看全,也是挺难的一件事。
而且几十年前 Pearson 发现的,不同观察性研究中样本、受试者以及随访的差异,又在这种科研浪潮中不断被放大,难道还要对差异巨大的研究,一项一项去验证不成?不可能啊,那就只好把结果汇总到一起得出结论了。
1976 年,美国心理学家 Gene Glass 最早在自己的论文里使用了“ Meta 分析”这个词,来整合各种不同心理治疗的效果:“所谓 Meta 分析,就是对分析的分析,是对多个关于同一问题的研究数据进行整合,得出结论的分析。”[4]
Gene Glass算是因为Meta分析这个词一文成名吧
看这定义,把那句广告词改改就是:“我们不生产数据,我们只是数据的搬运工”……当然,Meta 分析可不是把数据装瓶贴商标就算完,这也是 Gene Glass 将它与试验结果的初步统计、带着问题的二次分析区分的地方。
刚刚出道时,Meta 分析可以说是毁誉参半,有人赞赏它的创新性和实用性,也有人把它喷得一无是处[5],经历了一段时间的发展,Meta 分析的流程和方法才规范起来,然后就是 90 年代初的大爆发——方法对了,量就上去了。
到今天,每天翻期刊看不到 Meta 分析才是稀罕事,它的价值毋庸置疑[6]。不过对于 Meta 分析的批评声近些年不绝于耳,这又是怎么一回事?
经是好的,只是和尚念歪了;方法是好的,只是人们用错了。已经四十多岁的 Meta 分析遭受的这场中年危机,其实也应该算是人祸吧。
2016 年,斯坦福大学的著名学者 John Ioannidis 就对 Meta 分析开炮了。这位教授在业内十分有名,2005 年他的论文《为什么绝大多数被刊登的研究结果是假的》[7],在线阅读量高达 250 万次,堪称科研界的打假网红。
在John Ioannidis看来,从研究基础科学到研究科学家,是他做的最正确的事
这个让同行颤抖的希腊人这次又说了什么呢?很简单,他用 PubMed 数据库做了检索,发现从 1986 年到 2015 年,Meta 分析论文的发表量暴增了 27 倍,而 PubMed 所有的论文量,在这段时间里也只翻了 1.5 倍而已[8]。
差距确实很大,如果只是数量上的飙升,还不是什么大事,然而如果保质不保量呢?Ioannidis 对这些 Meta 分析的分析结论,看论文标题就可见一斑:“被批量生产的多余的、误导人的、自相矛盾的 Meta 分析和系统评价”。
为什么呢?有些原因是不好避免的,比如科学家们为了避免重复,就算发的论文课题相似,也会在内容上做文章。举个例子,把危险因素的筛选标准换一换,列入这个,不列入那个,于是真正有新价值的论文就非常少[9]。
Meta分析和系统评价,都是指数式上升的
但有些 Meta 分析,就是纯粹为发文而发文了。2013 年,Ioannidis 和同事们随机从 PubMed 中挑选了 73 篇 Meta 分析,发现有 49 篇是和已有的 Meta 分析在课题和内容上重复的,而且有些作者竟然不止一次参与了这种“雷同”[10]。
课题重复、内容重复,新的分析没有新的数据,发出来又有什么用呢?拿临床试验来讲,按 Ioannidis 的估计,2014 年综合分析这些临床试验结果的 Meta 分析,竟然比试验本身的论文还多……这已经有些黑色幽默了。
这种 Meta 分析的论文泛滥,还有着利益驱动的影响,越是难有定论的问题,分析结论就越复杂。拿 Ioannidis 在论文中分析的抗抑郁药效果的案例,80% 的 Meta 分析作者都和相关药企有利益关系,这还怎么保证结论独立准确……
完全消除行业影响固然不现实,但行业对研究结论的操纵也不是什么新鲜事
以为这就是全部问题?还早呢,接下来 Ioannidis 的火箭筒轰的目标更明确了。
2014 年,PubMed 数据库里中国学者发表的 Meta 分析有 3000 多篇,占到全球的 1/3,更是美国发文数量的四倍,而 2005 年,中国发表的 Meta 分析还不到美国人的十分之一。
超英赶美,并不一定总是好事儿,这个历史教训放到 Meta 分析上也一样。8 年内数量暴增 40 倍,远远超过了基础科研、临床试验、流行病学数据这些论文的增幅[11],总不能说中国的科研工作者全都一夜间学会了 Meta 分析吧……
这么多 Meta 分析都分析了些啥?Ioannidis 早在 2013 年就注意到了这种暴涨,他发现中国发表的 Meta 分析,大多是基因方面的,但这些分析由于数据来源质量差,往往经不起检验[11]。
中国Meta分析的暴增,可以说是在大水漫灌了……
这还只是发表出来的论文,如果算上那些天知道有多少的,被期刊拒稿的文章呢?Meta 分析先驱者们提出的“通力合作、方法得当”之类的原则,恐怕早就被扔到九霄云外去了。
再说了,还有一条路子叫雇人写稿。Meta 分析嘛,不需要泡实验室也不需要在临床诊疗,综合一下数据就行,所以外包业务也是开展得如火如荼……
所以学界一直有人在大声疾呼,期刊们应该对 Meta 分析设置更高的准入门槛,甚至有激进的提议冻结 Meta 分析[12]……当然这有点儿过头了。高质量的 Meta 分析确实很有价值,顶级期刊上也时不时能见到这样的好文[13-14]。
研究数据本身无罪,但乱用的人有问题
但也许在决定 Meta 一下之前,我们该停下脚步想想:这万物皆可 Meta 的方法,到底是为了崇高的科研探索,还是另有所图呢?
本文经授权转载自公众号“DrWhy”
(ID:DoctorWhy-Geekheal)
参考资料:
1.Major T J, Topless R K, Dalbeth N, et al. Evaluation of the diet wide contribution to serum urate levels: meta-analysis of population based cohorts[J]. BMJ, 2018, 363: k3951.
2.O'rourke K. An historical perspective on meta-analysis: dealing quantitatively with varying study results[J]. Journal of the Royal Society of Medicine, 2007, 100(12): 579-582.
3.Simpson R J S, Pearson K. Report on certain enteric fever inoculation statistics[J]. The British Medical Journal, 1904: 1243-1246.
4.Glass G V. Primary, secondary, and meta-analysis of research[J]. Educational Researcher, 1976, 5(10): 3-8.
5.Glass G V. Meta‐analysis at middle age: a personal history[J]. Research Synthesis Methods, 2015, 6(3): 221-231.
6.Gurevitch J, Koricheva J, Nakagawa S, et al. Meta-analysis and the science of research synthesis[J]. Nature, 2018, 555(7695): 175.
7.Ioannidis J P A. Why most published research findings are false[J]. PLoS Medicine, 2005, 2(8): e124.
8.Ioannidis J P A. The mass production of redundant, misleading, and conflicted systematic reviews and meta‐analyses[J]. The Milbank Quarterly, 2016, 94(3): 485-514.
9.Serghiou S, Patel C J, Tan Y Y, et al. Field-wide meta-analyses of observational associations can map selective availability of risk factors and the impact of model specifications[J]. Journal of Clinical Epidemiology, 2016, 71: 58-67.
10.Siontis K C, Hernandez-Boussard T, Ioannidis J P A. Overlapping meta-analyses on the same topic: survey of published studies[J]. BMJ, 2013, 347: f4501.
11.Ioannidis J P A, Chang C Q, Lam T K, et al. The geometric increase in meta-analyses from China in the genomic era[J]. PloS one, 2013, 8(6): e65602.
12.https://www.medpagetoday.com/blogs/revolutionandrevelation/75045
13.Rothwell P M, Cook N R, Gaziano J M, et al. Effects of aspirin on risks of vascular events and cancer according to bodyweight and dose: analysis of individual patient data from randomised trials[J]. The Lancet, 2018, 392(10145): 387-399.
14.Reynolds A, Mann J, Cummings J, et al. Carbohydrate quality and human health: a series of systematic reviews and meta-analyses[J]. The Lancet, 2019, 393(10170): 434-445.
▽ 精彩回顾 ▽