ChatGPT对医学科研管理的影响
来源：中华医学科研管理杂志, 2023,36(3) 李浩, 张迪, 姜晓颖, 等.
摘要
分析ChatGPT等人工智能技术在医学科研领域的影响，给出合理的建议来发挥ChatGPT对科技创新的推动作用。
阐述ChatGPT背景，分析ChatGPT等新技术与医学科研管理发展的联系及其在医学科研管理中的应用威胁，提出规避其负面影响的建议。
在医学科研管理发展历程中，新技术革新必然推动医学科研管理手段的进化。针对ChatGPT滥用带来的学术剽窃及伦理问题，建议加强ChatGPT的应用监管，并强化科研人员的诚信意识。
ChatGPT作为变革知识生产方式的技术，对医学科研大有裨益，需建立科学的管理机制，发挥新技术的优势并规避其威胁。
2022年10月，美国开放人工智能研究中心OpenAI推出了新的人工智能聊天模型ChatGPT，短短数日便吸引了上亿活动用户，在互联网行业引起轩然大波。ChatGPT是基于自然语言处理技术AIGC(AI Generated Content)实现文本生产、代码生成，具备人类反馈信息学习功能的大规模预训练语言模型。有科研人员使用ChatGPT设计实验、生成代码、撰写论文，甚至进行同行评议，引起了科学界、医学界的广泛关注，针对ChatGPT类的大语言模型和相关人工智能技术也展开了激烈的争论[]。有人认为ChatGPT是人类科技史上的巨大成就，甚至被认为是第四次工业革命的标志，也有人称其为劳动成果的剽窃者和逃避学习的作弊工具。ChatGPT会如何影响医学科研管理呢？会为科研工作者带来什么影响？科研管理工作者又该如何做好充分的准备来迎接ChatGPT的冲击。本文将结合目前ChatGPT的现状，尝试讨论其在医学科研管理中应用的潜力和风险。
1 ChatCPT的发展及医学科研意义
随着深度学习技术的发展，基于深度神经网络的语言模型具备语言规则学习能力，并可根据数据训练自动校正，生成相对合理的文本。最为典型的是OpenAI于2015年启动的名为生成型预训练变换模型(Generative Pre-trained Transformer, GPT)的项目，意在打造具备人类对话逻辑的神经网络语言模型，随后7年内又相继推出了GPT-2、GPT-3，直至推出GPT-3.5，即ChatGPT。
ChatGPT的诞生，是人类历史上又一重大技术性突破，它可以像人类一样高效地理解问答内容，基于问答内容，在海量信息中挖掘出重要的知识点，并以正确的语言逻辑整合成为一篇全新的内容，将极大地推动知识生产方式及学术研究范式的变革，对于包括医疗在内的各种行业都将产生持续而深远的影响[]。
ChatGPT具备智能交互对话功能，能帮助医生实现高效率的资料检索工作，以期为患者实现更加及时、准确的诊疗建议和医疗服务。传统的医疗科研工作者占用大量时间在浩如烟海的数据中检索符合自身研究目的的文献，ChatGPT凭借智能文献爬取和智能文本生成功能可替代该繁琐的过程，将科研工作者从繁杂的资料查阅工作中解放出来，快速获取有效信息，进而转向更具价值的基础及临床研究，最大化提升医疗科研工作者的技术价值。ChatGPT变革性地影响着医学科研工作者的知识获取及生产模式，势必也将对医学科研管理人员在发现医药科学研究工作的人－事－物系统的性质、特点及规律同时进行现代化管理的过程提出新的要求。
2 ChatGPT等新技术与医学科研管理发展历程的联系
ChatGPT作为自然语言处理和大型语言模型技术的最新突破，作为一种时刻进步、快速迭代的新生科技，要准确把握其内涵及本质对医学科研管理工作的深远意义和现实价值，还要结合其与医学科研管理发展历程的联系进行讨论。
20世纪70年代，随着科学技术管理的发展与兴起，卫生部科技局陈海峰率团访问美国国立卫生研究院(NIH)等科研机构，并撰写了考察报告，开始构思我国医学科研管理学科的建设问题。医学科研管理逐步开始进入迅速发展期，20世纪80年代，天津、浙江、福建等省市逐步开始组织医学科研管理学习班、研讨班及经验交流会，越来越多的医疗机构意识到，简单的行政管理、经验管理已无法满足现代医学科学技术的发展需求，必须结合现代管理科学理论逐步提升医学科研管理效能[]。随后中华医学会医学科研管理学分会成立，组织了全国性的地方性培训班，培育了一大批优秀的医学科研管理人员，更是标志着医学科研管理正式迈向正轨。
步入21世纪，随着AI等新技术蓬勃发展，并逐渐应用于医学领域，也为医学科研管理的发展带来新的挑战与认识。科研管理工作者聚焦具体科研领域，利用AI构建自动化、整合多元数据的科研管理知识库，为科技创新提供数据支撑[]。同时，在医学科研管理领域，通过语义分析等技术实现根据项目类型、专家库，为科研项目申请书匹配合适的评审专家，弥补了人工筛选专家存在的潜在风险，提升了评审环节的公平性[]。智能辅助系统也更多应用于科研决策，多维度分析科研的投入与产出数据，为科研管理工作者进一步优化科技资源规划和布局提供客观依据[]。
纵观医学科研管理发展历程，医疗领域技术的革新必然推动医学科研管理手段的进化。医疗领域的发展离不开新技术的加持，换言之，医学领域的发展是技术引领下带来的发展。其中诸如人工智能技术带来的智能诊断，在部分疾病诊断率已达到专业医生水准。虽然人工智能技术在早期诞生时，存在截然不同的声音争辩其应用于医学的合理性，但AI诊断对于边远医疗资源贫瘠地区所带来的社会价值是不言而喻的，因此AI与医学的融合已是大势所趋。每当有AI技术引入医学领域，总会带来公众的讨论及普遍的担忧。但实际上，医学的发展离不开新技术的加持，但新技术的诞生总会引起社会各界的质疑与担忧。ChatGPT的问世不免带来社会新一轮的争论，但就各种AI技术在医学领域的卓越表现来看，ChatGPT难免引入医学领域。因此医学科研管理在此过程中必须提升科学化管理手段，确保ChatGPT等新技术朝向促进医药健康领域蓬勃发展的方向前进。
3 ChatGPT在医学科研中的应用
2022年12月，一篇名为Open Artificial Intelligence Platforms in Nursing Education: Tools for Academic Progress or Abuse？(《护理教育中的开放人工智能平台：学术进步的工具？还是滥用？》)的论文诞生于网络，该论文的第二作者正是ChatGPT，人类与ChatGPT共同撰写论文的诞生引起了社会各界的热烈讨论[]。随后，在2023年1月，国际机器学习会议(The International Conference on Machine Learning, ICML)发表声明，禁止作者使用ChatGPT之类的工具撰写论文，进一步引起了学界关于人工智能生成文本的辩论。
2022年11月份以来，许多科研人员尝试应用ChatGPT协助完成科学研究中的文稿撰写工作。研究人员应用ChatGPT等大语言模型确定研究领域空白，撰写文献综述，起草论文草稿并修缮和完成初稿、进行论文审议甚至协助编辑判断文章是否达到录用标准[]。如计算生物学家Casey Greene等人用ChatGPT来修改论文，仅在5分钟之内完成了论文的审查，并能及时发现如参考文献引用不规范等问题；来自瑞典哥德堡萨尔格伦斯卡大学医院的神经生物学家阿尔米拉·奥斯马诺维奇提出，ChatGPT能够清晰、完整地生成结构清楚的文本，这类语言大模型可以被用来帮学者们撰写经费申请书[]。
就目前来看，ChatGPT辅助科学研究的报道主要集中在研究摘要撰写及文献综述撰写方面，可见ChatGPT具备协助科学研究的潜能，但具体其对科学研究的辅助功能如何，并未得到权威验证[]。
但ChatGPT也并非十全十美，有研究者利用ChatGPT对一篇关于认知行为疗法(CBT)治疗焦虑症是否有效的论文进行总结概述，它给出的回答就存在很多事实性错误。比如它说这项评估是基于46项研究，但实际上是69项，而且夸大了CBT的有效性[]。有学者试图创建一个适合学术期刊的医疗保健方面的文献综述，却发现其内容类似于复制粘贴，虽然最终生成的综述结构丰满，但内容平淡，并不具备学术价值[]。
4 ChatGPT对医学科研管理潜在的危险和威胁
医学科研管理工作中重要一环就是学术诚信和伦理问题，其存在的威胁主要包括以下几个方面。
4.1 抄袭问题ChatGPT在进行问题回答时候，会基于大语言模型的训练语料库进行文献或者权威人士观点的借鉴，语料库是否均为公开可访问信息并未可知，因此应用人工智能生成文本是很可能涉及学术诚信问题。尤其在论文、申请书撰写方面，其文章的可靠性和原创性更是存在质疑，如观点剽窃等问题，且会对医学科研工作者的学术道德带来不良后果，甚至涉及知识产权问题，造成侵权，引起法律纠纷。因此，医学科研人员在应用ChatGPT进行科学研究时必须加强内容审理，秉承尊重学术价值和秉持学术诚信的原则，遵循科学研究规范。
4.2 难以辨别信息真伪ChatGPT作为人工智能，具备模拟人脑进行语言组织和思维的能力，很多时候给用户反馈"似是而非"、甚至错误的答案，但内容本身蕴含大量知识背景，科研人员难以及时发现问题，造成误导科研人员得出错误信息的后果，导致学术研究结果的严重错误。甚至在医学知识论坛进行错误信息评论，淹没大量优质回答，破坏论坛内医学信息普及效率，从而损害大众利益。
4.3 私人信息泄露等伦理问题ChatGPT高品质回答来源于用户输入信息的全面性。例如医学科研工作者为了获取某类研究信息，在与机器人聊天过程中引用了某位患者的真实信息，便会导致个人隐私的泄露，该信息甚至会被机器人记录用于商业行为。ChatGPT本身在进行训练时，接触了大量人类语言信息，本身已存在造成用户隐私泄露和数据未经授权被滥用等问题的发生。ChatGPT与移动设备语音助手互联，容易窃听自然环境中人物对话信息，易捕捉到隐私甚至涉密信息。ChatGPT在满足日益增长的医学科研需求进行信息获取和相关学习过程中涉及的伦理问题愈发严重。
4.4 恶意使用带来的违法行为ChatGPT能出色完成与人类之间的对话过程，但本身缺乏主观判断能力及是非观念，因此，极易被不法分子利用传播虚假、带有种族歧视及带有政治性错误的言论。如生成钓鱼网站网址，甚至电话诈骗信息等，鉴于ChatGPT生成的内容具备条理性，更容易给潜在受害者带来迷惑。其潜在危害源于OpenAI并未将模型代码进行开源，模型基本黑箱，公众难以从技术角度对其负面影响进行限制。
4.5 意识形态及价值导向问题ChatGPT输出内容会受到其训练语料库的影响，若语料库本身存在大量极端思想、种族歧视等内容，必然导致ChatGPT输出内容带有倾向性的种族歧视和政治偏见。ChatGPT进行文献综述等内容撰写时，若本身收集信息带有一定选择性，极易导致信息不全面，仅片面反映某一类人物观点，忽视了真实情况下普遍人研究的情况的总结，极易导致研究结果的偏颇。
5 如何通过医学科研管理应对ChatGPT潜在的负面影响
国际顶级期刊Nature、Science已经明令禁止接收ChatGPT等人工智能作为作者撰写的文章，但在Web of Science已收录以ChatGPT进行署名的文章[]。人工智能并不是自然人、法人或是非法人组织，作为作者进行署名与现存的著作权法相悖。因此在医学科研管理中必须采取有效管理手段规避这种剥夺了人作为成果创造者主体的情况。笔者建议通过以下方法解决ChatGPT的负面影响。
5.1 坚持辅助为导向，加强人员审查机制ChatGPT作为人工智能，其回答内容来源于已有的知识和数据，难以与医学领域专家研究深度相匹配，因此基于专家视角，ChatGPT生成内容的研究价值还有待商榷。且医学科学具备复杂性，研究往往需要经过基础研究、临床验证等过程达到令人信服的结果。而ChatGPT即使通过学习产生创新性知识，其知识往往并未经过这些过程的探究，甚至仅来源于毫不相关内容的拼接，也导致其内容的不可信。因此医学科研人员在研究中应用ChatGPT时必须以辅助为主，慎重应用其进行科研探索。同时科研管理人员也必须强化监督管理职能，注重发挥人的理性思维优势，对于知识逻辑混乱，可能存在由ChatGPT等人工智能生成性内容，要及时警示科研人员，及时止损。
5.2 制定ChatGPT相关管理准则一些学校及科研机构已开始制定AI技术的管理准则，确保科研人员规范应用ChatGPT。医学科研管理也应建立管理准则，制定相应的规范和明确使用者责任，加强医学科研人员使用ChatGPT等相关技术的学术道德和科研诚信，营造风清气正的学术氛围。另外还需建立应用ChatGPT等相关技术进行学术研究的备案机制，即使用ChatGPT生成的相关内容若要应用于论文撰写、项目申报等科研过程，必须提前向科研管理人员进行备案。对于拒绝备案，后续被查出使用ChatGPT生成内容进行项目申报及论文撰写的，按学术不端进行处理，给予相应惩处措施。
5.3 推进监控AI技术的应用为了确保ChatGPT等技术不被滥用，已有众多专门用于监测文本是否由人工智能生成的检测软件，OpenAI本身也发布了相应的检测工具，协助管理部门防止该技术被科研人员滥用。科技处等科研管理部门有必要推进专业检测工具的应用，并建立相关管理机制，要求科研人员在提交重要科研材料时附带AI技术应用检测结果，杜绝应用ChatGPT等技术造成抄袭等学术不端情况的发生。
5.4 加强科研人员教育科技处主动学习ChatGPT相关知识，邀请相关领域专家，定期组织ChatGPT等技术学习培训班。一方面科普ChatGPT，另一方面针对性向科研人员阐释应用ChatGPT等技术的利与弊，并结合知识产权法、科研诚信等对科研人员进行教育，让科研人员认识到学术诚信的重要性及滥用ChatGPT等技术进行学术剽窃所导致的严重后果。
6 结语
ChatGPT作为变革知识生产方式的新技术，是科技史上一次伟大的突破，将传统的医学科研综述撰写等工作从手动推向自动化，甚至智能化。这种变革带来了包括学术剽窃、伦理等潜在风险，对传统医学科研管理产生了重大影响，需通过建立科学的管理机制，在弹性应用该技术推进医学科技创新的同时，又将其潜在威胁将至最低。未来人工智能技术仍会迅猛发展，仍需科研管理体制的不断迭代完善来应对医学科技发展需求。
点击阅读原文，进入书籍宝库，用完记得收藏哦，下次更方便。