生物技术与人工智能融合产生新兴生物安全风险
近年来，基因组和蛋白质组学等生物数据量呈指数级增长。人工智能在数据存储、管理、整合和分析等方面的出色表现使生物科技领域对其的需求激增，推动生物领域数字化、智能化转型。然而，生物技术与人工智能的深度融合给予无生物学专业背景的群体获取相关专业知识的机会，导致生物滥用的可能性大幅增长，人工智能生物技术正在加速冲出安全界限。新型生物/化学武器应运而生，或变革传统生物威胁形态及未来战争概念，引发更难预测、危害性更大的全球性生物灾难。
一、人工智能与生物技术融合的潜在生物安全风险
从预测蛋白质3D结构、破译分子数据、解读医学图像到探索并理解生命系统和生态系统，人工智能正在颠覆生命科学和生物工程研究、促进生物医学发现，开启数字生物学新时代。人工智能与生物技术不断融合、演进，加快技术创新，为人类健康带来诸多突破性贡献，如预测蛋白质结构、加快新药研发进程、提供更精确的医疗诊断、开发更个性化的治疗方案等，推动生物制药、医疗保健、农业生产、工业制造、新材料等领域的创新发展。
人工智能与生物科学融合的应用领域示例（图源：CRS.org）
然而，交叉技术在发展过程中产生新的风险，特别是在生物恐怖主义和生物武器方面。《美国情报界2023年年度威胁评估》指出，人工智能生物技术的发展及应用速度远超制定规范、保护隐私和防止危险后果的速度。
（一）人工智能放大生物技术的两用风险
人工智能与生物技术均属两用技术，易陷入“两用困境”（Dual-use Dilemma），人工智能辅助下的生物恐怖主义甚至能够造成比核武器更大的危害。一方面，人工智能降低挖掘隐性知识的难度。隐性知识在很大程度上起到屏障作用，而人工智能根据智能语义理解将隐性知识显性化，弥合知识差距，从而增加生物武器研发方面的知识和技能，使更严峻生物安全风险的发生率激增。另一方面，全面的国际和国内两用研究法规严重欠缺。不同于核武器相关核材料和放射性材料受到严格监管，发动生物攻击所需的生物物质或制剂难以区分其是用于和平目的还是军事目的方面，因而更容易获取。尤其当前人工智能极大提升生物技术的智能化和可及性，使合成危险DNA或其他致命生物制剂的时间和成本大幅降低，更易吸引恶意行为者探索生物技术的武器化，或产生危害性更大且无法控制的新型生化武器，引发新的生物安全风险，进而带来全球性生物灾难。
（二）人工智能与生物技术的结合引发网络生物安全风险
人工智能与生物技术的联动使数字化生物信息成为网络攻击的新目标，对生物安全构成威胁。第一，人类基因组研究对人工智能、深度学习等技术的依赖日益加深。随着数字互联在生命科学领域的渗透，以及身联网设备的迅速发展和逐步普及，对生物医学、生物工程以及生物安全领域至关重要的生物信息、数据和算法模型成为网络攻击的新目标，恶意行为者或将其作为“人质”，操纵数据干扰公共卫生和生物安全系统或煽动恐惧情绪。第二，从合成脊髓灰质炎和天花、马痘病毒到新冠病毒变异株，危险病原体基因组序列的公开发表越来越普遍，意在助力全球范围内的科研人员监测和追踪病原体传播链、提早检测新出现的传染病以及提前开发有针对性的疫苗和其他医疗策略并进行重点部署。与此同时，这种数字化的生物信息给予生物恐怖主义或恶意行为者可乘之机。其可通过人工智能生物技术加强病原体的生存能力、毒性和耐药性，以增加病原体对人体的危害性，进而威胁某一种族或国家的公民健康。
二、人工智能模型的生物滥用或拓展生物武器可及性与杀伤力
目前人工智能系统的生物安全风险主要源于两类人工智能模型：一类是与ChatGPT类似的大型语言模型（LLM），另一类是与AlphaFold类似的生物设计工具（BDT）。
（一）大型语言模型增加生物武器可及性，削弱生物滥用的限制
大型语言模型是一种生成式人工智能，通过使用深度学习技术和海量数据集理解、总结、生成和预测文本，可提供科学信息、访问相关的在线资源和工具以及指导研究。大型语言模型增加现有知识和能力的可及性，从而降低生物滥用的门槛，有潜力协助科学家开发与美国疾控中心规定的A类生物制剂规模相当的新兴威胁，同时还可减少生物试剂/设备采购和实验室技能等相关障碍，助力非科学家或无生物学背景者设计生物武器。
一方面，大型语言模型能够快速识别并筛选有害分子。2022年3月，瑞士施皮茨实验室、美国AI制药公司Collaborations Pharmaceuticals和英国伦敦国王学院在实验中利用人工智能系统MegaSyn检测、保留有毒分子并将其有机结合，仅用6小时就模拟出4万种不同组合，可形成4万种生化武器，有些分子组合的毒性甚至超过臭名昭著的神经毒剂VX。然而，MegaSyn系统其实是人工智能药物发现平台，旨在寻找新的人类疾病靶点，开发治疗罕见病的药物和抑制剂。这项研究证实，机器学习模型具有将无害的药物发现工具转化为致命分子生成器的潜力，存在产生新型有毒化学品蓝图的风险。
另一方面，大型语言模型有助于确定生物武器开发的具体途径。2023年6月，美国麻省理工学院生物安全专家进行了一项测试，要求没有相关生物学背景的学生在ChatGPT或其他大型语言模型的帮助下创造一种危险病毒。仅一小时，聊天机器人就提供了四种潜在的大流行病原体，解释了使用反向遗传学从合成DNA中生成这些病原体的方式，还给出一些通常不筛选客户和订单内容就提供合成DNA的公司。美国兰德公司的研究人员也在测试中发现，大型语言模型能够评估引发天花、炭疽和瘟疫的制剂导致大规模死亡的几率；获取受瘟疫感染的啮齿动物或跳蚤及对其进行活体运输的可能性；甚至能够提供隐瞒购买炭疽、天花和瘟疫细菌真实目的的相关建议。
（二）生物设计工具提升生物武器杀伤力上限，扩大具有专业知识储备科学家的能力
生物设计工具经过DNA序列或蛋白质结构等生物数据训练，能够帮助设计新的蛋白质或其他生物制剂，是为了协助探索生物分子特性、完成生物工程任务而创造的，其输出内容是生物序列而非自然语言，较大型语言模型而言有更具体的用途。
第一，生物设计工具增加生物滥用可能造成的伤害性。人工智能能够轻松优化传播性、毒力和免疫逃避等病原体特性。曾有科学家假设，自然出现的病原体因自身进化限制原因，需在毒力和传播性之间进行权衡，而生物设计工具制造或加工过的病原体不存在或能克服这种限制，并使两种特性均得到优化和提升，产生更危险的病原体，或将流行病/大流行病从现在的灾难性风险转变为真正的生存威胁。
第二，生物设计工具增加对恶意行为者或国家行为体的吸引力。传统生物武器可能在打击目标的时候误伤自己和友军，而生物设计工具能够创建针对特定地区或种族的生物制剂，以实现精准、定向打击。人工智能提高生物制造效率，提升具有专业生物知识储备的研究人员的能力，使生物武器更有针对性。
第三，生物设计工具或超越现有危险病原体管制措施的范围。目前防止非法获取毒素和病原体基本依靠危险生物清单筛查已知的危险基因序列，而生物设计工具可通过重新编码生成具有相似功能的替代性新型制剂，这些制剂将不属于现有的分类类别或不包含可被识别的已知基因序列。因此，在人工智能驱动的生物设计时代，控制危险制剂的传统保护措施或失效，将无法阻止有害生物制剂的使用。
近年来，人工智能在蛋白质组学领域的应用加速扩展，使蛋白质设计工具更先进、更多样化。AlphaFold和RoseTTAFold等深度学习系统根据蛋白质氨基酸序列预测人类未知的蛋白质结构，有助于了解酶活性等生物过程，助力药物开发和迭代；ProtGPT2和ProGen等人工智能模型允许研究人员从头生成蛋白质，并能在极短时间内生成大自然花费数百万年才设计出的蛋白质序列。但是，一旦蛋白质组学、蛋白质工程等被生物恐怖主义滥用，可能导致细菌毒素的规模化生产，从而产生更具攻击性、更难防范的生物战剂，极大威胁人类安全。
三、人工智能生物技术的风险治理迫在眉睫
随着生物交叉技术的升级、迭代，人工智能诱发生物安全风险的概率大幅提升，近期多名人工智能领域的从业人员对此发出警告。OpenAI首席执行官萨姆·奥特曼（Sam Altman）将“可以设计新型生物病原体的系统”视为人工智能的“可怕之处”；谷歌前首席执行官、国家人工智能安全委员会联合主席埃里克·施密特（Eric Schmidt）表示，人工智能极大扩展病毒数据库，帮助产生新的化学物质或病毒，可能带来“生物冲突”；专注提高人工智能系统安全性的人工智能公司Anthropic的首席执行官达里奥·阿莫迪（Dario Amodei）称，人工智能系统可在未来2-3年内帮助制造生物武器；加拿大人工智能先驱约书亚·本吉奥（Yoshua Bengio）提出，应尽快制定国际通用的人工智能监管法，避免恶意行为者在超出监管范围的国家滥用技术、发动生物攻击，届时将威胁全球安全。
人工智能生物安全风险显然已经成为当前最紧迫的世界性问题之一，引发各国政府、智库及国际组织的高度关注和警惕。美英均将“生物安全”归为人工智能安全风险之一，敦促政府机构制定新的战略规划，推进人工智能生物安全风险治理与防范。政府层面，2023年6月，英国政府在新的《生物安全战略》（NBSS）中提出建立新的国家生物监测网络，承诺每年为生物威胁雷达（bioradar）投资15亿英镑，用于提供已知和新兴生物威胁的全面信息。随后，英政府在8月发布的《人工智能监管的创新方法》中提出建立中央风险职能部门，识别、评估、优先考虑和监测可能需要政府干预的人工智能交叉风险，包括“高影响但低概率”风险，如人工智能生物安全风险等。2023年10月30日，拜登签署“关于人工智能安全、可靠和可信的行政令”，要求明确人工智能对生物安全风险的影响，研究减少病原体和组学研究相关数据及数据集影响国家安全风险的方式，并指示卫生和公众服务部（HHS）成立人工智能工作组并制定规范药物开发过程中人工智能技术及工具使用的相关计划。立法层面，美国会推出多项法案，要求评估人工智能生物安全风险并制定应对战略。一项是《人工智能和生物安全风险评估法案》，要求战略准备和响应管理局（ASPR）评估开源人工智能模型和大型语言模型开发新型病原体、病毒及生化武器的风险。另一项是《公共卫生准备和应对人工智能威胁战略法案》，要求卫生与公众服务部（HHS）制定应对人工智能驱动的生物威胁造成公共卫生紧急事件的战略。智库及研究机构层面，美国降低核威胁倡议组织（NTI）提出建立“国际人工智能生物论坛”，美国工程生物学研究联盟（EBRC）也在《工程生物学和人工智能交叉的安全考虑》白皮书中阐述了此类论坛的重要性，强调加强国际合作，根据生物风险的发展进程制定最佳安全措施，同时监测以往战略政策的适用性。此外，美国兰德公司研究人员正在测试并建立针对人工智能驱动大规模生物攻击的风险评估框架，强调以经验为导向的定期评估对于识别和降低风险的重要性。
四、结语
参考文献：
[1] Can’t quite develop that dangerous pathogen? AI may soon be able to help [EB/OL]. https://thebulletin.org/2023/11/cant-quite-develop-that-dangerous-pathogen-ai-may-soon-be-able-to-help/
[2] Why AI for biological design should be regulated differently than chatbots [EB/OL]. https://thebulletin.org/2023/09/why-ai-for-biological-design-should-be-regulated-differently-than-chatbots/
[3]Artificial intelligence and biological misuse: Differentiating risks of language models and biological design tools [EB/OL]. https://arxiv.org/abs/2306.13952
[4] President Biden’s new plan to regulate AI [EB/OL]. https://www.vox.com/technology/2023/10/31/23939157/biden-ai-executive-order
[5] 杨辉,陈高云等.现代生物技术对生物武器的影响[J].生物医学,2022(12)
[6] Security Considerations at the Intersection of Engineering Biology and Artificial Intelligence [EB/OL]. https://ebrc.org/security-engineering-biology-artificial-intelligence/
[7] Bio X AI: Policy Recommendations For A New Frontier [EB/OL]. https://fas.org/publication/bio-x-ai-policy-recommendations/
[8] Catastrophic Risks from AI 2: Malicious Use [EB/OL]. https://www.lesswrong.com/posts/MtDmnSpPHDvLr7CdM/catastrophic-risks-from-ai-2-malicious-use#Story__Bioterrorism
[9] Preparedness [EB/OL]. https://openai.com/safety/preparedness
[10] Assessing the Risks Posed by the Convergence of Artificial Intelligence and Biotechnology [EB/OL].https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7310294/#B14
作者简介
张芮晴 国务院发展研究中心国际技术经济研究所研究三室
研究方向：生物领域形势跟踪及关键核心技术、前沿技术研究
联系方式：zhangrq98@163.com
推荐阅读
编辑丨郑实
研究所简介
国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。
地址：北京市海淀区小南庄20号楼A座
电话：010-82635522
微信：iite_er