谷歌，让医疗AI发展倒退10年

器械之家

医疗器械媒体报道先锋

分享专业医疗器械知识

关注

日前，美国互联网科技巨头谷歌被爆出一则重磅丑闻——谷歌在21个州秘密收集了数百万份患者病历，这项工作被称为“夜莺计划”(Project Nightingale)，这一计划在医生与患者毫不知情的前提下展开，因此在美国社会各界引起了一场关于个人隐私保护的轩然大波。

据《华尔街日报》消息，“夜莺计划”收集的数据包括“实验室结果、医生诊断和住院记录等，并包括完整的健康历史，以及患者姓名和出生日期”，而且谷歌可能有多达150名员工可以访问这些数据。这一消息被《纽约时报》证实，“夜莺计划”收集的数据用于人工智软件的设计，利用人工智能来定制个人患者的医疗服务。

谷歌的一小步，AI倒退的一大步

事件爆出后，谷歌立即遭到了媒体和政客的带头攻击，而谷歌则马上展开危机公关，谷歌健康业务主管大卫·费恩伯格公开否认了谷歌使用患者数据进行人工智能软件的研究。但这显然不能打消外界对谷歌在患者隐私保护方面的怀疑。

事实上，这已经不是谷歌公司首次陷入类似的丑闻，2017年谷歌与芝加哥大学医学中心合作开发具有准确预测患者是否住院，入院时间及病情是否恶化等功能的AI系统时，就曾被指控不正当访问数十万份医疗记录。

而更让民众担忧的是谷歌高层对患者隐私保护方面的态度向来十分强硬。早在2014年，谷歌联合创始人拉里·佩奇就在一次采访中表示：“人们没有真正去思考，以正确的方式和正确的人共享医疗信息可能带来的巨大好处。”这样的态度难免会令崇尚隐私保护的美国民众极其缺乏安全感，而一旦“夜莺计划”被查明属实，势必会给AI技术发展的反对派送上一份“大礼”，美国乃至世界的AI医疗产业发展进程都有可能受到波及。

绕不开的伦理问题

近年，AI技术已经用围棋，星际和各种成就证明过自己时代风口的地位，可在医疗领域，AI技术始终饱受争议，争议主要来源于其在社会、算法、个人数据保护、医学伦理等方面的风险性。

首先，医疗AI 伦理的标准化工作仍处于起步阶段，行业内尚未对医疗AI 的内涵、应用模式等达成共识，行业竞争可能造成AI 技术在医疗领域中的滥用；其次，深度学习算法可能存在泄漏、参数被非预期修改等风险。

谷歌“夜莺计划”涉及的则是医学AI与普通AI区别最大的一点——个人数据保护。以“深度学习+ 大数据”为框架的医学AI系统需要大量数据来训练、学习算法，而目前主流的医学AI系统多是智能辅助诊断产品，它们需要大量的医学影像数据来训练，信息使用者在获取相应数据时，必须抹去患者个人敏感信息，只保留相关的医学信息。关于敏感信息的定义、识别和处理，目前国内尚无明确的标准，主要依赖于企业自觉。

因此，国内外主要的AI 伦理共识——“阿西洛马人工智能原则”（Asilomar AI Principles，阿西莫夫机器人学三定律的扩展版本，可被理解为：AI 不能单纯地为了利益而创造，而应在确保人类不被替代的前提下，为通过自动化实现人类繁荣而创造。保持一种尊重隐私但开放、合作的AI 研究文化也是需要考虑的问题之一，需确保研究人员和政策制定者在交换信息的同时，不会用危害人类的手段与对手竞争）所约束的并非AI本身，而是使用AI的人。

初闻不识局中意，再闻已是局中人

因为一些历史遗留问题，我国在高精尖科技领域发展起步较发达国家有一定的延后，而AI是一个新兴领域，在这个领域中，世界范围内有能力入局的国家起点是相同的，因此国家十分重视AI产业的发展，甚至已经将AI上升为基本国策。

2017 年7 月，国务院印发《新一代人工智能发展规划》，在“战略目标”部分对法律政策体系建设提出三步走的要求：第一步，到2020 年，部分领域的人工智能伦理规范和政策法规初步建立；第二步，到2025 年，初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力；第三步，到2030 年，建成更加完善的人工智能法律法规、伦理规范和政策体系。

在医疗领域，政策更是对医学AI产品大开绿灯，扶植倾向明显（如《创新医疗器械特别审查程序》，可加速成熟的医学AI产品落地），可大洋彼岸的“夜莺计划”事件爆发，显然给我国提供了一个反面的参照标准，而我国对高新技术的审核特别喜欢吸取西方国家的经验...

虽然现在我们还看不到这一时间是不是真的有可能对国内医学AI的发展走向产生影响，但编者认为医学AI的特殊性和该领域的各种风险是客观存在的，谷歌的“瓜”与我们中间隔着太平洋，我们当然吃的津津有味，可要是把谷歌的名字换成国内的互联网巨头呢？国内的舆论导向是否也会被“AI危机论”淹没？那样的话，国家政策是否还会顶着舆论压力向AI产业倾斜？由衷地希望我国的医学AI企业能够恪守“阿西洛马人工智能原则”，铭记谷歌大佬为我们树立的前车之鉴。

相关阅读戳一下，更有料！
国内唯一冠脉AI进入三类证创新通道，规模化商业落地破晓

AI下基层，走出第一步

《中国医学影像AI白皮书》发布：应用领域广泛，五大挑战待解