智能时代的德育 ｜ 李伦：加强科技伦理的理论研究——科技伦理研究的四个面相

接到会议邀请后，我最开始报的题目是“智能时代的新美德”。鉴于十天前，2022年3月20日中共中央办公厅、国务院办公厅印发了《加强科技伦理治理的意见》，我觉得还是应该讲讲我一直在做的科技伦理这个领域，于是改了题目。当然，我仍然认为“智能时代的新美德”是非常值得谈的。刚刚前面几个专家也都谈到这个话题，我深受启发，也深有同感。随着时代的变迁，未来美德的德目是否会发生变化？数字新基建、新人工自然逐渐形成，人生活其中的环境将发生彻底变化，以往的美德会不会消失？或者是否以其他的面貌出现？是否会出现新的德目？比如说，人的体力、智力都可以外化、外包，机器智能又可以内化于人。倘若安个芯片或者通过人类认知增强，人变得聪明了，那么刻苦努力、勤劳的美德还需不需要？又比如说，随着监控资本主义的出现，摄像头、人脸识别无处不在，那么慎独的美德是否还存在？因此，我觉得这是个非常重要的话题。

我今天改成了科技伦理的话题，因为我觉得科技伦理教育也是未来德育的重要内容。事实上，刚才提到的两办印发的《意见》就明确要求加强科技伦理的治理、研究和教育。国家之所以如此重视科技伦理治理，与科技存在巨大伦理风险密切相关，而这些风险已经成为国家科技创新驱动发展战略的障碍。比方说，互联网、大数据、人工智能、合成生物学、人类增强等客体技术和主体技术的汇聚，正在改变人、自然、机器及其相互关系，正在彻底改变人类行为的性质，使人类获得了前所未有的力量，触及到了人类所珍视的自然、生命、尊严、隐私、安全、自由、和平、幸福等价值。稍有不慎的话，这些技术就可能造成不可逆转的不良后果，甚至会影响人类的繁衍和可持续发展。这就意味着科技伦理不仅关乎科技本身的发展，而且与人类的未来休戚相关。因此，当下关于科技伦理的讨论不再局限于学界，已经成为全社会关注的焦点，甚至出现了所谓的“科技伦理热”。关于科技伦理，政府在管，科技专家在谈，管理学家、社会学家、法学家在研究，出现了空前的“科技伦理研究繁荣景象”。当然也有人疑惑，这是不是意味着科技伦理研究没有门槛、缺乏专业性？伦理学家是否感觉自己的学术领地被蚕食了？这种情况在别的学科好像不是特别常见。我们该如何看待这种现象？科技伦理研究是否应该是这种状况？伦理学家在科学伦理研究中应当起怎样的作用？

我今天不打算直面科学伦理教育，而是围绕科技伦理教育中的“科技伦理”这四个字展开。在这里，我打算挪用美国生命伦理学家阿尔伯特·琼森在给生命伦理学定性时提出的一个分析框架。他认为生命伦理学一半是学科，一半是公共话语。我将这个框架稍作改动，变成我今天用来分析科技伦理研究何以出现上述繁荣景象的一个框架。在这个框架之中，科技伦理学呈现出四个面相，或者叫四种面貌或形态。更准确地讲，我今天报告的题目是“科技伦理研究的四个面相”。就科技伦理研究而言，四个面相就是：第一是作为伦理学学科，第二是作为多学科研究领域，第三是作为公共话语，第四是作为社会文化运动。

第一，科技伦理学作为一个伦理学学科，应该有自己的理论、原则和方法。例如，汉斯·尤纳斯的责任伦理学，荷兰学派的道德物化理论，等等。生命伦理学中的原则主义、决疑论、美德论，等等。这显然是哲学家、伦理学家的学术领域和研究使命。这样一种研究显然是以理论为导向的，它的任务就是要提出理论、原则和方法，这也是作为伦理学家身份认同的一个根基所在。

在历史上，科技伦理学的兴起与伦理学研究范式和理论旨趣的转变是直接相关的。20世纪上半叶是元伦理学的鼎盛时期，伦理学关注道德的概念分析。20世纪50年代之后，世界面临那个时候的百年未有之大变局，于是伦理学开始转向关注社会实践生活，导致了规范伦理学的复兴，并催生了以科技伦理学为代表的应用伦理学的兴起。这可以说是科技伦理学兴起的学术背景和社会背景，它既体现了科技伦理学的理论导向，也体现了科技伦理学的实践导向。

美国著名伦理学家、生命伦理学家、科学哲学家图尔敏曾经发表过一篇论文，题目叫做“医学何以拯救伦理学的生命”。他指出，20世纪前60年，伦理学由于沉醉于坐而论道，走到了穷途末路。而医学中的堕胎、脑死亡、人工辅助生殖技术等，给伦理学提出了许很多亟待解决的难题，从而刺激了伦理学研究范式的转变，使伦理学从“扶手椅伦理学”变成了“病床边伦理学”“实践伦理学”。“扶手椅伦理学”就是坐在带扶手的椅子上坐而论道。于是，医学激活了死气沉沉的伦理学。也就是在这个意义上，图尔敏说医学拯救了伦理学的生命。进入21世纪后，人工智能和大数据的伦理风险也引起了全球的广泛关注，再一次挑动了伦理学的神经，促成了科技伦理研究热。如果说20世纪60年代，医学拯救了伦理学的生命，那么我们可以说21世纪人工智能造就了伦理学的高光时刻。

第二，科技伦理作为一个多学科研究领域，来自自然科学、生物医学、工程技术和人文社会科学的专家，从各自学科的视角，从多学科交叉的视角切入科技伦理问题。事实上，对科技伦理问题的关注始于法庭和科学共同体。二战结束后，纽伦堡国际军事法庭对纳粹人体实验的罪行进行审判，并于1947年提出了十条规范人体实验的伦理原则，即《纽伦堡法典》。这是历史上第一部涉及人类受试者研究的伦理准则。到了上世纪50年代，“罗素－爱因斯坦宣言”的发表促成了帕格沃什运动，倡导科学家的社会责任，维护核能的和平使用。生命医学伦理问题，先是神学家、医生探讨，后来是哲学家、伦理学家，再后来又吸引了法学家和社会学家，等等，从而形成了科技伦理作为多学科研究领域的这样一个面相。因此，如果说作为伦理学学科的科技伦理学是以理论为导向的，那么作为多学科研究领域的科技伦理学则是以问题和后果为导向的。不论学科视角是什么，能够解决问题就可以，几乎所有的学科专业的人都可以参与到科技伦理的探讨之中。但是，这并非表明科学伦理研究没有门槛，它的门槛就是各自学科的专业水准。因此，科技伦理的多学科研究是正常的，是专业的，也是非常必要的。

第三，科技伦理学作为一个公共话语，从医患关系对话，研究者-受试者对话，到课堂讨论、听证会、法庭辩论、伦理委员会审查、社群的交流，再到媒体的传播和曝光，促成了科技伦理成为一种公共话语。在历史上，在希波克拉底传统或父爱主义、家长主义的传统中，医生和患者是不对话的，医生占主导地位，病人处于被动状态。之后有了自由主义的影响，有了知情同意的概念，出现了尊重自主的医患模式，医患才有了对话。伦理委员会由多学科的专业人士和非专业人士组成，这表明伦理委员会是一个对话和决策的平台。而媒体对科技伦理丑闻的曝光，更是为大众甚至学界讨论科技伦理问题设置了议程，也使科技伦理问题成为大街小巷、自媒体、社交媒体的话题。实际上，这也表明科技伦理作为公共话语是民主时代的产物，具有民主的特征。

第四，科技伦理作为一场社会文化运动，是以重大案例的曝光为引线，通过权利运动等方式，使科技伦理成为大众意识和国家意志，形成了关注科技伦理的社会文化氛围。事实上，科技伦理的兴起与20世纪六七十年代的权利运动不无关系。在争取种族平等、性别平等等权利运动的浪潮中，也出现了呼吁保护病人权利、受试者权利和动物权利的运动，这些运动对科技伦理的兴起起到了推波助澜的作用，成了科技伦理兴起的社会文化背景。科技伦理文化运动本身也成了社会文化运动的一部分，这也表明在社会文化运动这个意义上，科技伦理学是基于权利的伦理学。

从历史上看，始于上个世纪30年代、持续四十多年的美国阿拉巴马州的“塔斯基吉梅毒实验”丑闻，于1972年被媒体曝光，引起了美国朝野的震动。这个案例的善后开启了设立国家层面伦理委员会和伦理审查委员会制度的先河，使科技伦理管理上升为国家政策。后来，这些制度被世界各国所效仿。对我们国家而言，2018年11月爆出的贺建奎基因编辑婴儿的案件，掀起了全民关注科技伦理问题的热潮，激起了中国科技伦理研究热，并引起了国家对科技伦理治理前所未有的重视。2019年7月24日，中央深改委审议通过国家科技伦理委员会组建方案，到十天前两办印发《加强科技伦理治理的意见》，应该说我国已经初步完成了科技伦理治理的顶层设计。可以说，贺建奎基因编辑婴儿案，伴随权利意识和新媒体的崛起，演变成了我国历史上一场极为罕见的科技伦理社会文化运动。它的影响之大，出乎意料。这个案件的影响绝不亚于美国“塔斯基吉梅毒实验”。在我们国家，另外一个可以与之相提并论的案例也许是1986年发生在陕西汉中的安乐死案。

以上我们谈到了科技伦理研究的四个面相及其学术背景、社会文化背景，表明科技伦理学具有问题导向、后果导向、理论导向、实践导向、民主导向、权利导向的特征。这其实也是我们想通过科技伦理的四个面相，来窥视科技伦理学的例子。有了这四个面相的分析框架，我们可以尝试对科学伦理研究的现状做一个简单的评述。应该说科技伦理作为多学科研究领域、作为公共话语、作为社会文化运动，已经取得了重要进展，促成了真正的科技伦理热。全社会都非常关注科技伦理，科技伦理成为大众的意识和国家的政策，科技肯定能够更加规范地发展，造福人类。

相比较而言的话，作为伦理学学科的科技伦理研究，应该说还存在巨大的发展空间，甚至可以说还处在初级发展阶段。尽管我们已经有了很多类型的科技伦理学理论，但是似乎还未形成非常成熟的科技伦理的学科范式和理论体系。

要加强科技伦理的治理，显然不能仅凭经验，还需要理论的指引。科技伦理治理的前提性和基础性工作，就是要加强科技伦理的理论研究。《意见》也明确要求加强科技伦理的理论研究。建构科技伦理学的学科范式和理论体系，我想这应该是伦理学家未来的一个研究重点，也是中国伦理学会科技伦理专业委员会的学术使命。科技伦理专业委员会将在推动“哲学伦理学+多学科交叉研究”的科技伦理学研究范式创新的同时，致力于加强科技伦理的哲学伦理学研究，推动科技伦理学学科建设。也希望有多学科的专家学者加入到科技伦理的研究当中来。谢谢大家。

据悉，本次研讨会由浙江师范大学田家炳德育研究中心联合教育部人文社科重点研究基地中国人民大学伦理学与道德建设研究中心、教育部人文社科重点研究基地南京师范大学道德教育研究所、国育未来教育科学（深圳）研究院、浙江省智能教育技术与应用重点实验室共同举办。会议采用线上线下相结合的方式，活动当日吸引在线观看人数达50万人次。此外，本次活动得到《新华网》《光明日报》《中国教育报》《中国社会科学报》《中国社会科学网》《学习强国》《浙江新闻客户端》等媒体的广泛关注，取得了很好的社会反响，极大提升了中心的学术影响力。

直播回放

您可通过微信扫描下方二维码收看本次会议回放

文字整理/贺凯杰

图片/部分来源于视觉中国

编辑/管乐 张铭姿 章嘉悦

责编/彭年强