推动科技向善！这场论坛关乎科技伦理与人类未来

VOL.3199

12月16日，2023科技伦理高峰论坛在复旦大学举行。来自中国科协及海内外知名高校、科研机构的150多位专家学者汇聚一堂，围绕数字技术时代的中国科技伦理理论与实践开展交流研讨。

中国科协党组成员、书记处书记王进展，复旦大学常务副校长许征出席论坛并致辞。复旦大学哲学学院院长张双利，复旦大学哲学学院教授、中国科协-复旦大学科技伦理与人类未来研究院院长王国豫分别主持开幕式与主旨报告环节。

12月15日，中国科技伦理学会建设与发展专家座谈会在复旦大学举行。中国科协和复旦大学签署《合作备忘录》，共同推动筹建中国科技伦理学会。中国科协宣传文化部副部长宋玉荣、复旦大学副校长汪源源代表双方签约。

去年11月，中国科协和复旦大学联合成立科技伦理与人类未来研究院，合作开展科技伦理理论探索和建言咨政。

加强科技伦理治理，弘扬科技向善理念

王进展指出，加强科技伦理治理，弘扬科技向善理念，已经成为全社会的广泛共识。发展科技伦理是积极应对科技革命和产业变革、实现高水平科技自立自强的必然要求，是开展国际合作、参与国际科技治理的迫切需要，是科协组织落实党中央部署、服务科技工作者的重要职责。中国科协将积极发挥科技社团在科技伦理治理中的作用，加强科技伦理学术研究，推进高水平学科建设和高层次人才培养；注重科技伦理应用实践，服务国家科技伦理治理体系建设；增进国际合作与交流，深度参与全球科技治理。

▲

王进展

许征表示，作为立足上海、面向全国、放眼全球的综合性研究型大学，复旦大学一直致力于全球科技伦理在教育、研究和实践层面的推进，不仅将科技伦理纳入专业课程体系，还积极肩负咨政建言、服务国家发展的使命担当，参与国家相关科技政策的制定。希望通过本次论坛，专家学者能够进一步分享真知灼见、碰撞思维火花，共同探讨数字技术时代我们面临的全球性科技伦理挑战，以观念革新推动科技向善，为我国科技伦理的蓬勃发展、为我国科技事业的高质量发展与高水平安全提供有力支撑。

▲

许征

何以科技向善？7位专家现场分享

主旨报告环节，中国医学科学院、北京协和医学院生命伦理学研究中心教授翟晓梅，中国科学院大学、中国科学院科技战略咨询研究院研究员李真真，中国科学院自动化研究所、人工智能伦理与治理中心教授曾毅，清华大学科学社会学院教授、中国科学院学部-清华大学科学与社会协同发展研究中心主任李正风，中国人民大学哲学院教授、教育部人文社会科学重点研究基地伦理学与道德理论研究中心主任曹刚，中国社会科学院科学技术和社会研究中心主任、复旦大学科技伦理与人类未来研究院兼聘教授段伟文，北京大学哲学系科技哲学教研室主任、中国科协-北京大学科学文化研究院副院长周程先后发言。

以“医学前沿技术研究与临床转化：伦理治理视域”为题，翟晓梅围绕我国中山大学黄军就教授使用CRISPR/Cas9技术首次成功修饰人类胚胎基因的案例进行了伦理上的讨论。她认为，这一工作有助于改进基因组编辑技术的基础性研究，其研究目的具有正当性。对于人胚研究是否有伦理越界问题，考虑到不同的人群对人类实体（Human entity）这一概念持有不同的价值观念，在研究前，科学家应与伦理、法律、社会学方面的学者和公众进行充分讨论。

▲

翟晓梅

李真真对人工智能具备情感情境下的人机伦理问题进行了探讨。她指出，由于人工智能日益强大，现阶段人机伦理关系已经成为一个无法回避的议题。那么“价值对齐”何以可能？技术层面，该问题的解决思路可依赖于基于人类反馈的强化学习、可扩展监督、可解释性和治理；伦理层面，“价值对齐”旨在确保人类创造的AI与人类拥有相同的价值观；社会层面，人工智能的智能化表现只是模仿人类的理性思维模式，但并不具备人类的情感、意志。人机关系伦理问题的关键在于确定人应当是人机关系的主导者，明确人类对AI的需求和目标。

▲

李真真

曾毅在题为“人工智能的切要风险与伦理挑战”的报告中指出，人工智能问题已从潜在问题变成了实存风险。目前的伦理规范仍有不足，法律是底线，数据、算法、平台和应用四点是重要方面，关键是研发者、教育工作者、媒体、政府、用户每个相关方都应在其中承担自己的责任。此外，人工智能面临着人类放弃自己的决策权、认知升级、误导公众等伦理挑战，而人工智能距离成为责任和道德主体，仍待进一步科技突破。他强调，人类必须预想超级智能到来后该如何应对。人工智能与人类和谐共生，需要人与人工智能价值观的双向协同，而非单向校准。

▲

曾毅

面对当前科技飞速发展，应当如何深刻、全面理解新科技革命及其伦理问题的新特点、新挑战？李正风认为，新科技革命对传统社会确立伦理原则的基础和机制带来挑战，对传统社会的“自然基础”、人类“同一性”产生变革。他强调，由于技术的后果风险不确定，当后果已显而易见时，控制已变得代价高昂和缓慢，因此后验选择并不总是可行的。科技伦理治理不仅是为了促进科技事业健康发展，也是人类文明健康发展的根本要求。应以“以人为本”为核心，协同研究、治理和教育与科学普及工作，探索科技时代的文明社会构建。

▲

李正风

曹刚围绕“科技伦理必须解答的三个道德难题”指出，科技伦理是伦理学的当代形态，提出了很多道德难题，要从元伦理学、规范伦理学与实践伦理学三个层次去处理。他强调，我们需要追问人类的价值观是什么，人类的价值观本身是否对齐。共生、共赢和价值共享的纽带将人联系在一起，这个纽带本身就是好的，所有能够维护这个纽带的就是善的。科技既给人类带来福祉但也威胁到人类生存，根据当前情况，负面影响更有可能成为现实。我们需要忧惧伦理问题，只有在这种忧患中才能进行前瞻性预防。因此，责任在伦理中是最核心的概念。

▲

曹刚

段伟文指出，当前新兴科技驱动的科技社会系统有革命性的变化，前沿科技研发将带来许多深层次的伦理风险。对于深层次科技伦理风险的预控和应对，要从树立科学认知的伦理边界意识入手，加强科技伦理意识建设；将伦理规范、法律规制和技术解决方案三个维度结合起来，设置合理的伦理法律门槛；形成一套技术-管理-制度协同的治理机制；推进科技伦理研究，推动科技伦理传播和教育；注重遵循相称性原则。科技伦理的治理策略可以采用协同共治，构建硬监管-治理协调-软治理协调机制。

▲

段伟文

周程指出，近年来，人工智能伦理领域的研究急速攀升，“透明性”成为其中一个关键议题。国内外许多指导意见都提出要提高人工智能的透明性，然而与“透明性”相关的“可解释性”、“可理解性”和“可信赖性”等概念的含义和具体要求，目前学界尚未达成共识。他从人类对因果关系的不同理解出发，阐释了人类对人工智能因果表征的不同要求，并结合医学人工智能研究与应用过程中的实际案例，揭示可解释性、可理解性与可信赖性的区别在于人类对人工智能因果表征的不同关切。他认为，构建可解释的人工智能对于解决黑箱问题而言是不够的，我们需要在人工智能研发的全过程嵌入对可理解与可信赖的要求，在更高的层次上来思考何以构建合伦理的未来人工智能。

▲

周程

当天下午还举行了分论坛专题研讨和学生优秀论文颁奖典礼。论坛论文评审委员会主席、华东师范大学教授付长珍宣读学生优秀论文获奖名单，周程、曹刚、复旦大学哲学学院党委书记袁新为获奖学生颁发荣誉证书。

复旦大学哲学学院教授尹洁主持闭幕式。王国豫作论坛总结发言，认为论坛展现了多样化、跨学科的科技伦理理论形式、研究方法与探索路径，迸发了新的科技伦理研究火花。期待在座学者继续深耕，促进交叉学科发展，真正发展好中国的科技伦理，相信中国科技伦理的未来一定会更好。

▲

王国豫

本次论坛由中国科协支持，复旦大学主办，中国科协创新战略研究院、中国科协-复旦大学科技伦理与人类未来研究院和复旦大学哲学学院共同承办。

相关阅读

上观新闻：

20多年前斯皮尔伯格在电影《人工智能》中提出的伦理问题，至今还引人深思

新民晚报：

搞科技该有伦理制约——2023科技伦理高峰论坛，推动科技向善

话匣子：

何以科技向善？2023科技伦理高峰论坛在复旦大学举行

转载自“复旦大学”

编辑 | 王小蝶

责任编辑丨汤克凤 隋艺菲