【笔谈系列⑥】孙伟平 | 智能伦理亟待重构
编者按：人工智能与大数据、生物技术等科技革命和产业变革联合积聚力量，催生了大量新产业、新业态、新模式，给全球发展和人类生产生活带来深刻的变化，也使之成为自然科学、技术科学等学术领域的热点，研究成果丰硕。新一代人工智能为经济社会发展注入了新动能，为人类创造了更加智能的生产活动、工作方式和生活方式，但是，在政府治理、法律、安全、道德伦理等方面，人工智能也提出新问题甚至挑战，也是新的学术议题和学术增长点。自然科学、技术科学领域长于人工智能在计算机科学技术、数学、控制论、信息论等方面的研究，人文社会科学方面的研究相对缺少。
2021年7月，本刊编辑部邀请中国社会科学院、北京外国语大学、南京大学、南京师范大学、上海师范大学等单位的专家围绕“人工智能：理论阐释与实践观照”展开热烈而深入的讨论。编辑部根据专家发言整理并形成笔谈，从不同角度展现人工智能对社会政治、经济、法律、文化、生活等方面所产生的影响，为推动学术界对人工智能课题更加全面、深入的研究作出应有的努力。
关键词：碳人工智能；机器人；社交机器人；机器伦理；数字劳动；算法；社会正义
智能伦理亟待重构
上海大学伟长学者特聘教授、上海大学哲学系教授
孙伟平
人工智能何以成为近些年来伦理道德反思的焦点？我想，可能主要基于以下两个方面的原因。
一方面，人工智能是深刻改变世界、有远大前途、应用前景广泛的基础性技术。近年来，人工智能的发展日新月异，各种专用的智能系统表现优异，给人以巨大的冲击和深深的震撼。
另一方面，人工智能是一个具有革命性、颠覆性的“新事物”，它目前远未成熟，尚难准确地预料其后果。智能技术与生物技术有机结合，突破“图灵奇点”、超越人类智能日益成为大概率事件，这可能导致天翻地覆的变化。
但在这种前所未有的冲击中，人类并没有做好必要的准备：不仅对于人工智能是什么、发展趋势如何尚未取得基本的共识，也无法掌控人工智能的发展和应用方向，而且相应的政策取向比较模糊，伦理规制比较缺失，法律法规不太健全，不知道如何应对由之而起的经济、政治、社会和文化难题。
正因如此，我们需要未雨绸缪，围绕“兴利除弊”的目的重构智能伦理，既努力发展人工智能，令其“为我所用”，造福人类，又建立必要的防御机制，防范其可能导致的风险和代价。
首先，我们应该看到，人工智能是一项前沿性的基础性技术，是新型的智能社会的基本技术支撑，在伦理道德建设方面具有十分积极的作用。
经济活动的信息化、智能化，例如智能机器的广泛使用、智能产业的快速崛起、商业营销方式的变革等，在促使产业、经济快速转型升级的同时，大幅提高了劳动生产率和生产力水平，创造出物质财富极大丰裕、人民生活水平普遍提高的局面，为社会的良性发展和伦理道德水平的提升奠定了坚实的物质基础。
大规模使用智能系统（智能机器人）代替人工作，特别是基于信息化、智能化的“无人化”运动，逐步将人从一些繁重、重复、单调、有毒、有害、危险的工作（环境）中解放出来，这不仅使得工作环境和工作条件不断改善，生产过程越来越人性化，而且节约了大量人力资源和人的劳动时间，增加了人的自由活动时间，使人得以摆脱异化人的旧式分工，有条件获得自由、全面的发展。
人工智能在军事、教育、医疗、体育、文艺创作、社会治理、环境保护等领域的广泛应用，为人们的学习、工作和生活提供了丰富多彩的选项，极大地拓展了人们的生存和生活空间，重塑了人们的学习方式、工作方式和休闲娱乐方式，从而全方位地提升了人们的生活品质。
人工智能可以运用于虚拟现实之中。在虚拟现实中，例如虚拟的体验式、交互性活动中，一个人可以在身体及精神方面成为一个不同的人，并且可以按意愿选择不同的体验。
此外，人机结合、人机协同、人机共生、人机一体化……可能帮助人自身变得越来越聪明、能干，越来越深入许多新的领域、新的智能时空域人们不断开发各种有针对性的智能系统，帮助残疾人或身体有疾病的人克服身体的疾患和局限性。人工智能使人们获得越来越全面、自由的发展，成长为适应智能时代特点的“时代新人”。
其次，人工智能并非“天使般的高新科技”，它可能导致的负面效应也很令人头痛，随之而来的问题与挑战十分严峻。
人工智能是建筑在大数据基础之上的。大数据资源本身是否完整、可靠，是否及时更新，数据采集、存储是否合法合规（例如是否遵守“知情同意”等伦理原则），都可能隐藏着风险。
目前的数据采集、存储和应用过程中，存在大量侵犯个人隐私和相应主体权利的做法；一些不法组织或个人经常利用非法收集、持有的大数据，对人进行“分析”，利用分析结果从事骚扰、诈骗、恐吓活动。
算法是人工智能的灵魂和“中枢神经”，但算法不过是以数据为基础的计算机运行程序，它本身并非天然可靠，而是常常暗含歧视与偏见，或者放大既有的社会歧视与偏见。
例如，市场主体可能基于唯利是图的“资本的逻辑”，利用从各种渠道收集、购买的消费者大数据，编写具有歧视性、诱导性甚至煽动性的算法，进行有针对性的“智能推送”“大数据杀熟”之类的市场营销，从而坑害消费者，实现经济利润最大化。
随着人工智能的飞速发展和广泛应用，智能系统的“类人智能”和劳动能力日益增强，正在取代人类承担越来越多的劳动任务和劳动职责。人相对而言正变得越来越笨拙，难以适应智能科技的快速发展和社会的快速智能化。
这不仅导致“数字穷人”等弱势群体日益丧失劳动的机会和权利，酿成“技术性失业”的风潮，而且令“数字穷人”沦落为尴尬的“无用阶层”，被经济和社会体系排斥在外，丧失存在的价值和生命的意义。
人工智能甚至正在侵蚀一些传统的伦理道德关系，例如爱情和婚姻关系，动摇传统的家庭结构。目前人形智能机器人发展很快，它们不仅可以做家务，当助手，陪人聊天解闷，一起嬉戏玩耍，甚至可以和人“打情骂俏”“谈情说爱”……当人形智能机器人不断取得实质性突破，以宠物、伴侣之类的身份进入家庭，成为家庭中的新成员，历史上延续了数千年的家庭关系、家庭伦理就难免受到强烈的冲击。
此外，近年来一直令人不安的是，有科学家认为，人工智能超越人类的“奇点”正在迫近。这不仅令人类的优越性、主导地位和尊严面临前所未有的挑战，而且直接将人类自身置于极大的不确定性和风险之中。
例如，具有自主意识、具有学习和创新能力的超级智能，是否可能“失控”，反过来统治、主宰人类，“将人类关进动物园里”？即使超级智能本身没有干坏事的欲望和动机，但如果有人将不良的动机和错误的价值观输入超级智能的算法之中，或者利用黑客技术操纵超级智能，后果将是人类不可承受之重。
再次，人工智能的快速发展和广泛应用，对伦理道德的主体——人本身带来了极大的挑战，这种釜底抽薪的变化令传统的伦理道德进入了“革命的前夜”。
随着通用人工智能特别是人形智能机器人的快速发展，“人是什么”，或者说“谁”可以成为伦理道德的主体，成了一个不那么确定的问题。
一方面，人正在被各种智能技术、生物技术所“改造”，自然人日益被各种高新技术和装备“武装”起来，人机协同甚至可望人机一体地开展生产和生活；
另一方面，智能系统特别是人形智能机器人的智能（思维）水平突飞猛进，甚至日益具有自主性、计划性和创造性，表现得“越来越像人”，许多单项能力甚至已经超过了人。自沙特阿拉伯于2017年10月25日授予汉森机器人公司研发的智能机器人索菲娅（Sophia）公民身份以来，智能机器人是否是“人”？人的本质究竟是什么？这些就成了令人尴尬的“真问题”。
在文明史上，人一直占据着无可争议的主导地位，机器从来只是人类的工具。如果智能机器人具有类似人类的智能，在一定意义上是“人”，那么，人是一种什么样的“类存在物”就变得不确定了，人类的中心地位就被动摇了，以往一切立足于人的立场的伦理理论和道德实践都需要进行革命性反思。即，以往人是唯一的伦理主体或道德主体，现在，智能机器人也可以拥有公民身份，也可以成为伦理主体或道德主体。
那么，什么是善？什么是恶？区分善恶的标准是什么？应该由谁掌握道德评价、道德教育与道德管理（决策）权，等等，都需要根据人机关系的发展状况重新进行反思，调整和重构看来不可避免。
这种伦理道德的主体的反思、调整和重构，无疑是一场空前激烈的革命，它可能导致许多颠覆性的后果。例如，在重构新型的人机关系时，智能机器人是否具有“人格”和“尊严”？是否应该享有与人一样的权益?是否应该、是否能够承担相应的行为后果……这类问题诚然具有挑战性，但也并非不可讨论。
实际上，目前宠物（如猫、狗等）都已经“争取”到了一定的动物权利，人形智能机器人明显更加“高级”，因而完全有理由获得更多的尊重，拥有更多的“人权”。
综而言之，伦理道德正处在一个关键的转折点上。无论如何，在这场前所未有的“伦理大革命中”，人类需要“猛醒”，需要反思，需要行动：破除“人类中心主义”意识，克服狂妄自大的傲慢与偏见，延展哈贝马斯的主体间的交往理性和商谈伦理，重新认识、界定“人”和人机关系，重新商讨相应的伦理规范和行为准则（特别是确定不可逾越的“底线伦理”），从而建构一种新型的人机协作、人机和谐的伦理新秩序。
本刊声明
本刊刊文版权包括纸质版与网络版版权，均属于《阅江学刊》编辑部拥有，任何形式、任何媒介的转摘译或结集出版均须标明来源于本刊（详见本刊引文格式）。
欢迎学界朋友或学术媒体推广传播。媒体（网站、公众号等）如有意愿转载，请后台留言或拨打电话025-58731054获得授权，联系人：李老师。
本文引用格式：
段伟文、吴冠军、张爱军、高山冰、韩东屏、孙伟平、程广云、杨通进、何云峰、刘方喜、蓝江、吴静、郑曦、秦子忠、崔中良、赵涛：《人工智能：理论阐释与实践观照（笔谈）》，《阅江学刊》，2021年第4期，第34-36页。
段伟文，吴冠军，张爱军，高山冰，韩东屏，孙伟平，程广云，杨通进，何云峰，刘方喜，蓝江，吴静，郑曦，秦子忠，崔中良，赵涛.人工智能：理论阐释与实践观照(笔谈)[J].阅江学刊，2021(4)：34-36.
责任编辑：李海中
微信编辑：邱圣茹
校对：来向红、沈丹、李海中
作者照片：本刊编辑部提供
文中插图：源自互联网
复审：刘伟
终审：渠红岩
固定布局
工具条上设置固定宽高
背景可以设置被包含
可以完美对齐背景图和文字
以及制作自己的模板