孙伟平：关于人工智能的价值反思
文章来源：
《哲学研究》2017年第10期
投稿和合作请联系邮箱：
1922273801@qq.com
文章摘要
人工智能在当代的迅速发展必然会影响到人类生活的各个方面。它将促进人的闲暇，协助人类更加条理化、无危险地去工作，提高社会生产效率，促进社会自我治理变得更加智能。不过人工智能的发展必然会挑战既有的人类价值，促使人类去重新思考人类的基本属性与伦常关系。同时，智能化的技术发展不可避免地会造成社会发展的不均衡，引起人们对于机器是否可控制的担忧。因此，关于人工智能，应该及早评定其发展利弊，确定其社会发展的价值原则，对新技术的发展行使人类应有的表决权。
关键词
人工智能 智能社会 反思 价值原则 伦理委员会
作者简介
孙伟平，男，1966年1月生于湖南常德。1987年6月毕业于湖南师范大学政治系，获哲学学士学位;1990年6月毕业于北京师范大学哲学系(逻辑学专业)，获哲学硕士学位;1996年6月毕业于中国人民大学哲学系(马克思主义哲学专业价值论研究方向)，获哲学博士学位。
人工智能是人类最神奇、最伟大的发明，是深刻改变世界、有远大发展前途、同时又难以准确预料后果的颠覆性技术。目前人工智能正以指数级的速度高速增长，但人们的思想观念滞后，政策取向不清晰，伦理规制缺失，法律法规不健全，人类正处于巨大的不确定性和风险之中。因此，有必要对人工智能及其应用后果进行全方位的价值反思，将之纳入健康、有序发展的轨道。
一、人工智能的积极社会效应
人工智能作为未来智能社会的基本技术支撑，对社会生产方式、生活方式乃至休闲娱乐方式将产生巨大而深远的影响，为人与社会的自我提升和自由全面发展提供难得的契机。
1.社会的智能化程度已经成为一个国家、地区发展水平的标志
通过人工智能的普遍应用，我们正在建设一个高度信息化、智能化的社会。基于智能网络和智能交通，全球市场正在形成，在全球范围内配置、共享资源成为可能。这大幅提高了资源的使用效率，减少了资源的闲置和浪费。人工智能不断向社会生产方式、生活方式渗透，传统产业正在迅猛地智能化，智能产业更是崛起为新兴的经济增长点。通过产业结构升级，发展智能经济，劳动生产率空前提高，所提供的产品和服务日益丰富。社会组织的信息化、智能化水平不断攀升，精准化智能服务更加及时、贴心，人们的生活越来越便捷、舒适;对物理空间和社会空间的智能监测、预警与控制体系日臻完善，社会运行更加安全、高效，社会治理水平也不断得以提升。这一切为人与社会的自由全面发展奠定了坚实的物质基础。
信息科技、智能科技作为最先进的科学技术，正在深刻改变世界，这本身就是科技文化的经典应用。至于传统的精神文化领域，无论是文化生产还是文化消费，都在快速信息化、智能化，“电子文化”方兴未艾。但人工智能对精神文化领域的“改造”远不止此，智能系统不仅“爱好”搜集和整理数据，而且擅长理性分析和逻辑表达(例如写作新闻稿)，甚至还涉足感性的诗歌、绘画、谱曲等领域进行“创作”。新颖别致的智能文化虽然稚嫩，但谁都不敢小觑它的未来。当智能文化产品和服务成为满足人们精神文化需求的主力军时，一场深刻的精神、文化革命就来临了。
可以断言，智能时代是人类历史上前所未有的知识和智慧占主导地位的时代，智能社会是最与众不同、也最令人期待的技术社会形态。今天，无论是像美国这样的发达国家，还是像中国这样的发展中国家，都已经启动了雄心勃勃的新一代人工智能发展计划。人工智能领域已经成为国际竞争的前沿阵地，社会的智能化程度已经成为一个国家、地区发展水平的标志。
2.促使生产方式趋向人性化，帮助人类理性地进行价值评价和选择
工业化曾是人类划时代的发明，但规模化、标准化的机械化生产，强迫人们必须跟随机械的节律作息，日复一日从事紧张、单调、无趣的工作。人工智能的发展实现了对机械的智能化改造，赋予了机械类似人的“眼睛”“耳朵”“大脑”等感应器官和思维器官，各类机器正在“自动”地运转起来。智能系统一批批发明出来，以日益低廉的价格进入生产和生活过程，可以代替人从事一些重复、单调、繁重的工作，将人从一些有毒、有害、危险的工作(环境)中解放出来。新型的人机系统越来越聪明，越来越“善解人意”，越来越成为与人亲密合作的“伙伴”。这缓解了工业革命以来一直存在的“人－机对峙”状态，促使生产过程越来越人性化;人们更有可能摆脱异化人的旧式分工，开掘自己的潜能，实现自己的价值。人工智能作为人的手、腿特别是大脑的延伸，人机结合、人机协同、人机共生、人机一体化……使人自身的结构、能力获得了跃迁式的发展。
人工智能的任务是理解自然智能的工作原理和工作机制，开发具有类似人类智能的机器，为人类提供服务。但这种模拟不是刻板地模拟人脑的物质结构，也不是简单地模仿人脑的工作机理，而是一种启发式、创造性的模拟，是模拟支撑人类思维的信息转换和智能创生原理。如此开发的人工智能以其“客观的立场”“丰富的知识”“敏捷的思维”“冷静的态度”……可以帮助人们敏锐地洞察时代发展趋势，全面地掌握事实情况，并以此为基础更好地认识客观世界和主观世界，不断提升价值评价、选择和决策水平。事实上，对于现实生活中的一些价值难题，如债务纠纷的裁定、交通事故中责任的划分、法律案件的量刑……以及不同价值选择的后果预测，特定的人工智能系统正在显现出优势，成为人们倚重的参谋和助手，其发展前景不可限量。
3.增加人的自由时间，促进人与社会的自由、全面发展
自由时间是指在必要劳动时间外可供人随意支配的时间。时间是生命的尺度，人的存在是在时间中的绵延。时间是人的“积极的存在”，自由时间是人的自由发展的空间。在人类社会早期，由于生产力水平低下，人们不得不竭尽全力从事物质生活资料的生产，自由时间极其有限。随着生产力的发展，出现了剩余产品，少数人通过占有剩余产品而从繁重的物质生产活动中摆脱出来，成为不劳动的阶级，他们通过占有剩余产品而占有了社会的自由时间，大多数人则被迫承担整个社会的劳动重负，沦为终身从事物质生产的劳动阶级。劳动阶级创造了自由时间，自己却无法享有，丧失了自由全面发展所必需的空间，也在人与人的竞争中处于劣势地位。例如，在资本主义社会，资本的逐利本性决定了，它必然要将自由时间转化为剩余劳动时间，榨取工人的剩余价值。
智能时代的到来，虽然没有改变资本固有的贪婪本性，没有改变“资本的逻辑”，没有改变少数人剥夺多数人的自由时间的现状，没有彻底改变既有的阶级、阶层划分和治理秩序，但是，它极大地提升了劳动生产率和生产力水平。智能机器人可以直接代替人从事各种劳作，特别是人们不情愿承担的“苦役”。这不仅满足了人们自由全面发展所必需的物质需求，而且逐步把人从繁重的劳动中解放出来，普遍缩短了必要劳动时间，增加了宝贵的自由时间。
总之，迈入智能时代，日新月异的科技，日益发达的社会生产，不断增加的自由时间，给人们创造了更好的环境、条件和手段，人们在科学、文学、艺术、道德等领域可以得到更多发挥才干的机会;到智能社会的发展比较充分之时，至少在前所未有的程度上，人们的活动领域更加宽广，生活实践体验更加丰富多彩，人与社会得到更充分的“解放”和自由全面发展。
二、人工智能导致的价值冲突和深层次挑战
人工智能与人类历史上曾经面临的科技挑战和技术难题迥然不同。过去，由于人工智能比较稚嫩，人们不太重视，一直沉浸在乐观、祥和的氛围中。随着人工智能的突飞猛进，特别是在自主学习和创造性思维方面可能超越人类，威胁和风险正日益清晰地呈现在人们面前。
1.对“什么是人”和人的本质的深层次挑战
人工智能的发展正在实质性地改变“人”。在过去40亿年中，所有生命(包括人)都是按照优胜劣汰的有机化学规律演化的，然而，作为无机生命的人工智能正在令人不安地改变这一切。随着生物技术、智能技术的综合发展，人的自然身体正在被修补、改造，人所独有的情感、创造性正在为智能机器获得，人机互补、人机互动、人机协同、人机一体成为时代发展的趋势。雷·库兹韦尔断言:“生物智能必将与我们正在创造的非生物智能紧密结合。”(库兹韦尔，前言，第X页)当人的自然身体与智能机器日益“共生”或一体化，例如，生物智能芯片植入人脑，承担部分记忆、运算、表达等功能，那时的“共生体”究竟是“人”还是“机器”?恐怕这一问题并不容易回答。
即使正在研制的智能机器人本身，也对人和人的本质提出了挑战。例如，“会思维”曾经被认为是人的本质，然而，随着人工智能的突破性发展，“机器也会思维”成为不争的事实。而且，如同机械机器早已超过了人的体力、速度和耐力一样，机器思维完全可能超过人类的思维能力。当智能机器不仅在存储(记忆)、运算、传输等方面超过人脑，而且在想象力、创造力、控制力以及情感的丰富度等方面也超过人时，它就会对人的思维本质构成实质性的挑战。又如，劳动或者制造和使用生产工具曾经被认为是人的本质，但未来的智能系统完全可能根据劳动过程的需要，自主地制造生产工具，运用于生产过程，并根据生产的需要而不断调适、完善。如此一来，无论是制造和使用生产工具，还是更一般意义的劳动，都不再是人类的“专利”。此外，借助现代技术，智能机器人在外形上可以不像人，但也可以“比人更像人”，或者说，可以长得比普通人更加“标准”，更加“完美”;还可以定制一个外形、声音、反应与行为都一样的“自己”，令自己“不朽”。如此种种，智能机器人究竟是否是“人”，必将成为一个聚讼不断的话题。
如果智能机器人在一定意义上是“人”，那么，它是否享有人权等基本权利(例如，禁止被人类过度使用，或置于可能导致硬件受损的恶劣环境中)?是否具有与自然人一样的人格和尊严(例如，不能视为低人一等的“驯顺的仆人”)?是否应该确立为道德或法律主体，承担相应的行为后果?智能机器人可否像自然人一样，与其他智能机器人自由交往、联合?这类问题还有很多，并且新的问题正在不断涌现。咀嚼现实，智能机器人正在大举介入人们的生活实践过程，成为学习的老师、工作的伙伴、生活的保姆、游戏的玩伴，甚至像家庭成员一样的伴侣、孩子……有人声称，宠物狗尚且享有一定的动物权利，具有自主意识和情感的智能机器人正变得与人难以区分，它们是否更应该受到尊重、拥有基本权利?如果这样，究竟什么是“人”和人的本质，以及处理人际关系和人机关系的价值原则，都需要重新认识。
2.冲击传统的伦理关系，挑战人类的道德权威
人工智能的研发和应用正在导致大量的价值难题，例如，人工智能可以广泛运用于虚拟现实，模糊虚实之间的界限。如人工智能医生通过远程医疗方式进行诊断，在患者身上实施专家手术;但传统医患之间那种特别的感觉往往荡然无存，医患之间可能产生心理上的隔阂。人工智能教师、保姆等导致的问题也类似于此。有些人特别是青少年终日与各种智能终端打交道，觉得虚拟世界才是真实、可亲近的，对虚拟对象产生过分的眷恋和依赖，而感觉与身边的人交往“太累”“无聊”，从而变得孤僻、冷漠、厌世……电子游戏中充斥着色情、暴力等反道德、反社会的内容。一些暴力性游戏者为了“生存”，必须想方设法获取致命性武器，肆无忌惮地“杀人”，全然不觉得“杀人”是血腥和残酷的事情，丝毫没有良心的不安和愧疚感。沉溺其中，难免助长人的“精神麻木症”，泯灭人的道德意识，影响个体人格的健康发展。
隐私权是一种基本的人格权利。迈入信息化、智能化时代，人们的生活正在成为“一切皆被记录的生活”。各类数据采集设施、各种专家系统能够轻易地获取个人的各种信息，它可能详尽、细致到令人吃惊的程度。在人工智能的应用中，云计算已经被配置为主要架构，许多政府组织、企业、个人等将数据存储至云端，这容易遭到威胁和攻击。而且，一定的人工智能系统通过云计算，还能够对海量数据进行深度分析。大量杂乱无章、看似没有什么关联的数据被整合在一起，就可能“算出”一个人的性格特征、行为习性、生活轨迹、消费心理、兴趣爱好等，甚至“读出”一些令人难以启齿的“秘密”，如身体缺陷、既往病史、犯罪前科等。如果智能系统掌握的敏感的个人信息泄露出去，被别有用心的人“分享”，或者出于商业目的而非法使用，那么后果不堪设想。
智能系统正越来越多地渗入社会的组织管理过程。这有利于减少人为的失误，节省管理成本，提高管理效率。然而，它往往忽视被管理者的文化传统和心理特征，忽视被管理者是一个具体的“人”，从而缺乏人类特有的同情心和“人情味”。特别是，随着具有自主意识的智能系统的突破性发展，在自然人与超级智能之间，谁的道德表现更为优异?谁能占据道义制高点?谁更有资格拥有道德裁判权以及相应的教育、管理权力?这些本来不成问题，现在却不再那么有把握了。如超级智能是否可能依仗自身的体力和脑力优势，以及远超人类的活动效率，强行抢夺道德评价、决策的“话语权”，以及道德教育、管理的“资格”，甚至自以为是地对创造它的人类进行道德训诫和道德管理，将人类强行纳入智能系统的道德范畴?若果如此，那将是有史以来翻天覆地的“伦理大变局”!
3.“数字鸿沟”“社会排斥”成为解构社会的革命性因素
迈入智能时代，人类创造了一个高度复杂、快速变化的技术系统和社会结构，然而，技术的发展不可能自动践履“全民原则”，人工智能领域正在沦为经济、技术等方面的强者独享特权的乐土。例如，由于生产力发展不均衡，科技实力相差悬殊，人们的素质和能力参差不齐，不同国家、地区的不同的人接触人工智能的机会是不均等的，使用人工智能产品的能力是不平等的，与人工智能相融合的程度是不同的，由此产生了收入的不平等、地位的不平等以及未来预期的不平等，“数字鸿沟”已经是不争的事实。这一切与既有的贫富分化、地区差距、城乡差异等叠加在一起，催生了大量的“数字穷困地区”和“数字穷人”。
而且，在残酷的市场竞争、国际竞争中，发达国家、跨国企业一直对关键数据资源进行垄断，对人工智能的核心技术和创新成果进行封锁，以期进一步获取垄断优势和超额利润。同时，部分富人和精英可以通过基因改造、人机一体化等方式，改善身体的机能，延长自己的寿命，甚至实现永生;而大多数人不仅得不到类似的机会，反而由于生命体相对的“弱智弱能”，在社会的信息化、智能化潮流中苦苦挣扎。随着网络越来越庞大、机器越来越灵巧、系统越来越智能，绝大多数人日益成为庞大、复杂的智能机器系统中微不足道的“零部件”，甚至沦为“智能机器的奴隶”。这导致“数字鸿沟”被越掘越宽，呈现“贫者愈贫，富者愈富”的发展趋势。
智能机器不仅在代替人类从事那些人类不情愿承担的工作，而且在尝试那些曾经认为专属于人类的工作(如医生、教师等)，甚至开始“拥有”情感，出现了“取代”包括朋友、伴侣、孩子的迹象。由于智能机器人可以源源不断地创造和复制，加之智能机器人相比人更加“吃苦耐劳”，越来越多的人类工人将被取代，汹涌的结构性失业潮将随着生产的智能化以及产业的转型升级接踵而至。在这一背景下，“数字穷人”可能彻底丧失劳动的价值，只能接受失业、彻底被边缘化的命运。卡斯特指出:“现在世界大多数人都与全球体系的逻辑毫无干系，这比被剥削更糟。我说过总有一天我们会怀念过去被剥削的好时光。因为至少剥削是一种社会关系。我为你工作，你剥削我，我很可能恨你，但我需要你，你需要我，所以你才剥削我。这与说‘我不需要你＇截然不同。”(卡斯特，第434页)这种不同被卡斯特形容为“信息化资本主义黑洞”:“数字穷人”没有“剥削的价值”，被排斥在全球化的经济或 52 45359 52 24006 0 0 6473 0 0:00:07 0:00:03 0:00:04 6472会体系之外，他成了“多余的人”，被社会无情地抛弃了，存在变得荒谬化了。人是通过劳动而成为人的，劳动是人的神圣的权力，也是人自我肯定、实现价值、获得尊严的一种活动。这样的被取代、被排斥、被抛弃，这种生活意义的丧失和存在的荒谬化，总有一天会让人在精神上、心理上无法忍受。这可能成为解构社会、甚至颠覆现存社会秩序的破坏性因素。
4.超级智能是否会“失控”，反过来取代、控制或统治人类?
2016年以来，谷歌公司开发的AlphaGo采用大数据的自我博弈训练方法，相继击败了李世石、柯洁等世界围棋冠军，令我们见识了具有深度学习能力的专家系统的威力。人工智能不仅具有深度学习能力，而且将具有主动的学习、创新能力，未来甚至可能拥有自主意识，自主进行升级、提升。专家们估计，21世纪中叶将出现“具有人类水平的机器智能”。当机器智能达到人类智能水平，可能很快就会产生单一的超级智能;甚至，超级智能可能通过相互学习、相互作用、自我完善而不断升级，并通过网络结成某种形式的“超级智能组织”。
相比人类，超级智能及其组织掌握的背景知识更加完整丰富，对形势的判断更加客观清晰，规划设计更加稳健合理，做出决策更加冷静、快捷，采取行动更加精准有力。并且，超级智能对于生存环境的要求不高，消耗的资源相比人类更少，工作时间更长更专注，还能不断通过反馈和学习自动纠错、自主升级，因而相对于人类的智能优势将会持续扩大。
具有自主意识的超级智能如同一个打开了的“潘多拉魔盒”。超级智能可能导致的最大风险在于:它是否会通过自我学习和自主创新，突破设计者预先设定的临界点而走向“失控”，反过来控制和统治人类，“将人类关进动物园里”，甚至判定人类“不完美”“没有用”，从而轻视人类，漫不经心地灭绝人类?自从人工智能诞生以来，这种对人类前途和命运的深层忧虑就一直存在，并成为《黑客帝国》《终结者》《机械公敌》等科幻文艺作品演绎的题材。约瑟夫·巴－科恩、大卫·汉森指出:“制造出有自主意识、能采取自主行动的机器人，同时又使它们按照人类的是非标准行事是件极困难的事，甚至是不可能实现的。”(科恩、汉森，第235页)霍金更是感叹:或许，人工智能不但是人类历史上“最大的事件”，还有可能是“最后的事件”，人工智能的发展可能“预示着人类的灭亡”。即使超级智能本身没有扭曲的价值观和邪恶的动机，但如果某一组织或个人研发、掌握了类似的超级智能，不负责任地滥用技术，以实现自己不可告人的目的，后果也将是灾难性的。就此而言，人类正处在一个决定前途和命运的紧要关头。
三、智能社会的价值原则与综合对策
风险所在，往往也是人类自我拯救之所在。人工智能的挑战是深刻的、全方位的，事关人的本质和尊严，事关人类的前途和命运，我们必须高扬哲学反思与批判的旗帜，做出明智的抉择。
1.立足“可能性”，审慎地决定“应该”怎么办
“能够”是一个事实范畴，“应该”是一个价值范畴，它们之间的关系体现了事实与价值之间的分裂和对抗，也体现了事实与价值之间的互动与统一。目前，人工智能的发展日新月异，“能够”做的事情正不断突破原有的阀限，未来超级智能的发展更是令人难以预料。那么，人工智能“能够”做的一切都是“应该”的吗?显然不存在这样的逻辑必然性，而是需要人们具体情况具体分析，审慎地进行价值评价、选择和决策。
或许，有人会搬出科学的“价值中立说”或“科学无禁区”的信条来质疑对人工智能的价值思考。实际上，科学作为人类的一种本质性活动，始终服从和服务于人类的目的，“价值中立”“科学无禁区”只是研究层面的具体方略，并不适用于人工智能之类基础性、颠覆性、革命性的高新科技。从历史上看，人类以往的发明与创造，包括各种工具、机器甚至自动化系统，科学工作者都能掌控其道德表现。但是，现代高新科技的性质令情势发生了革命性的变化，令人与社会陷入了深重的危机之中。海德格尔在《技术的追问》中指出，现代技术已经不再是“中性的”，它作为“座架”控制和支配着现代人的全部生活，或者说已经成为现代人的历史命运。马尔库塞强调，技术的合理性已经转化为政治的合理性，“技术拜物教”正在到处蔓延，“技术的解放力量——使事物工具化——转而成为解放的桎梏，即使人也工具化了”。(马尔库塞，第143页)
我们正在迈入开放性、异质性的智能社会，科技的威力更甚以往，有时甚至超出了人类的想象力。人工智能的可能后果已经难以清晰地预测，发展面临“失控”的危险，人类的创造物正反过来威胁自己。一些悲观主义者已经在鼓噪，人工智能加速的不是人类的进步，而是人类被奴役、甚至被消亡的过程!因此，我们今天对人工智能进行理智的价值评估，对人工智能的研发和应用进行道德规范，进而使价值、伦理、道德成为制约人工智能发展的内在维度，就不是一件可有可无的工作，而是我们肩负的权利、责任和义务之所在。
2.立足人的立场，确立不容逾越的基本价值原则
鉴于人工智能的深刻影响，一些思想家曾经进行反思，提出了一些基本的价值原则。其中最著名的是美国科幻作家阿西莫夫在《我，机器人》(1942)中提出的机器人三定律:机器人不得伤害人类个体或坐视人类个体受到伤害;在与第一定律不相冲突的情况下，机器人必须服从人类的命令;在不违背第一、第二定律的情况下，机器人有自我保护的义务。后来，阿西莫夫又补充了一条更基本的定律，即机器人必须保护人类的整体利益不受伤害。这明显是一些康德式的道德律令。近年来，一些学者在“机器人伦理学”或智能机器伦理学中也提出了一系列伦理规则。(cf.Guarini，pp.213－215)我们不妨结合人工智能的当代发展，以上述研究为基础尝试提出如下基本原则:
人本原则。人工智能是一项“人为的”和“为人的”价值活动，必须始终坚持以人为本或以人为中心的原则，尽可能满足人们多方面的愿望和不断增长的需要。我们不能像某些反技术的浪漫主义者那样，抗拒人工智能，放弃利用人工智能造福人类的机会，因噎废食的取向和做法是不明智的。同时，绝不允许放任自流，让人工智能的可疑风险、负面效应危害人类。例如，虽然智能类机器人可以在恶劣的环境中生存和工作，但环境、家园的选择、设定必须以适合作为有机生命的人的生存为原则;在任何情况下，智能机器人不得故意伤害人类，也不得在能够救人于危难时袖手旁观;智能机器人必须尊重人，宽容对待人类的缺陷和局限性，确保人有尊严地生活在世界上。
公正原则。公正是人们的一种期待一视同仁、得所当得的道德直觉，也是一种对当事人的利益互相认可、并予以保障的理性约定。按照公正原则，人工智能应该让尽可能多的人获益，创造的成果应该让尽可能多的人共享。任何人应该拥有平等的接触人工智能的机会，可以按意愿使用人工智能产品、并与人工智能相融合。按照公正原则，需要完善制度设计，既抑制“资本的逻辑”横行霸道，也防止“技术的逻辑”为所欲为;同时，建立健全社会福利和保障体系，对落后国家、地区、企业进行扶持，对文盲、科盲等弱势群体进行救助，维护他们的尊严和合法权益。
责任原则。在人工智能的研发、应用和管理过程中，必须确定不同道德主体的权利、责任和义务，预测、预防产生不良后果。尤其是人工智能领域的管理者和科技工作者，作为处在人类知识限度之边缘的评价和决策者，实际上决定着人工智能的价值观和道德表现，更是肩负着不容推卸的道义责任。一旦智能系统可能或已经产生破坏性后果，设计者、生产者和使用者必须及时向相关监管机构和社会公众加以说明，并采取有效应对措施。当然，对相关责任人问责也必不可少。
3.展望未来，启动“兴利除弊”的社会系统工程
成立“伦理委员会”，确保人工智能发展的正确方向。人工智能领域存在大量争论不休的前沿问题，对其进行评估、监管和规制存在困难，有必要组织包括人工智能专家在内的科学家、工程师和伦理、法律、政治、经济、社会等领域的专家，成立“伦理委员会”，在充分民主协商的基础上，按照“多数决”原则，对人工智能的发展规划和前沿技术的研发进行审慎评估，对人工智能研发、应用中的伦理冲突进行民主审议。“伦理委员会”对新技术研发和应用具有延迟表决权和否决权。综合施策，切实让人工智能发挥兴利除弊的作用。从“兴利”的角度看，关键在于组织协同攻关，研发和推广成熟的智能技术，建设发达、高效、方便、舒适的智能社会，让全体人民共享科技进步带来的好处。从“除弊”的角度看，关键在于明确相关管理者、生产者和使用者的责任，建立健全公开透明的人工智能监管体系，加强国际合作，确保风险和挑战处在可控范围之内。
最后，人类应该以人工智能可能超越人类智能的“奇点临近”为契机，进行全方位、深层次的自我反思:人的人性和本质究竟是什么?人类有什么理由号称“万物之灵”?有什么资格驾驭人工智能，做世界的主人?如何才能在智能社会赢得基本的尊重?什么样的社会组织形式才是合理公正的?咀嚼历史与现实，我们不难发现，人类这一物种并不“完美”，存在不少缺陷和局限性;所构建的社会组织常常既不民主，也不公正;人类的实践表现也非“完善”，曾经制造过大量的苦难和“恶”。在人工智能可能拥有的超级智慧映衬下，人类应该彻底地反省自己，通过弃恶扬善、自我修炼全面提升自己，更加自觉地范导和约束自己，为未来的超级智能做出表率，并基于基本的价值原则创造友善、负责任的人工智能，打造人机协同、人机一体化的智能新世界。
文章内容纯属作者个人观点，不代表平台观点。感谢作者辛苦付出与创作，版权归属原作者，如有版权问题欢迎联系。
投稿&合作：1922273801@qq.com
微信号: zhonghuahaoxuezhe
推荐关注
中国好学者
30万关注者的不二选择
本订阅号倡导“理性之思想，自主之精神”，专注于在大变革的时代推动学者、学界、学术的发展进步。
感谢您抽出
中华好学者网站已经上线
点击【阅读原文】进入中华好学者网站
↓↓↓