刘永谋 王春丽｜智能时代的人机关系：走向技术控制的选择论

原文刊载于《全球传媒学刊》2023年第3期“人机传播”专栏。

作

者

刘永谋：中国人民大学哲学院教授。

王春丽：中国人民大学哲学院博士研究生。

概

要

【摘  要】机器演进至今主要经历了手工工具、机器工具、自动机器、智能机器四个阶段，未来可能会出现“AI新无知之幕”。科学技术的发展将智能革命向纵深化推进，人机关系问题日益凸显。目前的人机关系友好论、敌对论、协同论已不能阐明人机关系的复杂性，亦无法站在实践的立场上为人机关系的和谐构建提供可行性新方案。面对科技创新带来的“AI新无知之幕”，技术控制的选择论强调人在人机关系中的主导性作用，主张干预、引导与控制机器的发展，在遵循道德性、AI设计的有限主义、实用性三大原则的基础上，从制度、伦理、教育、技术等层面进行战略推进。

【关键词】智能时代；人机关系；人工智能；技术控制；选择论

科学技术的发展引发了一场波及全球、可能颠覆人类生存状态的智能革命。智能时代人类依赖机器，而又畏惧机器能力的无限扩张，人机关系的密切性与复杂性前所未有，陷入“AI新无知之幕”^①。在这种情况下，积极探索适合当下与人类社会永续发展的人机关系模式，以技术控制的选择论应对新挑战，不失为一种建设性应对之策。技术控制的选择论的落实根本在于人类的选择问题，让机器向善的终极方法是人类向善，科学技术发展的根本目的是引领人类走向未来。对于彰显中国式现代化中的人工智能优势，防范科技领域风险挑战，加快建设创新型国家和科技强国，技术控制的选择论具有很强的理论价值和现实意义。

一、智能革命与机器演进历史

不同时代的生产力水平不同，机器的样态、功能、动力源以及在人类活动中的参与程度、影响力度也各有不同。梳理机器演变的历史进程，能够厘清人机关系的内部发展逻辑与外部嬗变意蕴，从而更好地把握人机关系实质，预测人机关系走向，掌握人在人机关系中的主动权，让机器更好地为人类服务。

（一）历史：机器演进的四阶段

机器与技术相伴而生，人类社会自诞生起就已经和机器结下了不解之缘。最早的机器可以追溯到人类为满足生活需要而制造并使用的各种工具。技术哲学家卡普（Ernst Kapp）用“器官投影客观化原理”（Kapp，1877）理论来解释工具的诞生及其与人类之间的必然关联。从机器诞生至今，它经历着从手工工具到机器工具、到自动机器、再到智能机器的演变过程。

1.  手工工具时期

手工工具时期从人类社会萌芽状态一直持续到第一次工业革命之前，是机器最为原始的技术形态。在材料方面，最早的手工工具是人类通过切割、打砸、磨制等方式改变石头形状制成的石器。后来出现以青铜、铁为原材料制成的复合工具和以杠杆、轮轴、滑轮为代表的简单机械工具。在动力方面，简单机械的出现使畜力、风能、水能、光能成为人力以外的工具动力来源，从而促使工具动能提升。在形态方面，起初为通用型工具，种类单一，形态朴素，同一种工具应用于不同劳动场景，满足不同劳动需求。之后，生产分工的明确促成了工具的细分，出现了用于不同目的、领域的专用型工具，手工艺品、手工作坊、手工匠人构成了当时人机关系的典型符号元素。

手工工具的演进过程是工具分类不断细化、功能日益强大、应用领域逐渐扩展的过程，推动着生产力的发展与人类文明的建构，将人类由原始社会引向农业文明时代。此时，尽管人类是创造劳动价值的主体，但我们已经能够看到工具在人类生产生活中发挥的重要作用，在这个阶段，人机关系是友好、简单而又和谐的。

2.  机器工具时期

机器工具是从手工工具进化而来的，成形于第一次工业革命时期。手工工具的专用化转型使单个生产操作环节简单化、流程化，为机器工具的孕育奠定了基础。在结构方面，马克思、恩格斯（2001，p.429）指出“所有机器工具都由发动机、传动机构、工具机三个部分构成”。在动力方面，依托煤炭燃烧而运转的蒸汽机、电力成为机器工具的动力能源，机器工具的运转效率显著提升，芒福德（Lewis Murnford）称之为“煤炭资本主义”（芒福德，1963/2009）。机器工具的应用带来了资本主义工业化和机器化大生产，将人类社会引入工业文明时代，具体特征为：1）新动力能源的使用扩大机器生产规模，社会生产力水平大幅度提升，物质资料不断丰富；2）机器工具发明层出不穷，改变人类的交通方式、通信方式、娱乐方式、工作方式，社会文明水平不断提升；3）机器异化，出现失业、社会不平等、自然环境污染、时间与进步观念异化、精神世界迷失等问题。

机器工具时期，机器数量急剧增长，机器的作用与地位提升，成为人类生产生活中的重要元素，而人在社会中的主导性地位却受到威胁。“机器不是使工人摆脱劳动，而是使工人的劳动毫无内容”（马克思、恩格斯，2001，p.487）。“劳动资料——作为机器出现就立刻成了工人本身的竞争者”（马克思、恩格斯，2001，p.495）。机器异化为资本深度剥削的帮凶。此时，人机关系的复杂性问题初露端倪。

3.  自动机器时期

第二次世界大战后，科学技术水平的提升推动着机器工具向自动机器转变。在自动机器的构成中，加入了以电子计算机为支撑的第四部分——控制机，它控制机器各部分的运转，包括运动顺序、方向、速度以及各种数量关系（林德宏，1999，p.54）。与机器工具不同的是，自动机器依赖人类提前输入的固定逻辑规则和算法来执行任务，基本上能够独立完成自动检测、信息处理、流程操作等目标过程，人从机器生产过程中的参与者变为旁观者。从积极层面看，自动机器的出现将人类从直接劳动环节中进一步抽离出来。自动化生产提高了生产产品的精确性与规范性，极大丰富了人类社会的物质生产资料。但从消极层面看，自动机器使人的劳动进一步简单化、流程化，体力劳动者和脑力劳动者的地位差距进一步拉大，社会不平等加剧。机器工具时期的各种机器异化问题进一步凸显。

“使用机器的第一步是以人体的一部分作为工具，而自动化则是最后一步。工具和机器的发展过程，是人们试图改造环境，使人的机体得以加强和维系的过程”（芒福德，1963/2009，p.184）。在这样的过程中，人类对机器的依赖程度增加，机器的专业化程度与非人性化程度提升，而人类独特性、主体性地位被削弱，思维方式与生活方式发生变革，人机关系更加矛盾复杂。

4.  智能机器时期

科学技术在机器演变和人类文明进程中发挥着重要作用，进入21世纪后，机器形态完成了由自动机器向智能机器的转变。人工智能是智能机器的核心，也是推动智能革命浪潮的原动力。以往人们通常认为包括电子计算机在内的机器只不过是运算速度极快、出错率低、不知疲倦、能够响应人类精准指令的机械性的电子装置，不具备推理、判断、决策的能力。直到1950年，“图灵测试”开启了人类对“机器能思考”这一问题的关注。1956年，以“用机器来模仿人类学习及其他方面的智能”（胡云冰等，2021，p.29）为主题的达特茅斯（Dartmouth）会议召开，并正式提出“人工智能”概念。约翰·麦卡锡（John McCarthy）将其定义为“制造智能机器的科学与工程”（胡云冰等，2021，p.30）。此时，人工智能作为一个新兴概念备受社会各界关注，但由于当时各种条件有限，其发展起起伏伏、几经波澜。直到进入21世纪，机器学习、深度学习、移动网络、云计算、大数据等新一代信息技术引发信息环境和数据基础变革，运算速度进一步加快且成本大幅降低，人工智能技术才开始如雨后春笋般应用到人类社会的各个领域，从而大大推动了智能机器时代的到来。如今，人工智能在人类社会的各个领域已经不可或缺，并且成为足以颠覆世界的巨大力量。一方面，其发展速度之快、普及范围之广、影响力度之大超乎人类想象。医疗、经济、教育、文化、工程、军事、国防等各个领域都有人工智能的身影，AI服务员、AI律师、AI作家、军用机器人、社交机器人等“类人”型机器技术层出不穷。另一方面，人工智能正在衍生出新的人—机融合样态，人与机器之间的界限被彻底打破，人机关系正在实现物理界面的交互融合、精神层面的依赖共生。

人机界限的模糊是智能机器时期的一项现实性问题。按照人工智能的层级^②，目前尚处于弱人工智能阶段，在人类可控范围之内，然而当人类欲望无限扩张，赋予人工智能以知觉、意识、价值观念及情感元素，发展出强人工智能和超人工智能时，后果则无法预测。在这种趋势下，人机关系陷入更深层次的矛盾与复杂之中。

（二）展望：“AI新无知之幕”

近代以来的机器具有形式多样、智能高效、覆盖域广、进化迅猛等方面的明显特征，其社会地位与自主化程度显著提升。机器技术日新月异、人机关系日渐密切是必然之势，然而从目前机器的演进速度来看，人类已经无法准确预测未来机器的样态与智能化水平，亦无法精准定位人机关系的未来走向。在人工智能的技术奇点^③问题面前，人机关系比以往任何时期都要更为复杂与矛盾，一场笼罩在深度不确定性中的“AI新无知之幕”就此拉开。

1.  对AI未来样态及能力的不确定

雷·库兹韦尔（Ray Kurzweil）的“加速回报定律”（The Law of Accelerated Return）指出，“如果一项科技符合加速回报定律，那么这项科技越先进，它的进步速度就越快，在一段时间以后就会实现指数级增长”（沙纳汉，2015/2016，p.XI）。人工智能具有惊人的数据分析能力、运算处理能力，加之机器学习、深度学习，其发展所带来的新突破、新成果必将超乎人类想象。恰如算法黑箱问题至今无解一般，人类已经无法预判未来机器智能化将会发展到何种程度，又将去向何方。

2.  对未来AI与人类相处模式及关系的不确定

大多数理工科方向的研究者及企业都对人工智能领域的探索津津乐道，并且乐观地认为人工智能对人类社会的长远发展有着十足的裨益，但也仍然存在不少对“人工智能的研究会带来养虎为患式风险”的担忧。当技术奇点到来之际，必将会引发新一轮的社会巨变。人工智能的如日中天会将人类引向“机器理想国”还是“机器敌托邦”？为人类带来的是无限福祉还是威胁挑战？这些问题的答案无从知晓。唯一能够确定的是，机器已是人类生活中无法取代的重要构成。

3.  对AI迅速发展下的社会变革与走向的不确定

机器的出现与人工智能的发展塑造着人与自然、人与人、人与机器之间的多重关系维度，改变着人类的劳动生产方式、日常生活习惯、社会交往方式等多种行为模式，就连人类思维方式、社会分配方式、社会运行方式都随之变化。然而，在这场无声的变革中，人类始终是处于被动的一方，对于风险隐患和社会问题的解决具有相当程度上的滞后性，缺乏预判。造成此情况的根本原因是人类对人工智能未来面貌及其对人类独特性地位取代程度的未知。在这种深度的未知中，社会应如何变、变为何的问题自然处于无解状态。

4.  对AI善恶取向与伦理尺度的不确定

人类对AI依赖性与日俱增已成为一项不争的事实，阻止其发展亦不再可能。尽管当下人工智能的发展水平尚处于人类的可控范围之内，但依然要戒防滥用、恶用、误用新科技而引发的诸如克隆人、“机器恐怖主义”、“虚拟爱情”等诸多现实问题，一旦人工智能拥有自我意识，并且实现机器思维表达与情感输出的“拟人化”（anthropomorphism），后果不堪设想。人类将无从确保人工智能道德倾向与伦理选择的是非善恶，更无法确保其会甘心永远处于听命于人的状态。

技术哲学家唐·伊德（DonIhde）用“它异关系”（alterity relations）来观照智能时代“人—技术”关系（伊德，1990/2012）。“AI新无知之幕”就笼罩在这种“它异关系”之中，是在智能机器的主体性地位急速提升、功能无穷强大、涉及领域无限延伸，几乎成为一个完全独立于人的“它者”形势下，人机关系未来陷入的一种必然、神秘而又未知、无解的境地。霍金（Stephen Hawking）曾用“最糟糕”和“最美好”两个语义完全相反的形容词来说明人工智能的颠覆性及其发展将会带来的截然不同的两种结果（Hawking，2018）。科幻小说和电影中也经常出现赛博格、人机大战、人机爱情等诸如此类的人机关系情节。艺术源于生活，这些情节构建的背后，反射的便是人们对人机关系未来走向不确定性的担忧与无能为力。显然，对于人机关系的未来图景，人们要与拟主体、能力超强的AI共同生活，由于无法预测人机协同进化的最终结果而不得不在盲人摸象中应对未来。

二、理解当代人机关系的三个视角

不同时代下机器的发展程度及其对人类社会的作用，影响着人机关系的演变走向。近年来，围绕人机关系的变化、走向与审度，出现了来自不同领域、不同向度、不同视角的多种声音，这些声音可概括为人机友好论、人机敌对论和人机协同论三个方面。前两种观点的不同立场之间所关涉的仍是早期技术哲学领域中“技术工具论”与“技术实体论”的问题，人机协同论则是人类面对“AI新无知之幕”的一种消极宿命观。

（一）人机友好论

人机友好论对人机关系的现状及未来走向持肯定态度，认为机器以服务人类为目标，旨在增进人类福祉，人类与机器相亲相爱。这是建立在“技术工具论”基础上的一种乐观立场。

首先，人机友好论十分强调机器对于人类社会永续发展的积极作用，认为机器作为一种工具，是人类智慧独有的创造。机器既能够延展人的能力和活动范围，帮助人类更好地认识自然、利用自然、改造世界，解决实际生产生活问题，又能够促进人类社会现代化水平的提升，提高人类生活质量与社会文明程度，是人类为自己创造更加美好生活的重要工具和帮手。从工业革命时期为提高生产效率而发明的各类机器，到为便利生活需要而普及的电灯、电话、电视，再到当下智能时代出现的智能家居、自动驾驶汽车、人工智能医疗，都是人机友好论观点的有利佐证。

其次，人机友好论认为机器本身无涉价值，无关善恶，其应用及其所造成的后果完全取决于人类的主观选择。即使是对机器造成的失业问题，他们也能够为其辩护，认为工业革命中机器的大量应用使大量工人面临失业的危机，但同时也将人类从繁重的体力劳动中解放出来，促使劳动者通过提升受教育程度来找到新的工作，“高中毕业率从1890年的4%飙升到1970年的77%，全民智力前所未有地大幅度提升了。只要劳动者能够跟上科技发展越来越高的要求，二者就能够保持互补关系”（科尔文，2017，p.23）。与此同时，机器化大生产的模式极大地满足了人类的物质生活需要，丰富着人类的精神世界。这其实是在告诉我们，机器的出现与大规模应用本身是对人类有利的，不存在伤害与威胁，可是一旦被人恶意利用，就会制约人类发展、加剧社会不平等、带来各种无法预知后果的风险隐患。

一般情况下，越是人类社会发展的早期阶段，人机友好论越盛行。因为早期时代的机器具有较为朴素、单一的技术形态，是人类的得力“助手”，且完全处于人类的控制之下。在智能机器发展的初期阶段亦是如此，人类享受着机器智能化带来的各种便利。大多数科学家、工程师也都是人机友好论观点的赞同者，他们乐观地相信机器技术的进步是促成人类社会长足发展的动力，并且乐此不疲地从事着相关的技术研究，以期为人类带来更高效、完善、美好的生活，更有人一度断言：日本可能成为世界上第一个人类—机器人共存社会（包米克，2018/2021，p.333）。然而在科学技术日新月异、智能机器能力远超于人的今天，人机友好论无疑具有很大程度的片面性和局限性。当机器使人类面临失业压力、隐私泄露、数据造假等问题时，它还能被称为人类“友好的帮手”吗？当智能机器越来越“聪明”，甚至产生情感、观念时，它还甘心完全受控于人类吗？这些问题值得思考，也正是人机敌对论者观念的主要来源。

（二）人机敌对论

机器并非人类真正意义上的工具或好帮手，它是完全独立于人之外的它者，打破了人类原有的生产生活秩序、社会运行方式，甚至会异化为人类的“敌人”，这是人机敌对论的基本观点。人机敌对论者对机器的排斥不无道理，其反对意见主要有以下几个方面：

首先是机器对人类劳动地位的取代与AI失业问题。机器诞生的初衷是解放人类劳动，然而随着其快速演进与普及，似乎已经使人类劳动力变得过剩。机器造成的第一次大面积失业恐慌发生于第一次工业革命时期，当时的卢德主义者^④们用捣毁机器的方式来抵抗机器化大生产对自己岗位的威胁，但并未真正阻止机器发展的进程。自此之后，机器逐渐取代着人类的体力、技艺、脑力、智力劳动岗位，致使更多人失业，人类社会原本稳定的就业链条和平衡的分配状态被机器打破。

其次是机器对人类隐私的窥窃与行为的裹挟。在计算机、互联网、物联网、大数据与人工智能技术的支撑下，人类与机器共同步入一个万物互联的网络之中，一切行为都被数据化记录。福柯（Michel Foucault）称这种无处不在的监视为“全景敞视监狱”（福柯，1991/1999）。不仅如此，人工智能还通过对人类行为数据的获取与分析向人类提供具有针对性和诱导性的行为选择方案，在潜移默化中异化为人类行为的主宰方，人则沦为“工具人”或“机器人”。

再次是机器对社会面貌的改变和对人类独特性的威胁。弗诺·文奇（Vernor Vinge）曾预测，在未来三十年左右将创造出超人类智能，从而导致人类时代的终结（Vinge，1993）。在机器尤其是人工智能发展的过程中，对人的替代性和裹挟性不断增强。一方面，人类丧失了自主选择权，独特性被削弱，不再有被需要的价值；另一方面，人类的劳动方式、生活方式、分配方式、文化价值体系、政治经济范式都发生着深刻的变革。但是，人类身处这场人机关系变革之中，却尚缺乏有力而合理的应对措施，根本无力应对变化的发生。

最后是对机器失控问题的担忧。人工智能使人与机器成为世界上两个相互联系又相互对立的主体。2016年阿尔法在对战众多围棋高手的“人机大战”中大获全胜的事实似乎发出警示：人类在创造机器这一帮手的同时，也为自己创造出一个强有力的“敌人”。更让人担忧的是，机器的进化速度要远远快于人类的进化速度。当前，算法黑箱仍无从破解，人—机融合新样态使“人造物越来越像生命体，生命体则越来越工程化”（Kelly，2009，p.12）。长此以往，一旦当人工智能功能无限强大且具有意识、产生与人类不同的价值观时，难免会选择脱离人的控制而争取独立，甚至完全失控后的机器开始与人类作战，意图取代人类。机器失控是人机敌对论的极端形式，是对科技无限发展所致后果的恐惧与担忧，也是目前人机关系的探讨中最为关注的问题之一。

人机敌对论者对机器的排斥观点与法兰克福学派对技术的批判具有很大的相似之处。马尔库塞（Herbert Marcuse）曾感慨：“在现阶段，人们对他自己的机械装置或许比以前更加软弱无力”（马尔库塞，1964/1989，p.212）。霍金担忧，当人工智能发展到一定程度时，可能会引发人类的世界末日，人类自然进化的缓慢性使其在与机器的较量中被取代。这种对现实问题的观照能够使人类更加理性地对待、运用科学技术，但若过于极端，则会阻碍科技和人类社会的长远发展与进步。这也就衍生出了第三种关于人机关系的观念——人机协同论。

（三）人机协同论

人机协同论是人与机器相互依存、相互作用、共同进化的人机观。近年来，科学技术的日新月异与人工智能的快速普及使人机协同论的呼声越来越高。从某种程度上讲，人机协同论是对智能时代人机关系复杂性走向的一种被动选择。根据不同的领域维度与实践方式，可区分依赖式、嵌入式两种人机协同的模式。

其一是依赖式协同——机器参与、塑造人类社会的运行。依赖式协同指的是利用机器在某一特定方面的卓越能力来帮助人类，便利生产生活，提升社会运行效率。该协同模式的形成具有两个基础：一是机器的能力日益强大；二是人对机器的依赖日益增强。“在被期望的人机协同中，人类负责目标的设置、形式的规划、标准的确定与实时评估。计算机将执行惯例工作，这些需要以技术或者科学思考的方式进行洞察和决策。初步的分析表明，共生关系将比人类独自完成智慧活动更加有效”（Licklider，1960，pp.4-11）。目前，智能机器已经覆盖于人类社会的各个领域，运用其深度学习、数据分析、综合运算、高速运转等超人能力帮助人类处理各项事务，解决实际问题，提升效率。

其二是嵌入式协同——机器与人类物理边界的联通。这是将人类与机器在物理上进行联通抑或是人机界限上的突破。这种协同的结果包括打造“机器化人”，实现“人的数字化改造”及催生虚拟平行空间。赛博格是人机物理协同方式的典型代表，它延伸人类的器官、改变人类的神经网络、拓展人类能力范围、开辟人类实践领域，形成人—机融合的新样态，元宇宙则力图通过数字孪生技术和可穿戴设备在人类现实世界的基础上建立一个具有平行性、超越性的新型社会体系化与虚拟数字生活空间，“现代医学和外科手术使用嵌入式设备和可穿戴设备（如起搏器、智能假肢、心率和脉搏监测器）变得普遍，……可能不久以后人类和计算机就可以通过直接的神经接口连接起来”（包米克，2018/2021，p.493）。科技研发人员及工程师还不满足于此，正在试图为人工智能研发仿真大脑，旨在让智能机器拥有与人一样的动机、情感和意志，最终与人类并肩作战，同向而行。

人机协同论者意识到了人机不可分割的事实，并试图调节近代以来的人机矛盾，这一点无疑是有进步意义的。但他们忽视了人机关系的复杂性问题，片面地将人机关系的紧密性解读为人机一体化甚至人—机共生的发展模式，将机器看作与人对等的主体性存在物。这种观点从短期来看，或因机器能力有限、尚无法与人类抗衡而一片大好，但也难免被认为具有一种消极宿命论倾向。尤其是当进入强人工智能和超人工智能阶段后，则会让人类陷入无尽的被动之中。“人拱手把自己的主体性让给机器，正如一个国家拱手把主权让给别国一样，都是不可饶恕的犯罪行为”（林德宏，1999，p.144）。纵使技术水平能够实现人—机的达尔文式进化融合，我们也不该如此，因为这已经触碰了伦理禁区和科研红线，可能会对整个人类种族的永续发展带来极大的威胁与挑战。“AI新无知之幕”提醒我们要对人机关系的未来走向持一种警惕、审慎的态度，因此，人机协同论亦不是能够把握人机关系走向的最佳之选。

三、以技术控制的选择论应对新挑战

目前，在三种主流的人机观念中，友好论描绘了一个乐观主义视角下的“机器理想国”，敌对论在悲观中刻画出“机器敌托邦”的图景，协同论则抱有一定的消极宿命论倾向，试图与机器相互协作、平等共生。这三种观点看似有理有据，实则皆具有一定的局限性和片面性，既不能改变人机关系复杂纠葛的现状，亦不能有效地保证机器纯粹地造福人类。“走向行动”的技术哲学“试图破除技术哲学的悲观主义魔咒，着力解决高新技术引发的社会伦理问题，努力控制新技术发展”（刘永谋、李尉博，2022，p.A01）。落实到人机关系问题上，则是要在分析人机关系“是什么”“为什么”的基础上，更进一步思考“怎么办”，给予有效性原则和务实性建议。

（一）技术控制的选择论的理论建构

以技术控制的选择论应对新挑战是处理当下人机关系复杂性与“AI新无知之幕”的新路径，其根本宗旨是让机器更好地为人类服务。主张在鼓励支持机器智能化、创新性革新的同时，对新科技下机器的发展想方设法地干预、引导与控制。与这一主张相对的是技术失控论。技术失控论是站在技术的悲观主义立场上，对技术长期自主发展导致人类主体性缺失、技术垄断、算法偏见、价值异化等后果的一种预见性批判。

很长一段时间以来，受技术失控论的影响，人们颇为警惕“机器失控”问题。世界上第一台电子计算机问世不久后，控制论专家艾什比（W. Ross Ashby）向人类敲响警钟：机器可能统治人类（艾什比，1960/1991）。维纳（Norbert Wiener）更是直言：“如果机器变得越来越有效，而且在一个越来越高的心理水平上运转，那么巴特勒所预言的，人被机器统治的灾难就越来越近了”（冯天瑾，1983，p.40）。《机器人排挤人的地方》一书指出，当机器能够独立思考时，“人类完成了自己的历史使命，不必继续生存，应该完全消灭”（德拉勃金娜，1958/1959，pp.130-131）。从现实情况来看，对机器失控的顾忌虽不无道理，却太过谨慎。“即使计算机通过了图灵测试，我们也可以认为它可能并没有像人类那样思考”（Arnold & Scheutz，2016，pp.103-115）。毕竟机器是由人设计的，纵然具有一定的自主程度与学习能力，但仍受人类控制。

技术控制的选择论指明，与其过分乐观肯定技术的价值或悲观担忧技术异化对人的威胁，倒不如从主观能动性的角度去鼓励诸种技术控制的努力，真正思考在科学技术发展方兴未艾的当下是否要“控制技术”，如何掌握好“控制技术”的分寸，让技术真正造福人类。技术控制的选择论强调，技术问题所关涉的归根结底还是人的问题。维纳曾在Science杂志上撰文，提醒技术创新者：“我们最好能够非常确定，我们给予机器的目标是我们真正想要让他们做的事情。”技术哲学家米切姆（Carl Mitcham）指出：对技术的智能控制要求：1）知道我们要用技术做什么，技术活动的导向或目标；2）在运用技术实际执行行动之前了解技术行动的后果；3）将智力转化为积极的意志（Mitcham，1994）。

具体到人机关系问题上，技术控制的选择论则开辟了区别于人机友好论、敌对论、协同论之外的理解与处理人机关系的第四种路径，即让其发展但不任其发展。让其发展，指的是要积极探索和发展能够更好服务人类的机器形式，运用新技术创造更加美好的生活。不任其发展，是说要为机器的能力和智能化程度设限，其发展目的只能是造福全人类，禁止任何触及科研红线和伦理禁区的行为。事实上，人类已经开始认识到在当代复杂的人机关系中应该掌握主动权、使AI更好地造福人类这一问题，例如制定“阿西洛马人工智能23条原则”，设置“人工智能人类福祉奖”（又称“AI界的诺贝尔奖”），颁布《新一代人工治理原则》等行动。这些举措的动机皆集中在打破算法黑箱，发展可解释AI模型，保证AI安全可控，维护社会公平正义，确保让AI更好地服务社会（而非改进或研发性能超强的算法）方面。

（二）技术控制的选择论的展开原则

如何开辟一条界于“机器理想国”与“机器敌托邦”中间的道路，让机器在可控的范围内更好地造福人类？技术控制的选择论注重协调机器、社会、人三者的关系，将以人为本作为人工智能发展的根本原则，强调人类在机器发展与人机关系中的主导性作用。其推进应以以下原则为基础。

1.  把握道德性原则，厘清机器的人造性与人的道德性问题，规范人的行为

各界对人机关系认知的不同观点意见与未来图景预测最终都会落脚到“人类能否控制机器”的问题上。曾经有学者提出，为了人类的安全，应该建构一种人工道德智能体（Artificial Moral Agents，AMAs），让人工智能具有基本的道德敏感性，逐步使人工智能和机器具备道德决策能力，并随着智能技术和人机交互的进步而进化、发展（瓦拉赫、艾伦，2009/2017）。这种以伦理方式防止人工智能威胁人类的道德设计方法看似合理，但实则具有极大不可控性与不合理性，无异于将人类的命运交付于机器的手中。技术控制的选择论认为，机器的人造性特征决定了机器是由人类设计、制造并使用的，人到底能不能控制机器最终取决于人类自己“想不想”和“能不能”的问题。机器的智能也根源于人类智能，机器的道德问题归根结底还是人的道德问题，机器行为的善恶最终指向设计者与使用者的善恶。因此，让机器具有道德的根本途径在于让人具有道德，规范机器行为的关键在于规范人的行为，将“以人为本”的“善”念融入机器设计、制造、推广、应用的各个环节，保证机器是为增进人类福祉而设计。

2.  秉持AI设计的有限主义原则，增强对机器行为的预见性

该原则指明，机器行为的是非善恶取决于人的设计选择。技术控制的选择论强调人类在人机关系中的主导性作用，认为保证人工智能行为安全、可靠、可控的关键在于秉持AI设计的有限主义。结合中国具体国情，就是要秉持谦逊的有限科技观，既相信科学，又不迷信科学唯一，时刻警惕、防范、预测新科技成果会带来的各种风险，真正站在符合全人类利益诉求和人族永续发展的角度上去开发、研究人工智能的新本领与新样态。一方面，人类在进行AI设计与使用时要有高度的预见性，在设计AI时就考虑到约束问题，时刻把握AI发展节奏、熟悉AI行动规则，实时干预、控制AI的自主化程度，增强对AI行为过程及后果的控制力。另一方面，人类要为机器行为的“非预见性”领域留下缓冲的余地，避免其行为失控。即为AI规定具体情境中的行为禁区与界限，并确保其在遇到程序规则范围外的突发情况时能够及时停下来等待人类的下一步指令，而不是根据之前学习的数据和操作系统自作主张。

3.  落实AI实用性原则，做好有限性和无限性的统筹

事实上，使人类真正获益的并非AI的类人程度有多高，抑或当AI具有自主意识后具有多好的道德品质，而在于其是否真正实用，能够更好地造福全人类。技术控制的选择论要求，人工智能的发展要在有限性的基础上追求无限性。有限性指的是为AI的自动化、智能化程度设限。当前科学技术的发展日新月异，只有想不到的，没有做不到的，未来必将衍生出更强大的人工智能模式，甚至出现具有主观意志的AI。因此要从人文主义的视角出发，对AI的研发应用进行审度与规范，有选择地创造和应用新技术，切不可为求一时之新奇特而突破科研禁区和伦理红线。无限性指的是在“如何使AI更好地造福人类”这一问题上的探索是永无止境的，要不断发明能够服务人类的新技术成果。这种无限性中还包含可变性、相对性的成分，这意味着切不可一成不变地看待人工智能的发展与红线问题，所谓的伦理界限也是有时间纵轴的，人类要根据不同时代下的不同社会现状与需求，相应地调整与改变AI的研发政策与伦理规范。

（三）技术控制的选择论的推进战略

当前人工智能技术方兴未艾，人机关系矛盾复杂。国务院（2017）印发的《新一代人工智能发展规划》指出：“在大力发展人工智能的同时，必须高度重视可能带来的安全风险挑战，加强前瞻预防与约束引导，最大限度降低风险，确保人工智能安全、可靠、可控发展。”技术控制选择论符合中国国情和现有科学技术水平，是目前较为合适的人机关系处理方案，能够凸显人工智能的实用性功能，让其更好地改善人类生活，增进人类福祉，其落实可以围绕以下几个层面展开：

第一，注重人工智能相关政策法律的内容完备性、制定前瞻性与行动落实性问题。人工智能作为科技伦理治理的重点领域，其伦理问题已经引起社会各界的普遍重视，相关规则与法律亦层出不穷，但仍存在一定程度上的被动性和滞后性。制定规则与立法的关键在于规范与预防，因此，对人工智能发展的当下、近景与远景问题要进行区别性、针对性的长期规划，开创预见性与引导性、干预性、控制性并举的治理局面。既要不断充实完善相关政策法规的内容，设置“当为与不当为”的界限，打造公平公正、开放包容、畅通共享的人工智能发展平台，又要提升相关政策法规制定的前瞻性，避免“先出问题、后立规则”的追溯性行为。最终保证政策法规落实的可行性与规范性，让人工智能行为真正有迹可寻、有法可依。

第二，妥善处理好人工智能的责任分配问题，确保责任分配的精准、公平、公正。人工智能的责任问题，并不是要制造出有道德的人工智能系统，而是告诫人类要以负责任的方式进行人工智能的开发研究。在人工智能的责任分配问题上应清晰地意识到，其行为后果的真正责任方是与之相关的人。一般认为承担责任需具有三个条件：1）因果力量，即行为对后果产生了影响；2）该行为处于行为体的控制之下；3）行为后果的可预见性（Jonas，1985，p.90）。由此推断，人工智能责任的真正承担主体，应该是包括投资者、设计者、生产商、工程师、销售者、使用者在内的责任共同体而非其本身。在进行责任分配时，要具体问题具体分析，兼顾律法的理性与伦理的温度，在公平与公正原则的指导下合理配责、精准定责、有效追责。

第三，增强AI工程师人文主义工程教育的普及度、实践性与说服力。AI工程师是AI设计的主体与首要责任人，其人文主义素养程度直接影响着AI的价值取向与行为标准。然而目前的AI工程师人文主义工程教育中存在一些问题亟待解决，例如：人文社科领域推广呼声高，理工科研领域普及力度低；理论说教层面涉及内容多，实践案例层面涉及内容少。诸如此类问题难免会使教育的效果和说服力大打折扣，甚至沦为大而空的泛泛之谈。因此，一方面要构建高校、企业、科研机构、社会等多主体联动的教育共同体，让AI工程师人文主义工程教育既有学理上的普及与提升，又有实践上的观照与路径，从而真正激发AI工程师的社会责任感和担当意识，引导其处理好利益追求与伦理责任、发明创造与科研红线的协调性问题，进行“有限度”的研发；另一方面要切实培养AI工程师求真务实、开拓创新的科学精神和放眼全局、造福人类的思想情怀，引导其通过道德想象力、技术评估与行为研究等途径来承担前瞻性道德责任（杜严勇，2020，p.207），发展负责任的人工智能，确保研发动机与结果是使人类受益的。

第四，有效设置人工智能伦理框架，确保AI行为的安全可控。历史经验表明，所有技术的应用都有可能产生无法预测的后果。人工智能这种能力在各实践领域都远超于人类的新科技，尚存在较大发展空间和不确定性，我们更要通过设置伦理框架的办法，努力将其行为后果的负面影响降到最低值。伦理框架的设置要以有效性为指导原则，以提升人工智能的可溯源性、可解释性与可操控性为基础，确保其系统数据可以获取，算法使用清晰明了，信息传达准确无误。特别是对无法预见行为过程和后果的人工智能领域，应采取暂不触及的办法来控制，即使其成功可能会为人类带来较大的福利。

第五，切实维护用户隐私与数据安全，谨防技术与数据的滥用、误用与恶用。智能时代万物互联，电子设备与信息技术在人类不自知的状态下对人类所有行为记录一览无余。但是记录与存储权限不等于具有这些数据的使用权，更不能利用这些便利擅自监控、诱导、胁迫人类行为。从根本上来说，用户隐私与数据安全问题关系到人类对自我本性的把握与伦理边界的约束，要形成包括技术治理、运行体制、道德规范、自我塑造、法律约束在内的多方联动共建机制，禁止任何非利民目的的技术行为与数据滥用，为用户架起一道坚实的数字权益保护围墙。

第六，积极引导公众更好地理解人工智能。公众对人工智能的理解与接纳程度直接关乎人机关系的良性构建与社会永续发展问题，为此至少应做以下三方面努力：1）保证人工智能的友好性，确保其设计理念、用户体验、技术架构和现实使用环节的连贯性、便民性、可控性，使之真正融入而非凌驾于人类社会之上。2）增强全民科学技术素养，引导公众理解与掌握人工智能的基本常识性问题，从而转变认知方式与知识结构，适应智能时代包括劳动生产关系、分配制度、交往方式、生活方式、思维范式在内的各项社会变革，用好新时代发展下的新科技成果。3）激发公众的审度批判意识，发展自下而上的基层治理与协商治理模式。也就是说要引导公众有选择性地接纳人工智能而非照单全收，最终形成监督、防范人工智能行为极端、集权与滥用的合力。

本文系国家社会科学基金重大项目“技术治理理论研究”（项目批准号：21&ZD064）的阶段性研究成果。

注释

①该概念源自“无知之幕”（Veil of Ignorance）。原为政治学家罗尔斯在其著作《正义论》中提出的概念，用来形容在制定社会契约时，每个订约者都有自己的计划，但对于自己目前所处的状态以及未来将何去何从又全然不知，处于一种不得不去向未来但又对未来无法把握的状态。

②智能的层级分为：弱人工智能（Artificial Narrow Intelligence）、强人工智能（Artificial General Intelligence）、超人工智能（Artificial Super Intelligence）

③技术奇点，其背后的关键思想是人类创造技术的增速正在加快，技术的力量正在以指数级的速度扩张。在几十年内，以信息为基础的技术将涵盖所有人类的知识和技能领域，最终包括人类大脑自身的模式识别能力、解决问题的技能，以及情感和道德。

④卢德主义：出现于工业革命初期。工人认为机器化大生产造成了他们的失业局面，于是开始憎恨机器，用聚集在一起捣毁机器设备的方式加以反抗，以换取就业。现今，卢德主义者用于指代对抗技术进步与新技术应用的人。

本文参考文献从略，完整版请参看刊物原文

本文引文格式：刘永谋、王春丽：《智能时代的人机关系：走向技术控制的选择论》，全球传媒学刊，2023年第3期，5-21页。

机器人人文

相关文章

本公号定位学术，不参与任何商业活动或合作。

图源网络，侵删。