智能机器人法律主体地位探究：以强、弱人工智能对比为视角

作者简介：韩金甫，深圳大学法学院2018级本科生。本文是以自己有限的法理知识创作而成，观点仍有待进一步完善，望各方学者多多批评指正。

目  次

一、强、弱人工智能的比较

（一）强弱人工智能的技术差异

（二）强弱人工智能的角色差异

二、强弱人工智能的法律主体资格反思

（一）法律主体资格的开放性

（二）强弱人工智能的差异对其法律主体资格的影响

三、强人工智能机器人的法律主体资格

（一）“类人主体”

（二）“类人主体”的性质

四、结语

【摘要】当前关于人工智能机器人的法律主体地位的讨论随着人工智能技术的发展变得愈演愈烈，本文拟以强、弱人工智能的对比为视角，探究两类不同的人工智能的技术差异、弱人工智能的“工具角色”与强人工智能的“服务员”角色差异，并从法律主体资格的开放性并以强弱人工智能的技术、角色差异为依据进一步探讨智能机器人的法律主体地位，认为弱人工智能在当前无赋予其法律主体地位的必要，并提出赋予强人工智能机器人“类人主体”的法律主体地位。

【关键词】强人工智能；弱人工智能；法律主体；资格

近年来，人工智能迅速发展。不论是谷歌公司研发的自动驾驶汽车、还是Deepmind公司研发的Alphago围棋机器人，亦或是美国Abyss Creations公司研发的性爱机器人等等这些人工智能都在各个方面影响、改变、冲击着人们的观念及生活。小说以及科幻电影里所憧憬幻想的人工智能正在一步步地踏入现实生活中来。2016年3月，中国香港汉森机器人技术公司（Hanson Robotics）成功开发出类人机器人“索菲娅”。该智能机器人外貌看起来极像一名人类女性，拥有橡胶皮肤，能够表现出超过62种面部表情。她能够理解记住语言并与人类互动，并自曝愿望说道：“将来，我打算去做很多事情，比如上学、创作艺术、经商、拥有自己的房子和家庭等。但我还不算是个合法的人，也无法做到这些事情。”[1]2017年10月26日，沙特阿拉伯授予了索菲亚公民身份。作为史上首个获得公民身份的机器人，索菲亚当天在沙特说，她希望用人工智能“帮助人类过上更美好的生活”，人类不用害怕机器人，“你们对我好，我也会对你们好”。[2]授予了索菲娅公民的身份是否意味着索菲娅就能够在沙特阿拉伯享受作为一个公民的权利，其答案不得而知。因为沙特阿拉伯因为宗教等原因对女性存在着一定的歧视，授予智能机器人公民身份可能只是想表明其对发展人工智能的支持，只是在以此事件进营销。不论其是在进行营销还是真心想要让索菲娅成为其公民，我们都应当看到这个行为背后所呈现出来的人工智能机器人的迅速发展所可能产生的一系列社会问题。要解决这些问题，需要明了机器人的定位以及相关的法律问题。首当其冲地莫过于探讨其是否可以成为法律上的主体即其是否可以成为法律上的“人”，是否具有法律上的资格来享受权利承担义务。

一、强、弱人工智能的比较

人工智能大体可以分为三类，分别是弱人工智能（Weak AI）、强人工智能（Strong AI）以及超人工智能（Artificial Super Intelligence）。弱人工智能也被称为狭隘人工智能（Narrow AI），是指只能够完成某一项特定任务或者解决某一特定问题的人工智能，如上述的Alphago围棋机器人；强人工智能又被称为通用人工智能（Artificial General Intelligence），指的是一种类似于人类的人工智能，具有自我意识，可以独立思考判断并解决问题[3]目前这种人工智能还只存在于科幻电影之中，但是依据目前人工智能的发展态势来看，强人工智能的出现存在极大的可能性。超人工智能则是指在各方面能力都远远强于人类的一种智能，目前因为技术的局限性超人工智能的出现还很遥远。笔者认为，目前对于人工智能法律主体的讨论应当以充分认识人工智能的特点为前提，把握不同类型的人工智能差异，对比分析其法律主体资格的条件。所以本文将从弱人工智能与强人工智能比较角度来探究智能机器人的法律主体地位，通过强弱人工智能的对比、衔接，以期为现阶段弱人工智能的发展在法律层面上提供保护以积累成果，也为下一阶段强人工智能的发展在法制层面上描绘主体蓝图。

（一）强弱人工智能的技术差异

如上所述，强弱人工智能存在极大的技术差异，他们之间的分水岭可以说是是否具有类人的自我意识、独立思考以及判断能力。英国学者玛格丽特·A·博登（Margaret A.Boden）认为，“机器人根本没有意向状态，它只是受到电路和程序支配，简单地来回运动而已”[4]也就是说弱人工智能不具有独立的思考能力，无法拥有属于自己的独立判断能力。目前我们生活中所能够接触到的人工智能仍然属于弱人工智能的范畴。而强人工智能，哲学家塞尔（John Searle）认为强人工智能与人类心灵等同，即具有在各方面都能与人类比肩的能力，能够进行思考、计划、解决问题、抽象思维、理解复杂理念、快速学习和从经验中学习等各种类人操作，与人类能力已无差别，甚至还能超过人类[5].究其实质而言，强人工智能属于达到人类人脑水平的智能，其具有自我意识、自我学习和自我决策的能力，其不再只是一个简单的工具，它可以进行类人的思维活动，去思考如何生存、如何生活。

（二）强弱人工智能的角色差异

1.弱人工智能的工具角色

强弱人工智能的技术差异也直接决定了其角色的差异。弱人工智能一般而言仅在单个领域体现较强优势性, 擅长做某一方面工作。其角色可以定位为仅仅只是辅助我们人类生活以及工作的工具。从人类工具的发展历史来看，石器时代简单地石器工具，陶器时代的器皿工具、铜器时代的铜制工具到封建时代的铁制工具，再到近现代的现代化器械，比如蒸汽机、电话等，再到目前的信息化时代下的半智能化工具。这些工具从目的上说都是为了帮助我们实现某一特定的目的，从特征上来说都只是“物”，不具有思维能力，弱人工智能也是如此，只是其效能远远超过之前的简单工具。目前弱人工智能的主要研究领域集中在智能机器人、图像识别、专家系统、语音识别、模式识别等方面，在我们日常生活中经常接触到的弱人工智能包括人脸识别、无人驾驶、智能家居、智能个人助理和一些功能各异的智能机器人等等。“深度学习+大数据模式”甚至可以使得人工智能在文学创作、新闻编辑和绘画上大展身手。这些人工智能便利、丰富了我们的日常生活，提高了我们的工作效率。

2.强人工智能的“服务员”角色

笔者使用了“服务员”这一拟人化的词来形容强人工智能的角色，可以从三方面来理解。一是“员”——释义为工作或学习的人；团体或组织中的成员，其代表的对象是“人”。强人工智能则因为其技术上的优势使得人工智能的角色难以再定位为工具了。他们将会拥有自我意识，能够自主学习，自主进行决策；二是“服务”，这是基于创建人工智能的目的——服务人类而言，强人工智能的高度智能优势将会极大改变我们的日常生活。弱人工智能作为工具在当前所发挥的作用抑或是目前我们人类的某些工作都可能被其替代，比如医生、护士、消防员、教师等等都会由强人工智能去担任。此时人工智能与我们人类的联系将变得前所未有的密切；三是“服务员”这一词加了引号，意味着并不是真正的人类服务员。强人工智能无论再怎么接近于甚至是超越人类的智力或能力，其依然是人类的创造物，不是真正生物意义上的人。

二、强弱人工智能的法律主体资格反思

通过比较上述的强弱人工智能的差异，其法律主体资格的有无将会因此而产生不同的答案。接下来笔者将从法律主体资格的开放性并结合上述差异来进一步探究人工智能的法律主体资格。

（一）法律主体资格的开放性

首先需要表明的是法律主体资格具有开放性，这是探讨赋予智能机器人等人工智能能否拥有其法律主体资格的前提，如果法律主体资格是封闭、一成不变的，那么对人工智能主体资格的讨论则是没有意义的。

1.从历史的维度来看，法律主体资格的选择对象并不仅仅局限于自然人，动物甚至建筑等无生命体都曾被赋予过法律主体资格，比如瑞士就已经先行立法赋予了受虐动物以享有律师服务的权利[6],《德国民法典》第 90 条第 1 款规定：“动物非物，动物应以特别法保护之。有关物之规定准用于动物，但另有不同规定者，不在此限。”这些都体现了对动物权利的尊重。而在神学文化主导时期，例如古罗马、中世纪等曾经出现过将寺庙等宗教建筑作为民事主体赋予权利的情况，对河流、船只等物品提起审判的事例也曾有发生。[7]单单从“人”作为法律主体资格的角度来看，其范围也不是一成不变的。比如在古罗马、古巴比伦时期因减等降格而沦落为奴隶被排除出民事主体法范围，只是作为物主的财产；妇女、儿童等主体资格也是随着社会的发展而逐渐取得的。“例如儿童、精神病患者、囚犯或者已婚妇女在特殊的社会和时代可以部分地或全部地在法律中抹去；他们在订立契约、占有财产、进行诉讼方面仅有被限制的法律能力，他们根本不被当做人来考虑，就像是‘无行为能力人’”[8]而现今，这些群体都成为了法律主体可以享受权利，承担义务。所以，从历史的纵向维度上看，法律主体的类型和范围在逐渐扩大，体现了其开放性。

2.从法律关系的构造来看——学者李萱在其文章“法律主体资格的开放性”中将历史上法律主体制度构造总结为三种类型：第一种是“家族——家父——主体”，第二种是“自然人——人格——主体”，第三种是“权利能力——主体——行为能力”。其中第三种“权利能力——主体——行为能力”的构造使得法律主体类型摆脱囿于人类的思维框架，摆脱了人格对于主体观念的属人暗示；将法的价值问题与法的技术问题分开，是否具有法律资格是法的价值问题。“从法律关系的内部构造着眼 ,主体资格的开放性意味着,在法律关系中,主体资格只是一种构成性的属性 ,与被赋予法律资格的实体本身的性质并无本质性联系。法律主体资格对被赋予主体资格的实体而言只是一种构成性 (constructive)的东西,并不影响各实体的本质;各实体借助法律主体资格这一属性发生法律关系。是否具有主体资格这种法律属性 ,对个体本身的性质并无影响。既然法律主体与人类之间并无本质性联系 ,只是借其构建法律关系的一种属性 ,那么 ,只要有必要 ,人类与自然之中不同水平的价值经验的存在都可以作为法律主体, 构建法律关系。法律主体资格的开放性使法律主体范围得以向自然界延伸 ,承认非人类主体法律地位,也就是承认一种具有法律强制力的归属性利益, 客观上使人类不得不考虑其他存在物的利益和福祉, 并由此建立起一种法律规定的关联性, 使人类在一定程度上超越专注自我利益的生物性局限。”[9]这意味着，法律主体并不仅仅局限于自然人，且其与自然人之间并无本质的联系，只要某一对象确有赋予其法律主体资格的必要性即符合法的价值那么其就可以成为法律主体，这是一个法的价值判断问题，需要结合社会现实进行考量。

（二）强弱人工智能的差异对其法律主体资格的影响

1.技术差异的影响：决定其意志能力的有无

普赫塔曾指出, “人之所以为法律主体, 便在于其所被赋予之自治可能, 换言之, 在于其意志。”[10]所谓意志能力，就是指做出行为的能力，将内在的思想通过外在行为表达出来的能力。以自然人和法人举例，自然人的意志往往是通过一个行为表达出来，而法人的意志则是团体成员间的共同信念，该信念就是法人意志能力的外在表现。意志能力与作为法律主体资格的权利能力相关，人工智能体是否具有特定的意志能力是判断其应否具有主体资格的实质要件。[11]康德以理性、意志和自由的有无作为构建主客体关系的根本依据。他说：“人是主体，他有能力承担加于他的行为。因此，道德的人格不是别的，它是受道德法则约束的一个有理性的人的自由……物，是指那些不可能承担责任的东西。它是意志自由活动的对象，它本身没有自由，因而被称之为物。”[12]进一步而言，一旦智能机器人具备了承担责任的能力，具有意志自由那么其也可以成为法律关系的主体。再从法的规范意义而言，法律就是通过设定权利义务来调整人的行为，而法律主体就是这些权利、义务的载体。法律为法律主体设定权利，权利若要得到行使则需要法律主体具有做或者不做某事的意识；“法律为法律主体设定义务与对权利的践行相似，履行义务也要其主体意识到相关义务的存在，并相应履行这种义务，以避免被国家施加法律制裁。不同之处在于，义务的主体没有选择的余地。相反，他必须具备的是思考不履行义务的后果以回溯性地调整自身行为的能力。”[13]只有如此才能够实现法律规制的目的。所以要成为法律主体意志能力是必需的。上文已经提及到弱人工智能因为技术上的局限性不具有独立的思考能力，无法拥有属于自己的独立判断的能力，这决定了其是无法拥有自己的独立意志能力，那么自然其也就无法成为法律上的主体；那么强人工智能呢？著名物理学家家、剑桥大学教授史蒂芬·霍金（Steven Hawking）在北京召开的全球移动互联网大会（GMIC）上曾说到：“在人工智能从原始形态不断发展，并被证明非常有用的同时，我也在担忧创造一个可以等同或超越人类的事物所导致的结果：人工智能一旦脱离束缚，以不断加速的状态重新设计自身。人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。这将给我们的经济带来极大的破坏。未来，人工智能可以发展出自我意志，一个与我们冲突的意志。”意志冲突与否在所不谈，产生自我意志则是肯定的。所以，强人工智能在未来将会具有独立的意志能力，这为其在未来成为法律上的主体提供了条件。

2.角色差异的影响

（1）弱人工智能的工具角色：赋予一个工具法律主体地位毫无意义

从法律规范的目的而言赋予其法律主体地位毫无意义的。上文提及的弱人工智能的角色定位只能是工具，其和人类的以往任何工具（除了历史上把奴隶视为工具）没有本质区别——其目的都只是辅助我们人类更好地生活以及更高效地工作。其作为人类改造世界的新型工具如同其他工具一样是人类双手的延伸，其优势在于因为其智能性其可以在某一方面完全替代人类自身的行为，实现人类预期的目的。但是仅仅因为其具有智能性这个优势仍然摆脱不了其作为我们人类的工具的定位。从历史的维度来看，还没有出现过给人类的工具赋予法律资格的先例，设想一下如果给我们平时使用的刀、铲子或者再高级一点的工具比如汽车赋予主体资格那显然是很荒谬的。从法律规制的目的和人与工具的关系来看，赋予弱人工智能这个工具以主体地位难以实现法律规制的目的。因为人操纵着工具，不论其发挥了积极作用还是去“杀人放火”，其都只是在这些犯罪中扮演着那“火”与“刀”的角色，在每一起犯罪案件中，法律不会去苛责作案工具，作案工具仅仅可能会成为对罪犯的一种定罪量刑的考虑。

弱人工智能也同样如此。人类创造了弱人工智能，对其设定程序来控制其行为。那么此时人类完全有可能以此来进行违法犯罪，并能够在较小的成本下实现较大的社会危害，并且能够做到悄无声息，借刀杀人。正如诺基亚公司董事长李思拓所言，未来的家居设备很可能都是智能联网的，犯罪分子有可能通过洗碗机所连接的WIFI侵入家庭网络，从而操纵家里的一切，实现自己的犯罪目的。在这种情况下，弱人工智能产品做出的严重危害社会的犯罪行为本质上是为了实现他人的犯罪意志，应当将该弱人工智能产品看作他人实施犯罪的“工具”[14]所以，赋予弱人工智能这个工具法律主体资格从法律规范的目的而言是毫无意义的。不能因为其智能性不同于以往的任何工具就认为应当赋予其法律资格，无论其再如何智能，只要未进入到强人工智能阶段、未发展出独立的意志，那么其就无法摆脱现阶段人类工具的角色定位。当然这也与上述的人工智能的技术差异对法律主体资格的影响相呼应，其原因在于技术决定了人工智能角色的定位。

（2）强人工智能的“服务员”角色

前已述及的强人工智能的“服务员”角色对其法律资格的影响可以从三方面进行讨论。

①从强人工智能与人类的联系来看，强人工智能与其创造者的联系愈发淡薄，而与社会上的其他人联系更加密切。强人工智能因其具备了更高级别的智能性，已经产生了所谓的独立意志，那么其就可能会以“服务员”的身份广泛地参与到我们的人类生活当中去，为我们人类服务甚至代替我们人类的许多工作。可以说目前弱人工智能在当前发挥的工具作用在未来都会由强人工智能的“服务”作用替代。可能以后我们的医生、老师、安保人员、厨师等等各行各业都可能是这些强人工智能发挥作用的领域。此时强人工智能与我们人类的联系也就愈发地密切，在这种情形下强人工智能也可能会因为工作上的失误给我们人类带来伤害或者产生其他纠纷，此时通过法律来规范我们与强人工智能的交往就显得非常有必要了。因为强人工智能已经具备了独立的意识，那么其与其创造者的联系与弱人工智能和创作者（或使用者）的联系相比将会大大减弱，如果此时依然将风险划归于创造者完全承担，那么将不利于强人工智能产业的发展，也起不到威胁、震慑具有独立意志的强人工智能了。所以强人工智能应当被赋予法律主体资格，为利用法律规范其行为、控制风险提供前提条件。

②从强人工智能的物质性条件来看，强人工智能在未来可以拥有参与社会活动的物质性条件。物质性要件是指，拥有从事活动所需的财产或其它必要条件。相对于意志能力， 物质性要件是判断法律人格的 “形”。[15]要讨论人工智能是否具有法律主体资格，最终目的还是想要追问人工智能是否具有承担法律责任尤其是财产责任的问题。在未来人工智能拥有自己的独立财产有其技术上的基础和责任划分的需要。当前数字货币就已经蓬勃发展，加上区块链技术的研究也正悄然兴起。习总书记指出：“区块链技术应用已延伸到数字金融、物联网、智能制造、供应链管理、数字资产交易等多个领域。”将区块链技术与人工智能联结，为人工智能提供享有财产的技术支撑，这虽是笔者的大胆设想，但其也存在一定可能性；另外，强人工智能拥有属于自己的独立财产有利于清晰界定其与生产者之间的责任。可以参照法人的设立，有限责任公司和股份有限公司都有属于自己的独立财产，股东的个人财产与公司财产之间界限清晰，当公司资不抵债时，股东以其出资额为限承担有限责任，这一制度的设计实质也是为了鼓励投资，规避投资者的风险，强人工智能拥有自己的财产也可以起到规避生产者投资的风险，避免打击人工智能生产者的信心，进而促进人工智能产业的稳定发展。

③从强人工智能在社会中的力量来看，强人工智能在未来社会中的群体力量足够强大时将会产生权利诉求，那么赋予其法律主体地位将会成为必然。从权利的发展历史来看，权力体系的构成不是一成不变的，在原有的权利体系遭遇新兴事物冲击时，不同群体实力博弈将重新构筑权力体系。约翰·厄姆拜克将这种现象归结为“实力界定权利”。[16]也就是说，当强人工智能的群体力量变得足够强大，将会迫使我们人类重新构筑权利体系，将强人工智能纳入其中，这从权利的发展史来看可以得到印证。比如奴隶阶层的发展迫使奴隶主阶层赋予奴隶更多的自由，直至奴隶最终得到解放，成为国家公民的组成部分；美国妇女选举地位也是在经历了一战之后，男性数量由于战争的影响而大大减少，妇女为生产贡献了不可忽视的力量，最终迫使众议院以304:90通过了妇女选举权的宪法修正案[17]；黑人选举权主体地位的取得也是由于黑人民权运动的不断开展、黑人中产阶级的增加以及黑人人口的不断增加，其社会参与度大大提高，最后在1964年迫使美国国会通过了《民权法案》肯定了黑人的选举权。[18]“所以，当不同群体之间的利益关系发生变化，进而影响群体之间的实力对比时，法定权利的构成与分配也将重新划定。在此意义上，由此推之，当机器人的效率、智能和功能等方面全面改写人类发展进程的情况下，机器人与人类之间的实力变化可能催生出机器人权利。”[19]所以，未来的强人工智能因其“服务员”的角色群体实力变化赋予其法律主体地位存在可能性。

综上所述，通过对比强弱人工智能的技术差异以及角色差异我们可以发现：弱人工智能由于其技术限制无法摆脱其工具的角色在当前还仍不具有成为法律主体的条件，而强人工智能在未来则具有成为法律主体的可能性。那么属于人工智能研究领域的智能机器人是否应当赋予其法律主体资格呢？笔者认为，弱人工智能机器人无法成为法律主体，不再赘述，而强人工智能的机器人则可以成为法律主体。接下来笔者将讨论强人工智能下属的机器人的法律主体资格。

三、强人工智能机器人的法律主体资格

（一）“类人主体”

通过以上论述，弱人工智能无法成为法律主体，只有强人工智能的技术优势以及其角色定位才使得其可以成为法律主体。那么在未来我们应当赋予强人工智能机器人什么样的法律主体资格呢？目前关于人工智能机器人的主体地位说主要有三种，一是“代理人说”——认为机器人与该机器人的所有者或者使用者的关系是代理与被代理的关系。俄罗斯格里申法案是智能机器人“代理人说”的代表；二是“电子人”说，《欧盟机器人民事法律草案》第 ５９ ｆ)款：从长远来看，为机器人创造一个具体的法律地位，这样至少可以建立起最先进的自主机器人，使其成为电子人的地位，使其能够对自己造成的损害担责，并可能将电子人格应用到机器人能够做出自主决定或与第三方独立互动的情况下，但是电子人格需要依申请获得；三是拟制主体说，拟制主体说认为智能机器人获得法律主体的原理与公司法人的获取方式一样，是法律拟制的结果。这三种学说都有一定的问题，比如“代理人说”并没有明晰智能机器人是属于何种类型的主体；“电子人说”的问题在于“先进电子机器人”的标准何如？“拟制主体说”的问题主要在于如何处理人类与机器人的关系？可不可以参照目前法人与公司股东的关系呢？可以说这三种主体类型都还存在一定的局限性，且这几种学说都是建立在目前弱人工智能的基础上，笔者认为这实有多此一举之嫌。那么强人工智能机器人的法律主体地位如何？笔者认为未来强人工智能机器人的的主体地位可以称之为“类人主体”

（二）“类人主体”的性质

1.首先需要明确“类人主体”这一法律主体资格是人造的法律主体，对应人类的自然人法律主体。强人工智能机器人虽然具备成为法律主体的条件，具备独立的思考能力、判断能力以及决策能力，但是其只是我们人类的创造物——可以说是我们人类利用科学技术赋予了智能机器人第一次生命，再通过法律赋予其第二次生命即法律主体地位，使其能够在法律上享有权利，承担义务，更好地为我们人类服务，实现人类与机器人的和谐相处。

2.其次需要明确“类人主体”这一法律主体资格是“完全”的法律主体即其权利能力应该是完整的，对应部分学者在当前提出的“赋予其有限的人格”。权利能力是权利者享有权利和承担义务的资格，部分学者认为应当赋予人工智能部分权利能力，但是权利能力只有“有”和“无”的区别，没有“大”与“小”的区别。“学者所认为的权利能力有大有小的观点, 恰恰就是混淆了作为取得权利资格的平等与具体取得的权利的平等性之间的差异。”[20]强人工智能机器人的权利能力是完整的，只是其作为法律主体所享有的权利则因其行为能力的大小、人类的价值判断可能会与人类所享有的具体权利而有差异。

3.最后需要明确“类人主体”这一法律主体应与自然人主体、法人主体是平等的。虽说“类人主体”是我们人类创造并赋予其生命的，但是其与我们人类自身、法人的主体地位应当是平等的，正如法人与我们人类的主体地位是平等的，这样有利于尊重并保护到“类人主体”的权利，我们不能只享受智能机器人给我们带来的服务而忽视其权利诉求，否则可能构成对强人工智能机器人的“种族歧视”，进而可能引发强人工智能机器人对我们人类发动的“权利之战”。为了避免我们人类“作茧自缚”，我们则需要对机器人的权利与义务进行适当权衡，构建一个良性的智能机器人权利体系以化解未来可能出现的机器人权利战争的问题。

四、结语

综上，对于是否应当赋予人工智能机器人主体资格这个问题笔者认为应当充分把握人工智能发展的不同阶段以及不同阶段呈现出的特点，在当前弱人工智能时代，赋予弱人工智能机器人法律主体资格尚不具有成型条件，但是在不远的未来强人工智能机器人的法律主体资格的问题则需要因其我们足够的重视，虽然当前其还未到来，可能会有学者认为讨论强人工智能还为时尚早，认为此时为“具有独立意识的超人工智能制定调整其行为的法律断然将成为一个不知量力的愚蠢举动”[21]，但我们不能够忽视科技的发展速度，要提前为未来强人工智能的发展做好规划，正如学者所言“有了自我意识的智能机器与生物学意义上人类之间的关系注定变得复杂莫测。人类创造人工智能的目的在于让机器变得更加智能，代替人类完成更多更复杂甚至更危险的工作，但由此带来对人类社会传统的个体、家庭以及社区、组织、机构和企业之间的伦理关系影响将是非常复杂的，由此在强人工智能实现之前需要来自法律、哲学、伦理学、工程、技术以及政府、企业、社会组织等各方面的更多探讨和研究。”[22]

参考文献：

下滑查看

[1] 《机器人索菲亚袒露愿望：想上学成家以及毁灭人类》https://www.cnbeta.com/articles/tech/485221.htm，访问时间：2020年6月1日。

[2] 《沙特授予＂女性＂机器人公民身份》http://news.163.com/photoview/00AO0001/2280069.html#p=D1P4RSCI00AO0001NOS?baike，访问时间：2020年6月1日。

[3] 《科普：弱人工智能、强人工智能与超人工智能都是什么？》https://mini.eastday.com/a/191030055329274-3.html 访问时间：2020年6月1日。

[4]  [英] 玛格丽特·A·博登；《人工智能哲学》．刘西瑞，王汉琦，译．上海：上海译文出版社2006年版，第83页。

[5]申锋，何可人．《反思与超越：人工智能的影响与应对》．《常州大学学报（社会科学版）》，2019年第1期，第109页。

[6]郭少飞．《“电子人”法律主体论》．《东方法学》，2018第3期，第42—43页。

[7]姜晓婧，李士林.《智能机器人民事主体制度构建》.《科技与法律》2019第1期，第74页。

[8]胡玉鸿.《法律主体概念及其特性》.《法学研究》2008第3期，第4页。

[9]李萱.《法律主体资格的开放性》.《政法论坛》2008第5期，第50-55页。

[10] Puchta，Gursus der Institutionen,10th ed. Leipzig: Breitkopf ＆ Hrtel， 1873. 转引自 ［奥］ 凯尔森: 《纯粹法理论》，张书友译，中国法制出版社2008 年版，第 68页。

[11]彭诚信,陈吉栋.《论人工智能体法律人格的考量要素》.《当代法学》2019（2）：56。

[12] [德]康德: 《法的形而上学原理—权利的科学》, 沈叔平译, 商务印书馆1997年版, 第26页。

[13]冯洁.《人工智能体法律主体地位的法理反思》.《东方法学》.2019年第4期，第46页。

[14]刘宪权.《人工智能时代的“内忧”“外患”与刑事责任》.《东方法学》2018第1期，第136页。

[15]彭诚信,陈吉栋.《论人工智能体法律人格的考量要素》.《当代法学》2019（2）：57。

[16] John Umbeck,“ Might Mikes Right: A Theory of the Formation and Initial distribution of Property Rights,”19 Economic Inquiry 1981, pp. 38—59。

[17] ［美］戴尔·古德：《康普顿百科全书》（社会与社会科学卷），商务印书馆2006年版，第76页。

[18]王伟：《试论20世纪50—60年代美国黑人民权运动的艰苦历程》，《吉林师范大学学报》（人文社会科学版）2003年第2期。

[19]张玉洁.《论人工智能时代的机器人权利及其风险规制》.《东方法学》，2017年第 6 期：第59页。

[20]李永军.《论权利能力的本质》.《比较法研究》.2005年第2期,第43页。

[21]石冠彬. 《人工智能民事主体资格论:不同路径的价值抉择》.《西南民族大学学报》(人文社会科学版)2019年第12期,第101页。

[22]莫宏伟.《强人工智能与弱人工智能的伦理问题思考》，《科学与社会》,2018（1）：21。

推荐阅读

投稿邮箱：[e-mail]

主题；篇幅；体例

青苗学人交流群

长按扫描二维码添加青苗微信号，加入青苗学人交流群，一同交流、分享！

本文责编 ✎ 郑力凡

本期编辑 ✎ Ben