冯象 | 从阿西莫夫到奥古斯丁

近日，清华大学法学院梅汝璈法学讲席教授冯象先生做客华东政法大学，此番讲座无关《圣经》解读，也与法理学无直接关系，却从前段时间热极一时的AlphaGo与李世石九段的对弈说起。抛开对弈的棋局不论，仅从人工智能（AI）的角度出发有着里程碑意义。因为，AlphaGo的设计是从完全信息博弈的游戏里战胜了人类顶尖棋手，所谓完全信息博弈是指参与双方都完全了解规则，并且具备学习规则的能力，这引发了冯象的兴趣是，加入机器在一切规则清晰、任务明确的工作上能够取代人类的话，那人类社会将如何应对？

AlphaGo还是狭窄的人工智能，它的智能所运用范围只是围棋。但是，从AlphaGo所展现出人工智能的潜力而言，如果类似的水平的人工智能可以在通用智能上获得发展，在自然语言上有更为广泛地运用，那么人工智能或许就不再是被人类所利用，而可能与人类平等共处的对象了。冯象举例子说，目前人工智能对自然语言的克服已经有了不小成就，清华大学语音与语言实验中心（CSLT）研发的机器人“薇薇”可以作诗，经过中国社科院有关专家评定，“薇薇”通过了“图灵测试”。通过“图灵测试”意味着人类在语言层面无法分辨人工智能与人类。而“薇薇”受到最高评价的一首诗，名曰《早梅》：“春信香深雪，冰肌瘦骨绝。梅花不可知，何处东风约。”专家的点评是：“下字用力，少年人学诗宜如此，然锻炼过甚，终非上善。”由此可见，“薇薇”作诗已有苦吟的气息。另一首名曰《镜》，更是被评价为：“咏闺中物用五言，易见齐梁风味，恨体物未精。”同样，在语言翻译等等其他领域，人工智能也会大有作为，冯象老师说，他可能是人类翻译《圣经》的最后一代。 那么人工智能扩展到其他领域，当它们的操作与人类不相上下，甚至超过我们的时候，人类的生存状况会发生怎样的改变？冯象从最为熟悉的法律领域做出解释，他推测法律领域将会是人工智能广泛运用的领域，这是同人工智能的算法与法律自身的性质所决定的。法律事务要求规则清晰，绝大部分案件信息透明，可以运用明晰的规则做出断案。今天大量的司法从业者只要遵从法律条例，就能够正确完成工作，而人工智能在不久的将来会游刃有余地处理此类案件。而人类只需要在信息不充分，规则不明确，需要因人而异的复杂案件中发挥自己的才能。 如此一来，人工智能便从自然科学领域冲击了现有的法学人员结构，甚至会影响到大学的法律专业。更重要的是，未来的法律争论都需要借助人工智能理清思路，就像我们今天的行政管理不能离开电脑一样，法学必须要变革的危机就回到来。人类究竟是选择与机器相合作？还是选择让机器彻底地自动化，以至于人类完全不用操心这件事情？ 

或许我们会觉得这种担心是否过早了？或者又过于想象力丰富了？其实不然，《资本论》时期的马克思曾经写过有关机器问题的笔记，他在19世纪就从经济学与哲学的视角分析了机器能够解放劳动力的可能性，在他的基本判断中，进入生产领域的机器最为重要的贡献是将劳动力从工作中解放出来，生产资料的生产不再由人来完成，而是由机器来完成。于是，人类将在生产力得到进一步发展的同时，获得了巨大的闲暇时间。闲暇时间与人类的自由及其个性全面展开息息相关，冯象先生在讲座上援引了马克思在《德意志意识形态》里关于共产主义的著名设想：“而在共产主义社会里，任何人都没有特定的活动范围，每个人都可以在任何部门内发展，社会调节着整个生产，因而使我有可能随自己的心愿今天干这事，明天干那事，上午打猎，下午捕鱼，傍晚从事畜牧，晚饭后从事批判，这样就不会使我成为一个猎人、渔夫、牧人或批判者。”不同于马克思更多从生产力与生产关系来展望机器的大规模运用，冯象的关注点仍然集中在人类与人工智能的相处模式之于法律与伦理格局的挑战。

从阿西莫夫到奥古斯丁

在不久的未来，当人机相处就像现在人与人之间相处这样广泛地时候，人与机器之间的交往规则，也一定同人与人一样需要伦理与法律的规范。人类交往的伦理意义是，每一个人背后都有一套文明传统的支撑，语言、习俗、禁忌等等都为个体与个体之间的交往提供了伦理依据。同样，在近代政治哲学的设计里，即便人和人之间还原为“自然状态”，近代自然权利理论家也会从自然法中推演出符合人类天性的基本准则。 一旦具有全面克服自然语言的机器人广泛运用到社会各个领域，并且在社会生活中与人类广泛协作，那么人机关系将从目前的生产和科学研究领域，进发为日常交往行为的人机关系。人与机器的交往将和人类之间的交往一样，成为人类社会的常态。今天人类提前设想人和机器的伦理与法律关系并非空想，要知道时至今日哲学、伦理学与社会理论仍然尝试研究社会内部宽泛的合理性，规范行为、表达行为等等人类实践如何真正在共识中建立交往实践，避免误解与冲突。 同样，当机器的人工智能全面超越人类的智能时，它们在日常工作领域的效率远远高于劳动力的时候，人和机器的相处将成为极其严肃的伦理讨论。阿西莫夫在其著名科幻小说《我，机器人》的开篇提到了机器人学的三定律：
第一定律，机器人不得伤害人，也不得见人受到伤害而袖手旁观；第二定律，机器人应服从人的一切命令，但不得违反第一命令；第三定律，机器人应保护自身的安全，但不得违反第一、第二定律。阿西莫夫在科幻小说里提到的三定律，规定了机器人在与人类相处时候的三条铁律。
有意思的是，如果联想到近代政治哲学的奠基之作《利维坦》，霍布斯谈论人类在自然状态下的第一条自然律是，人们禁止毁灭自己的生命，并且可以尽可能自我保全。人类首先要自利于自己的性命，再去考虑同别人相处，但是在阿西莫夫这里，机器人仅仅是在第三定律才能考虑保护自身。 冯象认为，阿西莫夫所设立的三条定律在现实世界非常难以执行。就第一条定律而言，我们非常难以界定伤害人类的定义，伤害总是从法律意义里的后果角度进行衡量的伤害，没有后果就很难称为伤害。然而导致后果的情节与动机千差万别，最终往往难以实现判断。另一方面，人工智能对于分析因果律的能力非常一般，它的思维并非按照严格的因果律思维的，而是采用概率论。这样，对于人工智能来说，人类社会中道德的、伦理的行为不同于自然科学中客观的因果律，它在具体道德情境中会面对非常具体的道德选择，人工智能依照科学思维并不能正确做出判断。就第二条定律来说，人类的意见往往不统一，有时候也会前后矛盾，一旦出现这种情况，机器人服从人的一切命令便就遇到困难，它可能需要在人类命令中选择一条，造成执行上的困难。既然第一、第二条定律都遇到问题，以前两条定律为前提的第三条定律就更不消说了。 其实，表面上看阿西莫夫为人机关系设立的三条定律，相较于《利维坦》给人类社会设立的自然律差别非常大，但是它们其实有相通之处。阿西莫夫笔下的机器人被要求保护人类胜于保护自己，这恰好不是《利维坦》第一自然律的未来运用么？人类总是将自我保存放在首位，当机器人的AI超越人类，并且有可能对人类造成巨大威胁时，那么处于自我保存的原则，机器人一定不可以像人类一样，以保存自己作为第一原则。
冯象提到，人类可以继续讨论究竟以何种方式制订人机相处的原则，首要考虑的人的价值，以及支撑着人类价值的现代文明制度。就现有情况来看，人类社会面临着几项无可争议的前提性事实：

（1）人工智能逐步取代劳动力之后，大量劳动力将失去工作机会，转向依靠由人工智能所创造出的社会福利生活；（2）建立公平公正的福利社会成为人们所向往的共识，发达国家必须无限提高福利水平；然而，就今天发生在欧洲的难民危机来看，人类社会现有的私有制及其理念尚无法兼容人类自身的问题，前往欧洲的难民在劳动力过剩的情况下难以找到合适的工作，欧洲世界一方面出于人道主义理念不得不接收难民，另一方面也为难民在现有社会秩序与经济结构中的安置伤脑筋。最终，人类的现代文明制度究竟多大程度上尊重人的价值，服务于人的价值，不仅是当下的难题，也将是未来的难题。

圣奥古斯丁（公元354年11月13日－430年8月28日）

 冯象认为，人的问题就是有关幸福的问题。他引用奥古斯丁在《上帝之城》最后部分有关第七天的讨论作结，“第七日，创世结束，上帝歇工。他为第七日赐福，定为圣日。因为在这一天上帝完成了创世，休息了。"（《创世纪》）奥古斯丁写道：“那时候我们会充满和洋溢着福泽与神圣，自己就是第七日。在那里，我们将会休息，看到他就是上帝。”冯象说，第七日一定要属于人类，这意味着人类未来的命运一定要是属人的，人与机器的和谐共处无论在具体操作上如何执行，最终人们一定要在与人工智能共存的未来，获得属于人性的幸福。

注：冯象老师演讲稿全文将刊登于文汇报，感谢冯老师授权刊载这篇侧记稿。

保马Pourmarx长按识别左侧二维码，关注我们

点击“阅读原文”，关注保马主页。