从阿西莫夫到奥古斯丁：人最后一定要获得幸福 | 冯象
近日，清华大学法学院梅汝璈法学讲席教授冯象先生做客华东政法大学，与大家聊起了前段时间热极一时的AlphaGo与李世石九段的对弈。AlphaGo的胜利引发冯象关于未来世界伦理与法学危机的思考，我们是否应该提前准备一些准则以应对AI共存的世界？冯象先生分享了自己的看法。
在冯象看来，人工智能（AI）的胜利有着里程碑意义。因为，AlphaGo的设计是从完全信息博弈的游戏里战胜了人类顶尖棋手，所谓完全信息博弈是指参与双方都完全了解规则，并且具备学习规则的能力，这引发了冯象的兴趣，假如机器在一切规则清晰、任务明确的工作上能够取代人类的话，那人类社会将如何应对？
AlphaGo还是狭窄的人工智能，它的智能所运用范围只是围棋。但是，从AlphaGo所展现出人工智能的潜力而言，如果类似的水平的人工智能可以在通用智能上获得发展，在自然语言上有更为广泛地运用，那么人工智能或许就不再是被人类所利用，而可能与人类平等共处的对象了。那么人工智能扩展到其他领域，当它们的操作与人类不相上下，甚至超过我们的时候，人类的生存状况会发生怎样的改变？冯象从最为熟悉的法律领域做出解释，他推测法律领域将会是人工智能广泛运用的领域，这是同人工智能的算法与法律自身的性质所决定的。法律事务要求规则清晰，绝大部分案件信息透明，可以运用明晰的规则做出断案。今天大量的司法从业者只要遵从法律条例，就能够正确完成工作，而人工智能在不久的将来会游刃有余地处理此类案件。而人类只需要在信息不充分，规则不明确，需要因人而异的复杂案件中发挥自己的才能。
牛津大学版冯译圣经三种
如此一来，人工智能便从自然科学领域冲击了现有的法学人员结构，甚至会影响到大学的法律专业。更重要的是，未来的法律争论都需要借助人工智能理清思路，就像我们今天的行政管理不能离开电脑一样，法学必须要变革的危机就回到来。
人类究竟是选择与机器相合作？
还是选择让机器彻底地自动化，
以至于人类完全不用操心这件事情？
或许我们会觉得这种担心是否过早了？或者又过于想象力丰富了？其实不然，人类生产力得到进一步发展，可以获得巨大的闲暇时间。闲暇时间与人类的自由及其个性全面展开息息相关，冯象先生在讲座上援引了马克思在《德意志意识形态》里关于共产主义的著名设想：“而在共产主义社会里，任何人都没有特定的活动范围，每个人都可以在任何部门内发展，社会调节着整个生产，因而使我有可能随自己的心愿今天干这事，明天干那事，上午打猎，下午捕鱼，傍晚从事畜牧，晚饭后从事批判，这样就不会使我成为一个猎人、渔夫、牧人或批判者。”不同于马克思更多从生产力与生产关系来展望机器的大规模运用，冯象的关注点仍然集中在人类与人工智能的相处模式之于法律与伦理格局的挑战。
“人最后一定要获得幸福”
一旦具有全面克服自然语言的机器人广泛运用到社会各个领域，并且在社会生活中与人类广泛协作，那么人机关系将从目前的生产和科学研究领域，进发为日常交往行为的人机关系。人与机器的交往将和人类之间的交往一样，成为人类社会的常态。在不久的未来，当人机相处就像现在人与人之间相处这样广泛地时候，人与机器之间的交往规则，也一定同人与人一样需要伦理与法律的规范。
阿西莫夫在其著名科幻小说《我，机器人》的开篇提到了机器人学的三定律：
第一定律，机器人不得伤害人，也不得见人受到伤害而袖手旁观；
第二定律，机器人应服从人的一切命令，但不得违反第一命令；
第三定律，机器人应保护自身的安全，但不得违反第一、第二定律。阿西莫夫在科幻小说里提到的三定律，规定了机器人在与人类相处时候的三条铁律。
冯象认为，阿西莫夫所设立的三条定律在现实世界非常难以执行。就第一条定律而言，我们非常难以界定伤害人类的定义，伤害总是从法律意义里的后果角度进行衡量的伤害，没有后果就很难称为伤害。然而导致后果的情节与动机千差万别，最终往往难以实现判断。另一方面，人工智能对于分析因果律的能力非常一般，它的思维并非按照严格的因果律思维的，而是采用概率论。这样，人工智能依照科学思维并不能正确做出判断。就第二条定律来说，人类的意见往往不统一，有时候也会前后矛盾，一旦出现这种情况，机器人服从人的一切命令便就遇到困难，它可能需要在人类命令中选择一条，造成执行上的困难。既然第一、第二条定律都遇到问题，以前两条定律为前提的第三条定律就更不消说了。
冯象提到，人类可以继续讨论究竟以何种方式制订人机相处的原则，首要考虑的人的价值，以及支撑着人类价值的现代文明制度。就现有情况来看，人类社会面临着几项无可争议的前提性事实：
❶ 人工智能逐步取代劳动力之后，大量劳动力将失去工作机会，转向依靠由人工智能所创造出的社会福利生活；
❷ 建立公平公正的福利社会成为人们所向往的共识，发达国家必须无限提高福利水平；然而，就今天发生在欧洲的难民危机来看，人类社会现有的私有制及其理念尚无法兼容人类自身的问题，前往欧洲的难民在劳动力过剩的情况下难以找到合适的工作，欧洲世界一方面出于人道主义理念不得不接收难民，另一方面也为难民在现有社会秩序与经济结构中的安置伤脑筋。最终，人类的现代文明制度究竟多大程度上尊重人的价值，服务于人的价值，不仅是当下的难题，也将是未来的难题。
去世于汪达尔人围城中的圣奥古斯丁，基督教会历史上最为伟大的教父之一
冯象认为，人的问题就是有关幸福的问题。他引用奥古斯丁在《上帝之城》最后部分有关第七天的讨论作结，“第七日，创世结束，上帝歇工。他为第七日赐福，定为圣日。因为在这一天上帝完成了创世，休息了。"（《创世纪》）奥古斯丁写道：“那时候我们会充满和洋溢着福泽与神圣，自己就是第七日。在那里，我们将会休息，看到他就是上帝。”冯象说，第七日一定要属于人类，这意味着人类未来的命运一定要是属人的，人与机器的和谐共处无论在具体操作上如何执行，最终人们一定要在与人工智能共存的未来，获得属于人性的幸福。
冯象
冯象，上海人。少年负笈云南边疆，从兄弟民族受“再教育”凡九年成材，获北大英美文学硕士，哈佛中古文学博士（Ph.D），耶鲁法律博士（J.D）。现任北京清华大学梅汝璈法学讲席教授，兼治法律、宗教、伦理和西方语文。
⊙ 冯象教授新书《以赛亚之歌》即将由活字文化推出，敬请关注。
长按图片