极简未来史:算法即法律 | 麦读书单
年轻的历史学家尤瓦尔·赫拉利(Yuval Noah Harari)因为两本畅销书迅速走红,这两本书的主题麦读君简单总结了一下:人是怎么来的(《人类简史》);人是怎么没的(《未来简史》)。前者很多读者估计都看过,后者新鲜出炉,是很多人的春节假期读物。
算法如何模仿乃至取代法律?春节期间麦读君读到「机器之心」一则报导,伦敦大学学院、谢菲尔大学和美国宾夕法尼亚大学的最新研究表明,人工智能已经可以分析法律证据与道德问题,进而预测审讯结果。之前人们对 AI 法官的疑问在于它「没有道德」,无法面对复杂给出判断,如果机器通过算法能够准确预测结果,那么AI法官的出现是否指日可待?
社会通过算法形成新的生态系统,维护系统稳定就是维护社会稳定,《未来简史》的抽象预测在现实中一件件落地。北京市人民检察院的刘哲先生,率先从法律人视角对《未来简史》进行了解读。
当人工智能获得统治地位之后,人类向何处去?
赫拉利说了三点:
人类将会失去在经济和军事上的用途,因此经济和政治制度将不再继续认同人类有太多价值。
社会系统仍然认为人类整体有其价值,但个人则无价值。
社会系统仍然会认为某些独特的个人有其价值,但这些人会是一群超人类的精英阶层,而不是一般大众。
也就是说数百万年来,人类曾经是升级版的黑猩猩。而到了未来,人类则可能变成放大版的蚂蚁。
这就是赫拉利从动物到上帝、从智人到神人的演进思路。
对此,我问过冯象老师,如果人工智能获得统治地位之后,那未来的法律岂不是算法?
冯老师说:很可能就是。
对于赫拉利来说,生物体与机器的区别不过就是生化算法与电子算法的区别,不同社会制度之间的本质区别也就是集约算法和分散算法的区别。
搞了几年公诉信息化,对此有点感受。
法律、诉讼规则再厉害,都没有统一办案系统厉害。
因为它绝对刚性,系统对流程怎么规定的,你就只能怎么操作,模版怎么写,很多人都会直接照办。个别模版有误,就会产生批量性错误。流程永远是刚性的,过不去就过不去,没有这个流程,很多承办人就不会办案子了,到底是应该遵守法律还是应该遵守流程?在系统算法面前,只有唯一的答案。这就是算法的力量。
比如说,修改后的诉讼规则取消了公安机关撤回移送审查起诉的规定,但由于系统还留有相应流程和文书,还有部分人会照旧处理。
再比如,网约车新规出台之后,先不说是否合理,事实上很难执行,因为平台没有做出相应调整。只要平台调整,分分钟就搞定。
法律与算法已经开始了较量。
我曾经说过,办案系统并不仅仅是工具,它就是规则本身。它是精细化的、具体化的、绝对刚性的规则,因为为一个个案修改算法几乎是不可能的,个别根据授权进行的信息调整其实也是算法的一部分。
最近很火的大数据,比如量刑系统,如果系统基于几千万份判决算出一个量刑参考建议,你敢不执行?你想知道其中的算法过程么,那你将永远别想弄明白,因为这已经远远超越了你的认知能力。你想超越这个算法建议进行量刑,那算法一定会要求你进行详细说明,在这种情况下如果上级法院给你改了,你就有的瞧了。所以在算法面前最好乖乖的,你按算法,上级法院也按算法,大家相安无事。即使错了,也是算法错了。目前,检察机关希望研发的量刑建议系统可能也将面临这个问题。
据推测,无人驾驶普及以后,可能会禁止人类司机上路,因为与人工智能相比人类具有更大的不确定性,容易受情绪、性格等因素影响。都是人工智能,马路跟火车道差不多,偶尔可能会有系统故障,但几乎不会有拥堵和交通事故。
目前,司法机关要进一步人工智能化,智慧法院、智慧公诉,轻微案件自动生成审查报告,自动生成起诉书、判决书,如果这样的话,是否可以麻烦将危险驾驶的人类直接送到监狱,因为这个路程中,刑期已经计算好了,在路上可以自动宣判。
哦,对了。不允许人类司机上路的。我说的其实就是那些违法上路的司机,而不是酒驾的司机。在未来,只要是人类司机,不管你喝不喝酒,都是危险驾驶。是否喝酒对人工智能来说没有本质区别。人类带来的问题将是因为增加不确定性而容易导致交通人工智能系统过载,造成系统瘫痪,影响系统的稳定性将成为重罪。因为系统的稳定是社会稳定的基石,以后的维稳工作主要是维护系统的稳定。
Neo 的出现是 Matrix 为了集中处理 bug,升级系统。
赫拉利说了,大多数人类个体将对社会系统失去意义。
谁有意义呢?就是那些制造算法的人。
这些人就是赫拉利说的神人。
这些人有没有脑机接口,是否通过基因编辑等进行生化算法改良,我不知道。总之,他们还没有被人工智能代替,他们还要为人工智能编制核心程序。他们的创造性,人工智能还无法通过机器学习的方式获得。
他们编制的算法不是在驱动几台机器,他们将通过人工智能驱动整个社会的运转。
这就是未来之法。
传统意义的法律是规范人类行为,是社会规则的基础。总体来看,法的进化过程是越来越深入的融入社会生活进程,从汉莫拉比法典到罗马法,从宗教法则到拿破仑法典,从商君之法到大清刑律,从判例法到日益繁多的成文法,从国内法、海商法到国际法,法律变得越来越无孔不入。急剧变化的社会在加速推动法律的演化,很多传统社会能够容许的风险,在现代社会已经转化为犯罪行为,法律的边界在不断膨胀。但即使如此,法律也只是社会规则的一部分,很多还要依靠伦理、道德、习俗、文化,甚至生态法则来约束。这些都是人类社会自然演进的产物。
但是未来之法将与这些都不相同,它将直接将技术规则与行为规范合二为一。
将由神人创制底层算法,由人工智能自行完善具体算法,由具体算法管理社会。
是的,我们的法律实际上就是数学规则。它除了物理定律管不了,将规范人类的一切行为。看看我们周边的智能化应用,你的自由选择还有多少。
这一天是否会到来?
生物科学、人工智能的很多趋势表明,这很有可能成为现实。
对了,我们的自由意志哪去了,我们的意识呢?
根据赫拉利的分析,这些就是生化算法。所谓的内心声音只是神经元的放电反映。所谓的自由意志,只是一个幻觉。就是说生命与非生命并没有本质的区别,如果有的话只是算法不同。
所谓科技驱动未来,其实驱动的是人类的命运。
没有谁是不能替代的,包括人类自身。
法律是人类行为的准则,但如果人类只听人工智能的,那法律只规范人工智能就好了,所以未来的法律很有可能就是一堆算法。
毕竟是过年,你可以把它当作笑谈。
投稿邮箱:lushuhui@maidupress.com;添加麦麦个人微信( xmxm2025 )加入「麦读书友会」,第一时间获取麦读书店福利和图书资讯。