图灵奖得主Pearl：期待一场迷你革命，让机器理解“为什么”
点击上方蓝字“返朴”关注我们，查看更多历史文章
撰文｜Judea Pearl、Dana Mackenzie
翻译｜吴小安（清华大学-阿姆斯特丹大学逻辑学联合研究中心）
在通向人工智能那漫长又坎坷的路途中，计算机程序已经到达了一个纷乱点。它在那些我们曾经认为只有人类专属的任务中表现卓越，比如玩扑克或者在稠人广众中识别出一张脸。但使用相同技术，自动驾驶汽车却撞向路人和栏杆，于是对于它们是否总是值得信任，我们心存疑虑。
在这急速发展又总有意想不到的困难出现的过程中，在经历了数十年的发展之后，机器依然无法企及人工智能的一个重要的构建基石：理解原因和结果。
简单来说，今天的机器学习程序并不能告诉我们是否公鸡打鸣是太阳升起的原因，或者后者是前者的原因。不管机器分析多大体量的数据，它并不能理解人们直觉所获取的东西。从婴儿时候开始，我们就把我们的经验以原因和结果的形式组织。“为什么这件事会发生？”和“如果我以另一种方式来行动会怎么样？”的问题是认知发展的核心，使得我们人之为人，但目前机器还不具备这种能力。
例如，假定一个药店决定把药品的定价权交给一个我们称为 Charlie 的机器学习程序。Charlie回顾药店过去的价格变动和销售记录后，发现牙膏价格的变化和销售量的改变不相关，因此决定提高牙膏销售价格以产生更多的利润。结果是，一个月之后牙膏的销售量降了下来 —— 与之相伴的还有牙线、饼干和其他商品的销售量。Charlie 在哪个地方犯了错误呢？
Charlie 并不明白之前的经理之所以会调整价格是竞争所致。当 Charlie 单方面的提高价格，那么对价格异常敏锐的顾客就会选择去其他地方消费。这个例子说明单单是历史的数据并没有告诉我们关于原因的任何东西 —— 且因果的指引是重要的。
在分析数据模式方面，机器学习系统取得了令人为之侧目的进步，但那只是人工智能的低端成果。要达到更高端的成果，AI需要一个阶梯，我称之为因果的阶梯，它包含因果推理的三个层级。
第一层级是相关，当前的学习机器和大多数动物都位于这一个层次，在这个层级，巴甫洛夫的狗习得了铃声响起和有食物可吃之间的联系；下一个层级是干预，目的是看看如果刻意制造铃声，或者提高牙膏的价格将会发生什么？干预不同于观察，无理由提高价格和以过去的数据表现为依据提高价格有不同的后果；最高的层级是反事实，这是一种想象结果会如何的能力，反思一个人的行动并在在其他情境中做判断。正是在这一层次，机器能够达到对责任、归誉、咎责以及自我更新的判定和传达。想象给予一辆自动驾驶汽车这种能力，在一个事故之后，它的 CPU 会问自己这样的问题：如果我没有向醉酒的行人按喇叭将会发生什么呢？
为了达到更高的层级，除了更多的数据之外，机器需要一个暗含着因果元素的模型 —— 实质上是原因和结果的数学。也许是这样一个简单的因素：“酒精会损伤一个人的判断，醉酒之人会以异于寻常的方式运动”，我们可以以科学家所称之为的因果图来编码这个信息，在这个图中箭头表示的是一系列可能的因果关系：酒精 损伤判断 非正常举动。这类图不只是为了简洁优美，而且构成了一个初步算法，以此就使得汽车能够预测某类行人对于汽车喇叭所发出的鸣叫会做出异乎寻常的反应。这也为我们“拷问”汽车解释它的所为提供了可能：为什么你要按喇叭呢？
当前的机器学习系统只在一个受规则严格限制的小范围内才能通达更高的层级，比如下象棋。超出这个范围，它就会手足无措、错误百出。但是如果有了因果模型，机器就能预测之前所从未经历的行动的结果，并反思这个结果，然后把所学到的技能应用于新的情形中。
因果模型源自二十世纪八十年代人工智能的一些工作，由于它可以做更高层级的计算且常常还能消解统计悖论，目前已经在健康科学和社会科学中广泛应用。随着机器学习研究者寻求更具解释性和回应性的系统，因果模型又开始被关注。比如谷歌和脸书的科学家们诉诸于因果模型来分析网上的广告，以判定广告是否会影响人们购买产品的决策—— 一个反事实问题。
这只是一个开始。当研究者把数据和因果推理结合起来，我们期望在人工智能领域能看到一场迷你革命，这个新的系统能够规划行动，哪怕不存在关于这个行动及其结果的任何数据；这个新的系统还能够把它们之所学应用于新的情形，并用人类语言天生就含有的“因果”概念来解释它们的行为。
作者简介
Judea Pearl 是加州大学洛杉矶分校计算机系的教授，因为他在概率推理和因果推理的工作而获得了2011年的图灵奖。
Dana Mackenzie 是数学科普类作家，他们两人合写了一本书《为什么：关于因果关系的新科学》，该书不久前由 Basic Books 出版。
原文链接：https://www.wsj.com/articles/ai-cant-reason-why-1526657442 ，原题为“AI Can’t Reason Why”
《返朴》新冠病毒专题
上下滑动可见全部报道
6 赵国屏院士：科研、疾控和临床缺乏协同，希望这是“最后一次教训”
7 应对疫情，春运人口回流情况如何？基于春节前人口流动模拟的预测
8 前夜：新冠病毒传播时间线详解 | 117三人行
9 控制疫情，现在最大的挑战是时间 | 专访清华药学院院长丁胜教授
10 中国疾控中心原副主任：反思此疫，中国疾控该改革了
11 血浆治疗是“稻草”还是“神药”？专家：谨慎乐观，尊重科学
12 彻底扑灭百年不遇的烈性传染病，1920年是如何做到的？| 展卷
13 非典之后，为什么这些治愈的病人更绝望了？
14 悲剧换来制度的改革：记制药史上最悲催的一次临床实验15 武汉一线专家详解新冠肺炎死亡病例：他们是窒息而死，过程很痛苦16 新冠病毒源于美国？“专家”到底错哪了17 中国延缓了病毒的全球传播，各国公卫比拼才刚刚开始18 武汉疫情暴露政府治理能力短板，突破口何在？19 天花是怎么消灭的？一场众多孤儿活体接力的救世壮举20 曹彬：抗新冠病毒治疗有药可期21 世卫组织：新冠疫情已成“大流行”，总干事怎么说？22 波士顿新冠暴发危机：Biogen年会病毒大传播始末23 专访公共卫生专家汤胜蓝：WHO正在失去主角光环24 各国抗疫作业自己做，中国该如何应对输入压力？25 新冠阴影下的德国抗疫百态：二战以来最大挑战26 中国第一波、欧美第二波，还会出现第三波大疫情吗？27 各国实验室趋于寂静，科研人员做好准备应对疫情的长期干扰28 全球疫情高峰何时到来？多久能结束？硬核主任张文宏全面解读29 问世快，上市慢，量产还难说：新冠疫苗何时拯救人类？
1 比起流感，为什么全世界更害怕新型冠状病毒？2 Remdesivir到底是不是治疗新型冠状病毒的“神药”？3 权威观点：治疗冠状病毒感染，新药开发为啥那么难？4 抗新冠病毒的药物为何还没研发出来？5 为什么新型冠状病毒疫苗肯定会研制成功？6 中间宿主亟待确定！武汉病毒所确证新冠病毒极大可能源自蝙蝠
7 武汉新型冠状病毒的进化来源和传染人的分子作用通路
8 新冠病毒是人造的？专家教你告别阴谋论
9 病毒，那条静止的河流10 宅在家里不动，你的身体会发生什么变化？
11 有抗体就能清除病毒吗？认识抗体的复杂性
12 以史为鉴：也说新冠肺炎的血浆疗法
13 西湖大学团队成功解析新冠病毒细胞受体的空间结构
14 中国结构生物学家发力：揭示新冠病毒侵染人体细胞瞬间
15 给你的生物网课加点料：世界最大冷冻电镜基地给青少年的7个科普锦囊
16 炎症风暴：人体免疫系统，是怎样反噬自身的？17 传播力胜过SARS，需要担心新冠病毒变异吗？
18 全世界只有少数实验室能接触新型冠状病毒，它们长这样19 莫被误导！准确理解新冠病毒可能分为两种类型，且在暴发早期就已并存20 警惕！不应过度解读新冠病毒基因序列分析21 全球遭遇新冠检测难题，多国专家联合支招
2 世卫组织建议：如何在家护理疑似新冠感染者？附正确的打喷嚏、洗手方法 | 摸象记
4 怎样安全吃喝拉撒？旅途最全防护指南请收好5 开工在即，面对新冠病毒，如何练成“百毒不侵体”？6 冠状病毒在体外可以存活多久？| 117三人行7 怎样应对新冠病毒空气传播？| 117三人行8 吸烟能预防新冠病毒感染？事实可能正相反9 肺炎恐慌下，如何保护自己和家人？｜6个心理防护方案
特 别 提 示
1. 进入『返朴』微信公众号底部菜单“精品专栏“，可查阅不同主题系列科普文章。
2. 『返朴』提供按月检索文章功能。关注公众号，回复四位数组成的年份+月份，如“1903”，可获取2019年3月的文章索引，以此类推。
版权说明：欢迎个人转发，任何形式的媒体或机构未经授权，不得转载和摘编。转载授权请在「返朴」微信公众号内联系后台。
相关阅读
1 意识是脑中涌现的吗？一场关于人脑、智能和意识的深入对话 | AI那厮
近期热门
3 2020沃尔夫数学奖得主Eliashberg：找到正职前的两年是我做数学的美好时光
长按下方图片关注「返朴」，查看更多历史文章