《疑犯追踪》里的人工智能如何学习道德决策？类比或是关键
来源：Northwestern University
翻译：岳川
预言神剧《疑犯追踪》本周全剧终，作为POI死忠粉的译者意外发现，新的研究或许预示着我们离可以做出道德决策的机器宝宝不远了。
一个新的结构映射引擎可以使计算机像人类一样推理和学习，包括解决道德困境。
西北大学的肯·福布斯（Ken Forbus）正在拉近人类和机器之间的差距。
利用认知科学理论，福布斯及其同事开发出一个模型，它给予计算机类似人类一样的推理甚至解决道德困境的能力。这个被称作结构映射引擎（structure-mapping engine ，SME）的新模型擅于解决类比问题，包括理解人类在各种情况之间自然地使用类比来解决道德困境的方法。
“像人类一样思考，类比是关键，”福布斯说，他是西北大学麦考克工程学院电气工程和计算机科学教授。“人类使用流利的关系语句来形容事物，解决问题，表明因果关系，权衡道德困境。”
该理论基于心理学家德瑞·根特纳（Dedre Gentner）的类比和类似映射理论，它已被用于解释和预测诸多心理现象。结构映射认为类比和类似涉及关系表达之间的比较，连接实体和想法，例如钟表在门之上，或者不同的压力导致水流动。
类比可以复杂（电像水一样流动）或者简单（他的新手机非常像他的旧手机）。之前的类比模型，包括SME的早期版本，无法扩展到人类倾向于使用的关系表达。福布斯的新版本SME可以处理视觉推理、解决教材里的问题和道德困境所需的关系表达的复杂性。
“关系能力是高阶认知的关键，”西北大学温伯格艺术和科学学院教授根特纳说，“尽管我们和其它种类一起共享这种能力，但是人类在用关系表达和推理的能力上大大超过其它物种。”
福布斯和根特纳的这项研究由美国海军研究办公室、美国国防部高级研究计划局（DARPA）以及美国空军科研办公室赞助，论文发表在6月20日的《认知科学》杂志上。根特纳实验室博士后安德鲁·洛维特和福布斯实验室博士毕业生罗纳德·弗格森是该论文的共同作者。
许多人工智能系统，例如谷歌的AlphaGo，依赖于深度学习，即计算机学习研究大量数据的过程。相比之下，人类以及基于SME的系统通常从很少的例子中即可成功学习。例如在道德决策中，几个故事就足以让计算机学习像人类在心理实验中那样作出决策。
“给计算机一个新的情境，机器会试着找回之前的一些故事，寻找类似的价值观，据此作出决策。”福布斯说。
SME也被用于学习从高级测试中学习解决物理问题，基于SME的程序由教育考试服务中心培训和测试。作为SME灵活性的进一步论证，它也被用于多种视觉解决问题的任务模型。
为了鼓励人们研究类比，福布斯发布了SME的源代码和5000例语料库，包括来自解决视觉问题、教材问题和道德决策的比较。
一系列由基于SME的系统成功解决的任务表明，类比或许会将我们引向人工智能系统的新技术，以及对人类认知的更深层次的理解。例如，通过细分由道德信仰编码的多元文化的故事，利用类比建立模型可以为社会科学提供新的工具。基于类比的人工智能技术可以在一系列应用中发挥价值，包括安全、卫生健康和教育。
“SME已经被用于教育软件，通过比较学生的作业和老师的答案给学生提供反馈。”福布斯说。但是设计使用类比的导师软件帮助学生学习，还有尚未开发的巨大潜力。
Journal Reference:
Kenneth D. Forbus, Ronald W. Ferguson, Andrew Lovett, Dedre Gentner. Extending SME to Handle Large-Scale Cognitive Modeling. Cognitive Science, 2016; DOI: 10.1111/cogs.12377
点击阅读原文获取论文连接
往期文章
第一期电子书已完成制作，获取下载链接请回复关键字“电子书”。