作者 | Adam Zachary Wasserman出品 | AI科技大本营（ID:rgznai100）
人工智能对很多人来说意义重大。通常，它的含义不是很清晰。它要么被人们崇拜，要么被人们亵渎和恐惧。
在本文中，作者将探讨人工智能对整个社会的真正意义，而不是研究人员或计算机科学家的意义。本文想向非技术人员阐明什么是人工智能可以实际期待的，更重要的是要阐明什么是不切实际的猜测。
作者担心对人工智能的盲目恐惧（有时甚至是崇拜）正在被用来操纵社会。
政界人士、商人和媒体人物围绕人工智能写故事，这些故事能够激发他们利用自己优势产生的深刻情感。但，真理只能在普通人无法企及的大量技术文献中找到。
我们所说的智力是什么意思？
智力是纯粹的人类特征吗？大多数人会认为有些狗比其他的狗更聪明。或者说，狗比豚鼠要聪明，所以很明显，智力也是动物可以拥有的东西。
如果狗可以有智力，那么鸟可以吗？ 蚯蚓或植物又怎么样呢？我们的底线在哪里？关于智力的定义很多，但作者喜欢（来自维基百科）的定义是：
“感知或推断信息并将其保留为要应用于环境或上下文中的适应性行为的知识的能力”。
这看起来合理吗？有人认为，按照这个定义，即使植物也可以是有智力的，那为什么计算机不是呢？
这就是人工智能研究人员通常所指的智能。然而现实是，当普通人谈论或想到人工智能时，他们想到的并不是植物或动物。大多数人不会对于计算机可能能够在植物、豚鼠甚至狗的水平上运行的想法感到太兴奋。
同样，人们并不真正在乎一台机器可以按照其创建者的意图去做的事情，它被编程来做什么。制造手枪是为了杀死人，它们的确是用来杀人的，但是没有人担心手枪会像机器被编程那样发展意识并杀死所有人类。
如果说老实话，我们必须承认，普通人所说的人工智能实际上是像人类一样的人工智能，而他们担心（或庆祝）的是人工智能可能会自发地地生产同类的动机。
人为因素
动机是关键的，人类的动机与所有其他动物的动机都不同，这种差异可以说是人类与众不同的原因。伟大的数学家和计算机先驱艾伦·图灵（Alan Turing）提出，与其问人类是什么（他认为这是在实践中不可能的），我们可以简单的说：图灵的建议是，如果计算机程序可以通过书面面试，而面试官没有意识到他们正在与计算机交互，则可以说该计算机实际上是具有人类特色的人工智能。但是，这并不能真正回答以下问题：计算机程序是否可以像人类一样实时做出相同类型的复杂决策，它是否可以具有未预先编程的动机。 最重要的是，书面面试只包含人类经历的一小部分。我们生活在一个行动世界中，许多行动都具有非常现实和直接的后果。是否走下一条黑暗小巷的决定是一个复杂的决定，影响我们这一决定的许多因素尚不清楚。每天，我们都在不知道所有数据的情况下做出决定，而人类生存下来并蓬勃发展这一事实无可争议地证明，如果将成功定义为生存，那么我们整体上将取得惊人的成功。
价值观创造机
我们如何成功是一个尚有争议的问题。但是，大多数严肃的学者都同意，人类被赋予的价值观倾向几乎是不可避免的情况，这是事务的核心。人类是价值观创造机，而我们创造价值观的速度是任何计算机网络都无法企及的。如果你听到一个意想不到的声音，你会在170毫秒内做出反应。从这个角度来看：单击链接后，第一个字节的数据到达你的浏览器的时间比Google建议的时间快30毫秒，Google建议页面在第一个字节后完成加载的时间为500毫秒。顺便说一下，加载一个网页对于计算机而言是微不足道的操作，但计算机执行此操作所需的时间仍然比你的大脑要花多倍的时间才能弄清它是否会发出意外的噪音威胁（响动的树枝或金属声音）或令人愉快的（冰淇淋卡车铃铛或孩子的笑声）， 它可以立即执行，几乎没有任何数据。我们所说的价值观评估是指把某事物认定为具有威胁性或令人愉悦的，这是我们本能地、自动地、不假思索地进行的事情。但是，如果不这样做，我们将无法像我们所知道的那样思考。说你口渴，你必须解决喝什么的问题，然后必须解决得到它的问题。假设你选择在池塘水和新鲜的井水之间选择喝什么。你现在想的是，很明显我们需要井水。但是，如果你是一个越狱的囚犯，池塘里的水安全地流出了森林，而井就在一个城镇广场上，你可能会被看到，那你该怎么办？现在你想到的是池塘水。渴望会激发你的动机，但你更有动力去保持自由。这是因为你对保持自由的重视远高于对水的新鲜度的重视。人的动机完全取决于价值观。一只口渴的狗只会从它找到的第一个可用水中喝水，因为它的动机是生存，不受价值观的影响。让我们来考虑一个与生存无关的示例：你按下某个按钮肯定会杀死一个人，还是拒绝按下该按钮，即使这意味着10个人可能会死。你对这个问题的思考与你的自身生存没有任何关系，但是它具有道德上的紧迫性，很少有人可以否认。你的思维将完全由你在评估选项时分配的价值观所指导。
对于某些人来说，这是一个信仰的问题。真诚的宗教人士相信我们的价值观是上帝旨意的反映。真正相信进化论及其所有含义的少数人会说，我们的价值观是那些允许我们生存并因此使其永存的价值观。 几乎所有人都认为价值观是不言而喻的真理。我们拥有这些价值观是因为我们所有人都有它们，很显然是这样的。正如山姆·哈里斯（Sam Harris）所说： “当我们真的相信某事在事实上是真实的或在道德上是好的时，我们也相信另一个人，同样的立场，也应该分享我们的信念”。就所谓的理解而言，这是淡茶。它没有提供有用的依据来解释为什么某些价值观在文化上是依赖的，而另一些价值观似乎是普遍的或几乎是普遍的。它没有解释价值观的起源，因此尽管有宗教和进化论的影响，但在大多数情况下，我们没有关于价值观如何运作的有用解释。正是在价值观中，我们发现了意识差距。在上面的示例中，你是出于渴求的动机，这是一种生物因素。配备有适当传感器的人工智能也可能具有这种动机，例如需要为电量低的电池充电。 但是，是什么促使你对美丽的事物拍照来与亲人分享，或者与你的朋友争论政治呢？是什么促使你观看恐怖电影或学习一项运动的呢？按下按钮的例子呢？如果没有人先提供的价值观，比如一条生命的价值低于10倍，或者在任何情况下杀人都是错误的话，计算机凭什么基础做出这样的决定呢？我们的道德，在眨眼间赋予价值观的能力已经发展了数百万年。一台计算机在一代人的时间里，你怎么能想到它们有天生的繁殖机制，如何在没有人先提供蓝图的情况下自行建立起道德基础的呢？ 我们真的想要吗？人类历史表明，在达到我们现在认为的文明行为之前，需要成千上万的世代的努力。我们真的想让人工智能种族同样缓慢而痛苦地方式迈向文明么？当然，我们可以给它们一个跳跃式开始的方法，但是随后我们又回到了意识鸿沟：如果我们以跳跃式开始进行编程，基本上是按照某些人的价值观进行编程，那么可以说人工智能确实具有类人的意识、能够自发动机吗？你可能已经猜到了， 作者相信答案可能是否定的。
人工智能的危害
这并不是说人工智能完全没有涉及任何危险或任何需要关注的方面。与人类努力的其他任何领域一样，使用人工智能不再受制于意料之外的后果法则。
我们可以确定，将人工智能用于诸如管理你的社交媒体订阅内容之类的事情，将直接导致许多人不喜欢的意外结果。
这不是由于人工智能的任何固有特性。这是我们所生活的世界的本质。这是人类决策所固有的，无论这个决策是将甘蔗蟾蜍进口到澳大利亚（来控制害虫），还是使用人工智能进行自动化的股票购买，都极有可能发生灾难。
交际技巧
我们无法想象试图向狗狗提出纽扣问题。我们没有理由相信狗狗会有任何道德框架使问题相关，也没有理由相信狗狗会以某种方式关心。我们没有更多的理由相信我们可以向人工智能提出这个问题，而不是向狗提出这个问题。我们根本没有证据表明，任何地方的任何人工智能都具有一种道德框架，该道德框架受到标记人类的自发性价值创造的指导或启发。计算机可以比人类更快地计算，或者可以更快或更佳地预测某些类别的问题，这是无关紧要的。在与人的对弈中获胜是编程和计算机科学领域的一个里程碑，但在现实世界中却没有多大意义。在非常严格且非常有限的规则集中计算出大量排列的能力绝不表示一般的智能或计算机发展意识的能力。能够对医疗状况进行分类和诊断的计算机，甚至可能优于人类医生，也许听起来并不那么令人印象深刻。当然，自动化检查列表和决策树非常有帮助；在紧急医疗情况下，计算机比破解书本更快。的确，如果没有这些检查表，人类很容易出现各种感知和认知偏差，但是如果你认为能够进行分类的人工智能也可以决定汽车前部的阴影是否是一个纸箱或儿童三轮车，那将是非常错误的。哗众取宠销售，天总是要塌下来，而上周关于世界末日的预言(“千年虫”或纽约西区高速公路到2019年将被水淹没)的失败，似乎从未满足人们对本周即将到来的末日预言的渴望。同样的道理也适用于追求轰动效应的理想主义。乌托邦意识形态的一再失败，实际上产生了预言中的人间天堂，这似乎并不妨碍真正的信徒相信这一次。 人工智能一点也不像它的支持者和反对者会想像的那样令人兴奋、神秘、危险或宏伟的。在大多数情况下，它已成为概率数学的一个分支，被美化了的精算工作。它具有御宅族或穿着夹克的人在谈论他们最喜欢的话题时的性感魅力。它是一匹诡计多端的小马。简而言之：不必太担心或太兴奋，以平常心态看待这一项技术，也许是最正确的做法。
原文：https://hackernoon.com/ai-and-the-consciousness-gap-tr9f3ydz
（*本文由 AI 科技大本营编译，转载请联系微信1092722531）《原力计划【第二季】- 学习力挑战》正式开始！即日起至 3月21日，千万流量支持原创作者！更有专属【勋章】等你来挑战