特德·姜：硅谷正在逐渐成为自身最大的威胁

我们请一组作家考虑2017年塑造我们生活的力量。在这里，科幻作家特德-蒋看了资本主义、硅谷以及它对超级智能人工智能的恐惧。

今年夏天，埃隆-马斯克在全国州长协会发表讲话，告诉他们 "人工智能是对人类文明存在的一个基本风险"。预言家们发出类似的警告已经有一段时间了，但他们从未获得过如此大的知名度。马斯克并不一定担心像《终结者》中的天网那样的恶意计算机的崛起。马斯克在为4月发表的《名利场》一文接受采访时，举了一个人工智能的例子，它被赋予了采摘草莓的任务。这似乎是无害的，但当人工智能重新设计自己以使其更有效时，它可能会决定，使其产出最大化的最佳方式是摧毁文明，并将整个地球表面变成草莓田。因此，在追求一个看似无害的目标时，人工智能可能会带来人类的灭绝，这纯粹是一种意外的副作用。

当硅谷试图想象超级智能时，它想出的是无拘无束的资本主义。

这种情况对大多数人来说听起来很荒谬，然而有数量惊人的技术专家认为这说明了一种真正的危险。为什么呢？也许是因为他们已经习惯了以这种方式运作的实体：硅谷的科技公司。

考虑一下：谁在疯狂地追求自己的目标，无视消极后果的可能性？谁采用了焦土法来增加市场份额？这个假想的采摘草莓的人工智能做了每个科技创业公司都希望自己能做的事情--以指数级的速度增长，并摧毁其竞争对手，直到实现绝对垄断。超级智能的想法是一个定义不清的概念，人们可以设想它以几乎任何形式出现，并有同样的理由：一个仁慈的精灵，解决世界上所有的问题，或者一个数学家，把所有的时间花在证明定理上，以至于人类甚至无法理解它们。但是，当硅谷试图想象超级智能的时候，它所想到的是无拘无束的资本主义。

在心理学中，"洞察力 "一词被用来描述对自身状况的认识，例如当一个精神疾病患者意识到自己的疾病。更广泛地说，它描述了认识自己行为模式的能力。这是元认知的一个例子，或者说是对自己思维的思考，这也是大多数人类能够做到的，但动物却做不到。我相信，对人工智能是否真的从事人类水平的认知的最好测试是让它展示这种洞察力。

洞察力正是马斯克的采摘草莓的人工智能所缺乏的，就像所有其他在类似末日场景中毁灭人类的人工智能一样。我曾经觉得很奇怪，这些假想的人工智能应该足够聪明，能够解决人类无法解决的问题，但它们却不能做大多数成年人都做过的事情：退一步问，他们目前的行动方案是否真的是一个好主意。然后我意识到，我们周围已经有了完全缺乏洞察力的机器，我们只是称它们为公司。当然，公司并不是自主运作的，负责它们的人大概也有洞察力，但资本主义并不奖励他们使用这种能力。相反，资本主义积极侵蚀人们的这种能力，要求他们用 "市场决定的任何东西 "取代自己对 "好 "的判断。

据推测，人工智能的方法将是 "问题不在于谁会让我，而在于谁会阻止我"，即在硅谷非常流行的艾恩-兰迪式自由主义的口头禅。

由于企业缺乏洞察力，我们期望政府以监管的形式提供监督，但互联网几乎完全不受监管。早在1996年，约翰-佩里-巴洛发表了一份宣言，说政府对网络空间没有管辖权，在此后的20年里，这一概念成为从事技术工作的人的公理。这导致了这些破坏文明的人工智能和硅谷科技公司之间的另一个相似之处：缺乏外部控制。如果你向一个人工智能预言家建议，人类永远不会授予人工智能如此多的自主权，回应将是你从根本上误解了这种情况，"关闭 "按钮的想法甚至不适用。假设人工智能的方法将是 "问题不是谁会让我，而是谁会阻止我"，也就是说，在硅谷非常流行的艾恩-兰迪式自由主义的口头禅。

创业公司文化的精神可以作为毁灭文明的人工智能的蓝图。"快速移动，打破东西 "曾经是Facebook的座右铭；他们后来将其改为 "快速移动，稳定基础设施"，但他们谈论的是保护他们所建立的东西，而不是其他人所拥有的东西。这种把世界上其他地方当作鸡蛋来打碎，以满足自己的煎蛋卷的态度，可能是人工智能带来世界末日的主要指令。当Uber希望有更多的司机使用新车时，它的解决方案是说服信用不好的人去贷款买车，然后直接从他们的收入中扣除付款。他们将此定位为颠覆汽车贷款行业，但其他人都认为这是掠夺性贷款。认为颠覆是积极的而不是消极的东西的整个想法是科技企业家的自负。如果一个超级智能的人工智能向天使投资人进行融资推销，将地球表面转换成草莓田只不过是对全球土地使用政策的一种早该进行的破坏。

有行业观察家在谈论人工智能需要有道德感，有些人建议我们确保我们创造的任何超级智能人工智能是 "友好的"，这意味着它们的目标与人类的目标一致。我觉得这些建议很有讽刺意味，因为我们作为一个社会，没有教给企业一种道德感，我们没有做任何事情来确保Facebook和亚马逊的目标与公共利益相一致。但我不应该感到惊讶；如何创造友好的人工智能的问题只是比行业监管的问题更值得思考，就像想象在僵尸启示录中你会做什么比思考如何缓解全球变暖更有趣。

最近在人工智能方面有一些令人印象深刻的进展，比如AlphaGo Zero，它纯粹通过与自己对弈，在几天内成为世界上最好的围棋手。但这并没有让我担心超级智能人工智能 "觉醒 "的可能性。(首先，AlphaGo Zero的基础技术对物理世界的任务没有用处；我们离一个能走进你的厨房并为你做一些炒蛋的机器人还有一段距离）。我更担心的是谷歌、Facebook和亚马逊的权力集中。他们已经达到了严重反竞争的市场支配地位，但由于他们的经营方式不会提高消费者的价格，他们不符合传统的垄断标准，因此他们避免了政府的反垄断审查。我们不需要担心谷歌的DeepMind研究部门，我们需要担心的是，如果不使用谷歌的服务，几乎不可能在网上经营业务。

我们很想说，对超级智能人工智能的恐惧是谷歌和Facebook这样的科技巨头故意的伎俩，目的是分散我们对他们自己正在做的事情的注意力，即把他们的用户数据卖给广告商。如果你怀疑这就是他们的目标，问问你自己，为什么Facebook不提供一个无广告、不收集私人信息的付费版本？你的智能手机上的大多数应用程序都有删除广告的高级版本；如果这些开发商可以管理它，为什么Facebook不能？因为Facebook不想这样做。作为一家公司，它的目标不是把你和你的朋友联系起来，而是向你展示广告，同时让你相信它在帮你，因为这些广告是有针对性的。

因此，如果马克-扎克伯格对人工智能发出最响亮的警告是有道理的，因为指出地平线上的怪物将是一个有效的红色诱饵。但他没有；他实际上对人工智能相当自满。对超级智能人工智能的恐惧可能是末日论者的真实想法。这并不意味着它们反映了真正的威胁；它们所反映的是技术专家无法将节制作为一种美德来考虑。像比尔-盖茨和埃隆-马斯克这样的亿万富翁认为，一个超级智能的人工智能将不惜一切代价来实现其目标，因为这就是他们所采取的态度。(当然，当他们是从事这种策略的人时，他们认为这种策略没有错；只是别人可能比他们做得更好，才让他们有理由担心）。

硅谷已经不自觉地按照他们自己的形象创造了一个魔鬼，一个其过度行为正是他们自己的恶棍。

有一种说法，由弗雷德里克-詹姆逊（Fredric Jameson）推广，想象世界末日比想象资本主义的末日更容易。硅谷资本家不愿意考虑资本主义的终结，这并不奇怪。令人意想不到的是，他们设想世界末日的方式是通过一种不受约束的资本主义形式，伪装成超级智能的人工智能。他们不自觉地按照自己的形象创造了一个魔鬼，一个其过度行为正是他们自己的恶棍。

这让我们回到了洞察力的重要性。有时洞察力是自发产生的，但很多时候并不是。人们常常为了追求某些目标而忘乎所以，他们可能没有意识到这一点，直到他们的朋友和家人或他们的治疗师向他们指出了这一点。听取这类唤醒的声音被认为是心理健康的标志。

我们需要让机器醒来，不是指计算机变得有自我意识，而是指企业认识到其行为的后果。正如一个超级智能的人工智能应该意识到，将地球覆盖在草莓田里实际上并不符合它或其他任何人的最佳利益，硅谷的公司需要意识到，增加市场份额并不是忽略所有其他考虑的好理由。个人往往在经历了个人的警醒之后，会重新评估他们的优先事项。我们需要的是公司也这样做--不是完全放弃资本主义，只是重新思考他们实践资本主义的方式。我们需要他们表现得比他们所惧怕的人工智能更好，并展示出洞察力的能力。

来源：buzzfeednews

翻译：deepl

往期：