我们如何对待动物，AI就如何对待我们？
The following article is from Neugeist Author Marina B.
加星标，才能不错过每日推送！方法见文末动图
人工智能的非人化哲学，建立在对我们动物本能的憎恨之上。
撰文 | Marina Bolotnikova
译者 | Hazel
审校 | Muchun
你可能已经听说过——可能是从发明这项技术的人口中听说的——未来的某一天，人工智能可能会将我们统统杀死，具体细节尚不清楚，但这也无关紧要。人类非常善于幻想自己会被外星物种灭绝，因为我们向来擅长想出一些创造性的方法来对付我们的同类。人工智能可能会因为一些愚蠢的事情毁灭人类，就像哲学家尼克·博斯特罗姆（Nick Bostrom）著名的思想实验中所描述的那样，把全世界的物质转化成回形针；而人类现在为了获得棕榈油来制造奥利奥等垃圾食品，正在消灭我们的类人猿表亲——猩猩，两种行为何其相似。
你甚至可能会说，人类这种被机器征服的噩梦，表达了一种奇怪的恐惧心理，那就是我们对待非人类动物的手段，会反过来落在自己身上。“我们知道自己做了什么，”记者埃兹拉·克莱因（Ezra Klein）在2023年5月的一集播客节目中如是说，“我们不希望落入对方的处境中。”
许多人认为，智力是让人类在这个星球上变得独一无二的品质，而AI使这一品质受到威胁。因此，正如作家梅根·奥吉布林（Meghan O'Gieblyn）在她的《上帝、人类、动物、机器》（God, Human, Animal, Machine）一书中所写的那样：“我们坚持认为，真正的意识，其不同之处在于情感、知觉，以及经历和感受的能力，我们以这种方式来减轻自己的焦虑，而这些品质是我们与动物所共有的。”也就是说，我们告诉自己，即便有一天人工智能可能比我们更聪明，但与机器不同的是，我们拥有主观体验，因而在道德上是特别的。
- Charlie Davis -
不过，这里显然有一个问题，那就是人类在这方面并没有什么特别。非人类动物同样拥有许多智能和感知方面的能力，尽管如此，我们一方面期待从人工智能那里得到仁慈的对待，一方面却拒绝将这种仁慈延伸到动物身上。我们将对待动物时残忍无情的行为合理化（将它们关进笼子、作为商品售卖、肢解和杀害，以满足我们的一时兴起）的依据，就是我们所谓的卓越智力。“如果神明真的存在，一定会为我们前后矛盾的逻辑笑掉大牙，”奥吉布林继续写道，“我们花了数个世纪的漫长时间否认动物有意识，正是因为（我们认为）它们缺乏理性或高级思维。”
那么，如果人工智能是基于我们的价值观被创造出来的，我们又怎么能期望它会以不同的方式对待我们呢？当我们在善待动物朋友这方面一败涂地时，我们可能很难向未来的人工“超级智能”（如果这种东西真的存在）证明，我们应该得到宽大处理。更糟糕的是，人工智能先知们的非人化哲学，正是证明“我们有血有肉、有生命的自我具有价值”的最坏出发点之一。
超人类主义的根基
尽管现代人类假设非人类动物缺乏智能，并以此为剥削非人类动物做辩护，但这从来都不是剥削的真正理由。如果我们信以为真，根据动物的聪明程度对待它们，我们就应当立即停止人工养殖章鱼，因为章鱼会使用工具，能辨认人的面孔，还知道如何逃出牢笼。我们也将不会把大象单独关在动物园里，而是认识到它们是聪明、有爱心、深具社会性的生物，这种行为侵犯了它们的权利和需求。我们不会对猪进行心理折磨，把它们关在小得转不开身的笼子里，让它们在棺材里度过短暂的一生，只为把它们制成廉价的切片熏肉。我们还会意识到，我们本不该以人工方式让聪明的奶牛承受反复怀孕、反复与新生幼子分离的创伤，只为喝到它们为小牛分泌的乳汁。
实际上，不是因为动物愚蠢，所以我们对它们残忍；而是因为我们对它们残忍，才说它们愚蠢，并编造出“它们缺乏心智”这一没有事实根据的传说，来证明我们的统治是正当的。政治理论家迪内希·瓦迪韦尔（Dinesh Wadiwel）在其2015年出版的优秀著作《反动物战争》（The War Against Animals）中阐述了这一点。在名为“无知的暴力”这一章中，瓦迪韦尔认为，人类凌驾于动物之上的权力，使我们在看待动物的真实面貌时，保持着固执的、毫无来由的无知，他写道：“我们还能如何描述这种想法呢？人类声称自己优于动物（无论是基于智力、理性、沟通、发声还是政治），这种优越性却没有一致或可验证的‘科学’或‘哲学’依据。”人类和动物一样，都是脆弱易碎的生物，只能在特定的物理和社会限制条件下茁壮成长。我们只能寄希望于未来的人工智能无论多么智能，都不会对我们表现出同样的无知。
关于未来会不会有某个强大的人工智能把我们归类为不具智慧的物种，我们眼下只能做些猜测。但显而易见的是，在著名的人工智能推动者之中，弥漫着一种明确的、令人担忧的、对人类动物的蔑视。人工智能研究本身就和超人类主义有着密切的联系，超人类主义是一场旨在用技术彻底改变和增强人体的运动。正如超人类主义支持者之一的博斯特罗姆（Bostrom）所说，最极端的超人类主义者希望让人类与计算机融为一体，像切除癌症患者的肿瘤一样，切除生命中的痛苦，并生活在永恒的幸福之中。例如，埃隆·马斯克（Elon Musk）曾表示，他创办脑机接口初创公司Neuralink的部分原因，是为了让人类在与人工智能的智力竞赛中保持竞争力。马斯克在2019年Neuralink的一次活动中说：“即使正在运作的人工智能性情宜人，我们也会被它甩在身后。但有了高带宽的脑机接口，我们就有可能与人工智能并驾齐驱。”
这种抱负可以解读为一种隐含的、对自身动物性的厌恶，或者至少隐含着一种“将我们自身从动物性中解放出来”的渴望。“我们将是有史以来，第一个设计自己后代的物种，”技术专家山姆·奥特曼（Sam Altman，现任OpenAI首席执行官）在2017年的一篇博文中写道，“我的猜测是，我们要么成为数字智能的生物启动器——也就是高级人工智能的一块垫脚石——然后消逝在进化树的一个枝节上；要么就是找出和AI成功融合的方式。”
- Charlie Davis -
计算机科学家丹尼·希利斯（Danny Hillis）是已解散的人工智能公司“思考机器”（Thinking Machines）的联合创始人，他在20世纪90年代初宣称，人类由两种根本上不同的东西组成：“我们是能够新陈代谢的生命，是能够直立行走的猿猴；与此同时，我们也是具有智慧的生命，拥有一整套思想和文化。”正如历史学家大卫·诺布尔（David Noble）在其1997年出版的《技术的宗教》（The Religion of Technology）一书中所引述的那样。希利斯继续说道：“思想才是我们的价值所在，是人类的优势所在，而非动物性。”与计算机融合，标志着我们摆脱了动物生物性的束缚。
这种人类/动物二元论，假定我们在认知上与动物演化树的其他部分有清晰的分界。而事实上，这种界线并不存在。二元论依赖于一个并不可靠的模型，这个模型认为，人类智能和我们的身体以及动物自我毫无关联，认为“心智是一种计算，它并不包含人类经验的情感维度，也不包含身体”，迈克尔·萨卡萨斯（Michael Sacasas）这样告诉我。他是一位科技评论家，撰写的专栏“共生社会”（The Convivial Society）在美国内容平台Substack上广受欢迎。
正如萨卡萨斯希望的那样，现在社会对人类在人工智能世界中的地位的反思，可能会促使我们重新思考这种二元论，并认识到，身体“不仅仅是理性这一软件的固件，实际上也是‘心智’不可分割的一部分”。打破这种二元论理应也意味着，我们需要放弃我们赋予自身的、作为人类的独特地位。这帮助我们拓宽智能本身的定义，使其包含奥吉布林所描述的那些动物特质——“情绪、知觉、体验和感受的能力”。毕竟，我们的大脑中并不存在一种叫做“智能”或“思想”的东西；思想不是身体的一部分，而是一种与其他心理过程相续的涌现属性。动物也有这些特质，在某些情况下甚至强于人类。
例如，候鸟有一项众所周知的能力，就是通过感知地球磁场来导航。浣熊能用它们异常敏锐的前爪，来“观察”和了解世界（这就是为什么，我们有时会看到它们热情地拍打物体和其他动物）。猪无疑是很聪明的，但广泛流传的“猪和三岁孩子一样聪明”的说法，反映出我们用单一变量、人类中心主义的标准来衡量智力，而不是承认不同的生物有不同的心智，这令人沮丧。然而，这种说法对我们来说也是去人性化的，因为它把我们的认知当作电脑的中央处理器来评判。如果我们能正确地评价动物的能力，那么也就能看到，将我们的心智与身体分离，从而宣称人类具有特殊性，是怎样对我们自己造成精神危害的。
当AI坐上审判席
语言学家艾米丽·本德（Emily Bender）曾有过这样的评论：即使你不相信 AI会独立自治并谋划灭绝人类，也一定看到过许多现象，例如聊天机器人已经模糊了人类与机器之间的界限，营造出它拥有感知力的错觉。萨卡萨斯（Sacasas）等人则指出，人工智能取代人类，代表现代社会消除生活中低效率的冲动达到了顶峰，他说：“按照市场和技术资本主义的逻辑（如果你能接受这种说法），人类的低效率终将被清除。从某种意义上说，人工智能只是让这一逻辑更进一步……让它抵达逻辑上的既定结论，也就是，你要清除的是人类本身。”
于我而言，这些评论听来非常真切——但它们仍然在某种程度上固守人类在伦理和精神上的独特性，而一直以来和我们共享地球的其他有感知力的智能生物，却被排除在外。萨卡萨斯指出：“人工智能引发的焦虑，一部分建立在我们试图区别、抬高人类，或寻找人类独特之处的基础之上。”在动物中，人类在很多重要的方面显然是独一无二的。但是，关于人工智能的批评话语鲜少有超越人类自身的思考，也不曾考虑，现状会如何影响我们对动物的低估。
- Charlie Davis -
例如，对人工智能大型语言模型（LLMs）最著名的批评之一，就是将缺乏语言理解的人工智能比作一种动物，这就是“随机鹦鹉”的概念，指聊天机器人没有心智、不考虑意义，只是基于概率模型吐出语言。“但你不是一只鹦鹉。”《纽约》杂志上一篇艾米丽·本德（Emily Bender）的头条文章里这样写道。
我相信本德并不讨厌鹦鹉这种异常聪明的动物，它们被认为能以惊人的保真度复制声音，作为它们彼此交流以及与人类交流的一部分。但鹦鹉并不是机器，把它们想象成机器只会强化人类与动物的二元论，这种二元论让我们持有心智的非具身性观点（disembodied view）。这就好像不批判动物性，我们就没有别的说法，来肯定自身作为人类的价值一样。
人工智能的崛起应当是个关键时刻，从此，我们应该着手处理自身与其他有感知力的生物之间的关系。如果人工智能有一天坐上审判人类的席位，我们应该祈祷它比我们仁慈得多，它不会像我们对待其他动物那样，对我们的能力和需求吹毛求疵、嘲笑或否定。如果我们不希望被更强大的智能欺压，就没有可靠的理由继续欺压其他生物。
有感知力的机器
以上这些都没有明确告诉我们，机器本身是否有可能拥有感知力，或者如果有可能，应该怎样实现。我曾经觉得有感知的人工智能这个想法很可笑，现在却动摇了。正如奥吉布林指出的那样，科学方法还无法解释意识的存在。她还写道，现代科学“在一开始就将心智排除在外”。
如果我们不知道意识从何而来，那么在假设意识只能从生物身上产生时，我们可能要小心谨慎些，尤其是考虑到我们分析动物意识的记录并不多。“演化只是反复筛选生育能力，才有如今的我们。但我们有自己的目标，可是这个过程为什么会产生有目标的生物呢？不得而知。”Vox的凯尔西·派珀（Kelsey Piper）在去年3月的《埃兹拉·克莱因秀》（The Ezra Klein Show）节目中如是说。
我们没有理由相信，目前的任何人工智能有感知力，但我们也无法获知这种情况是否会变化，或者如何变化。我的朋友卢克·盖斯勒（Luke Gessler）是一位计算语言学家，他告诉我：“我们正处于这样一个阶段：我们可以制造火，但却连理解火的基本知识都不具备。”
- Charlie Davis -
即便人工智能在某天能具备感知力（这是一个很宏大的假设），我也很怀疑我们是否愿意承认它的存在，这与我们否认动物有感知能力的原因是一样的。人类非常善于漠视他们想要剥削的生物的利益，也很擅长在这些利益上撒谎（不仅包括动物，当然也包括奴隶、女性，以及其他任何被排除在道德考量之外的人群）。创造有感知力的人工智能不合伦理，因为我们把它作为财产带到这个世界上。正如我们从非人类动物的经历中了解到的那样，将有感知的生命视为财产，本质上是不公正的，因为这些生命的福祉总要服从于经济效益和拥有者的欲望。科幻小说作家特德·姜（Ted Chiang）2021年谈起制造有感知力的人工智能时说：“我们将不可避免地给它们带来苦难，在我看来，这显然是个坏主意。”
哥伦比亚大学的哲学家达南杰·贾甘纳坦（Dhananjay Jagannathan）在2023年5月的一篇文章中，为人工智能的心智问题提供了不同的视角。他从亚里士多德的观点出发，认为思维的本质无法通过科学推导，也不能被植入计算机中，因为思考是我们作为生物而生活不可分割的一部分。亚里士多德认为，“思考即是生命”。例如，浣熊通过拍打物体来了解周围环境，幼鸟通过啄食物体来了解环境，人类的嗅觉会生动地触发遥远的记忆，这些都是思考的过程，和他们用来与世界打交道的生物器官密不可分。
贾甘纳坦写道，由此产生的一个结果是，超人类主义者梦想着通过数字技术上传我们的意识，脱离我们的身体，这非但不是任何形式的解放，反而等同于“自我毁灭”。对于现代人来说，思维与动物性密不可分的观点可能很难理解，因为正如奥吉布林所写，我们关于心智的概念在很大程度上来自计算机隐喻，我们将自己的认知想象成一台计算机，因而也会错误地想象计算机能够思考。
重新思考动物性
贾甘纳坦认为，我们可以通过与非人类动物的亲缘关系来理解思想，他的观点有助于澄清二元论以及对经验的计算机式理解中令人不安的地方，而人工智能和超人类主义哲学，将这种对经验的理解推向了逻辑上的终点。假定我们可以理解、测量和完善主观经验，使生命犹如计算机上编码的信息单位，就会得出明显令人厌恶的结论——消灭生物性的生命（包括人类和非人类）是可能的。
例如，著名哲学家威尔·麦卡斯基尔（Will MacAskill）在其2022年出版的《我们欠下未来的债务》（What We Owe the Future）一书中提出，野生动物数量的减少（如果你还不曾听说，我们其实正经历一场大灭绝）其实可能是件好事。他写道：“平均而言，它们的生活状况可能极度恶劣，我认为这个说法是可信的（尽管不完全确定）。”因为它们的生活充斥着苦难而非快乐，如捕猎和患病，也许，如果它们从未出生过，反倒会更好——这种论调与超人类主义者的观点如出一辙，都希望消除生命中的痛苦，通过将存在物与机器融合来殖民整个宇宙。
消灭野生动物，是将身体与生命相剥离的一种更极端的表现形式。与之相似，超人类主义哲学家戴维·皮尔斯（David Pearce）是“捕食者食草化”（Herbivorize Predators）组织的董事会成员（该组织的目标正如其名），他希望通过技术手段“消除人类和非人类生活中一切形式的不愉快体验，将痛苦用‘信息敏感的不同程度的极乐’取代”。
- Charlie Davis -
在现实世界中，当野生动物的出现给我们带来不便时，它们往往会被全盘抹杀，因此，“消灭它们也许并不违背道德”的想法，可能会为人类正在进行的生态灭绝提供理由。谁又能保证，人工智能不会在某一天依据对痛苦和快乐的冰冷计算，决定最好帮我们脱离苦海，就像我们对野生动物所做的那样？这与超人类主义道德观中超越肉体苦痛的精神是一致的。
然而，这种对我们和动物的生物自我的模糊评价，排除了以其他方式衡量或诠释生命的可能性。我们很难了解动物的内心世界，更不要说判断它们是否认为自己的生活值得过。如果一名锱铢必较的功利主义者告诉我，余生的百分之七十都是痛苦，我依然不会选择死亡，即便我对他们有十足的信任，我仍然想活出自己的人生。
诗人艾伦·夏皮罗（Alan Shapiro）的作品，对动物的生命做了截然不同的集中诠释，令我一再回味。他在2002年创作的诗歌《喜悦》（Joy）中，表达了喜悦、恐惧和苦难的奇特纠葛，这种纠葛定义了我们的生活，在他的想象中，或许也定义了野生动物的生活。“喜悦，”他写道，有一种“野性的美丽”，并将其比作狮口逃生的羚羊：
如羊群
逃脱镜头的捕捉
曲折前进
一致转向
跳跃的步子
愈高，愈急
恐惧潜行又平息
宽慰过后
它们仍在奔跑
不为别的
只为奔跑的快乐
即便
它们中的任何一个
都可能是
跑离
死去的母亲、父亲
或兄弟姐妹
穿过辽阔的热带草原
在灼眼的太阳下
跃入鲜活草地
在我看来，这一图景并非表达野生动物的苦难无关紧要，而是说它们脆弱、神秘而充实的生活是值得过的。人工智能唤起了我们对于动物性的脆弱和虐待动物性的焦虑，不论是我们自身的动物性还是非人类动物的动物性。它提醒我们，不要忘记此身的单薄易碎，不要忽视身体里那些在机械论看来幽微的、无足轻重的部分。如果有一天，运用语言不再是人类独有的能力，将一切理性化的冲动可能会迫使我们为自己敲响丧钟。相反，我们也可以认定，作为生物的自我值得坚持，并邀请动物同伴加入我们的道德阵营。
译者简介：
Hazel，It dose not do to dwell on dreams and forget to live.
审校简介：
Muchun，我穿越混沌取得胜利。
相关阅读
近期推荐
特 别 提 示
1. 进入『返朴』微信公众号底部菜单“精品专栏“，可查阅不同主题系列科普文章。
2. 『返朴』提供按月检索文章功能。关注公众号，回复四位数组成的年份+月份，如“1903”，可获取2019年3月的文章索引，以此类推。
长按下方图片关注「返朴」，查看更多历史文章