王鑫：算法批判与人-机社会想象

王鑫：辽宁大学新闻与传播学院教授

本文原载《探索与争鸣》2021年第03期，转载对注释与参考文献进行了省略。

对算法的批判，并不意味着单一的抵抗或者解构，其目的在于寻求更合宜的未来“人-机”共生方式。毕竟，科技自身演进的规律是无法阻止的。凯文·凯利将科技视为第七生命体，认为它有自己“生命”的趋势、冲动、倾向和轨迹，“人们在将自然逻辑输入机器的同时，也把技术逻辑带到了生命之中”。毫无疑问，新的“人-机”共存的社会形态正在形成，认识到“算法想要什么”，揭示人与算法之间正在形成并逐步建立的关系，以及算法在多大程度上影响人类社会，是为了减少算法社会中人在确立自身位置时的矛盾，这是讨论人与算法的理论关切所在。其中一个重要的问题是，人类如何从思维、观念以及想象力方面思考算法。

人与算法之间的矛盾和困境

人与算法关系的提出本身就是一种二元论预设。从历史、逻辑以及经验层面考察，这个预设中人与算法（技术）的关系大体经历了发明时的新奇、接纳的犹疑、使用的快感、异化的警惕、自我保全的对抗以及新的技术再次出现等系列过程，然后继续陷入“西西弗斯式”的循环之中。人与机器（技术）之间，始终进行着相互的“征服”与“抵抗”。实际上，这并不是原初问题的解决，而是问题的转移。从旧石器时代的工具使用到今天的人工智能和算法，人类与技术之间的关系经历了长时间的积累，直到工业革命之后，这种关系的变化开始加速，特别是信息技术革命的到来使其呈现出指数级的改变，人类社会也发生深刻变革。与之伴随的是巨大的社会震荡和改变，这意味着人的生活方式的转变、社会阶层的升降、财富的转移以及权力的更迭等。人在新技术面前的不安，来自确定性生活路径的更改甚至是中断，更深层次的不安来自某种“积淀”的文化心理改变，以及既有日常生活经验的失效，人被卷入算法社会之中。人与技术的关系处于深层次的矛盾状态：一方面，人在依赖和使用算法，享受其带来的便捷、快速、高效的“美好生活”；另一方面，人又在“对抗”被算法偷走的“时间”“利益”和“闲暇”。更需要警惕的是，“算法”这一技术能力产生了新的少数的财富和政治“权力”主体，使个体不自由的状态转变成群体被控制的状态，算法近乎全面占有人的生活。此外，算法以“不透明”的方式，使人无法判定其如何发生作用，但却成为人类思维和判断的依据，甚至是一种“数据信仰”，决定着人如何决策，这尤其让人感到忧虑。

因此，对算法的“抵抗”也是为了减少算法对人的影响，比如人们在日常生活中抽身离开算法控制的“中辍”行为。但是，人的短暂“中辍”以及不得不“回归”使这种对抗显得“乏力”。如果按照之前讲述的“西西弗斯式”的循环，这不是问题的解决而是转移。毕竟，算法作为科技体的一部分，有其自身演进的规律。算法也不是人类的敌人，而是人的延伸，找到人-机共处或者人与算法（技术）共生的方式，尤为重要。反思算法社会中人与算法之间的“新困”，主旨不是解构而是建构，超越主客二元对立模式，转换对科技（算法）的观念，知道“算法想要什么”，并与算法形成和谐“共生关系”，这才是批判的意义。

转换理解算法的思维和观念

人们习惯把科技“当作一堆硬件”，或者认为科技是“迟钝的物品”，理应依靠和受制于人类。随着计算机技术的发展，人们明显地感到技术对人的“反制”——算法对人的日常生活影响越来越深刻，人渐次“沦为”数据池中的一个个数据点。人们开始反思科技与人的关系，也即“技术与人”“物与我”之间的关系。传统的主客二分的思维方式难以解决技术带来的困境，人与技术之间并不是简单的使用与被使用、发明与被发明的关系，处理两者之间的关系也不仅是“征服”和主体的胜利——无论是理性的胜利还是实践的胜利，正如海德格尔认为：“无论我们是激烈地肯定还是否定技术，我们仍是受制于技术，是不自由的。”回到算法的问题，如果以二元对立的思维来看，人与算法之间仍旧是彼此控制和对抗的状态，并且会产生出更多的文化、社会、人的精神和心理的问题，这无助于解决人与算法之间的矛盾，也无法揭示技术的本质。当下，人们在算法面前的悲观是因为人无法像早期社会那样，对技术有充分的控制，人显现出自身更多的局限，“科技体已经如自然一样成为一股强大的力量，我们对科技体的反应也应该与我们对自然的反应类似......我们不需要满足科技体的每一个欲望，但我们能学会利用这股力量，而不是抵抗它”。如果转换理解方式，将算法视为另一个自然，消解主客体间的实体性对抗以及主客二分的思维方式，将成为解决人与算法困境的通路之一。

在这一点上，海德格尔与庄子在思维方式上实现了跨时空连接。庄子讲庖丁解牛“以神视而不以目遇”，主体与对象（心物）之间不再是征服和控制的关系，而是一种不断熟悉和掌握“物性”和规律，最终实现“与物婉转，与心徘徊”的主客统一（物我合一）。虽然算法作为一种技术形态与自然还存在差异，但是同样构成对人的限制和阻碍，这与其他对象对人的限制并无本质的区别。抵达心物合一，是“心”（主体）无碍，更是对“物性”的充分熟悉或者规律的谙熟，这同样需要时间与实践。人使用算法，受制于算法，算法成为异己力量，就像一个人不会游泳，水对其而言就是一种强力，人就会抵抗和挣扎，但是越抵抗越挣扎，就越容易被水吞没。相反，一个擅长游泳的人，会被认为是“水性”好，实际上就是了解水、熟悉水，掌握了人与水相处的方式和规律。“我们需要理解计算思维的全部范围及其与程序语言神话的相互作用，从我们认为算法应该是什么开始”。正如荷尔德林所言，哪里有危险，拯救之力就在哪里生长，无论是中国传统的天人合一的思维方式还是现代西方生存论视角，都隐含着“我们绝难想象的拯救之生长的可能性”。深究算法与人的矛盾关系，或者对算法社会制造的文化困境的批判，其根本问题涉及两个方面，一个是如何思考算法，还有就是如何理解技术的观念。那些试图驯化技术，从而满足自身欲望的人，最终不是被技术吞没，而是被人的欲望吞没。因此，即使技术是这个时代的“天数”，但是这种“天命可不是要我们稀里糊涂地被迫去盲目推进技术的发展，或者把它当作恶魔的作品来诅咒。恰恰相反，当我们确乎向技术本质敞开时，我们会发现自己意想不到地被带进了一种自由的召唤中”。人类更好地认识算法，了解算法的“物性”和规律，与“算法合一”，寻求更好与算法相处的方式，才有可能在即将到来的机器文明时代继续保有人类的尊严，因为“不存在技术这个恶魔 , 只存在技术的本质之神秘性”。

荷尔德林

算法想要什么

算法想要的东西，“是我们设计它们时就让它们想要的，并且也是我们试图引导它们想要的”。任何技术都带有价值观和意识形态，尼尔·波斯曼以及诸多哲学家对此都作了批判，尽管这也是在二元论的思维方式中。令人担忧的是，充分了解算法的人，清楚算法“物性”，有可能抵达“物我合一”的“逍遥者”却在伦理层面降维成“工具人”。他们清楚“物性”或者“工具性”，却利用算法侵犯、控制、利用那些无辜且单纯的使用者，达成其获取财富和权力的欲望。算法的价值观在某种意义上说就是人的价值观，算法的意识形态也是人的意识形态。“吕梁丈夫蹈水”的“物我合一”之境是不具有侵犯性的，正如“风车确实借风力转动；但它们完全听由风吹。风车并不是要从气流中释放出能量以储存之”。因此，外物与人的合一状态，是要保持人与物之间的各自的自由与自在，而不是借由“物性”实现对他人的控制，这不是真正的“物我合一”，而是更大的亵渎和冒犯。算法意识形态并不是那些程序员的意识形态，他们是为了满足客户的需求而生产的符合客户的意识形态和价值观，以及获取金钱和财富的方式，这与海德格尔勾勒的场景并无二致，即“林务员在森林中计算被砍伐的木头，表面上和他的祖父走在同一条林中小路上。其实，今天的林务员，无论他知或不知，都已经受制于以盈利为目的的木材工业了”。“人推动技术向前，他就参与了那作为一种揭示方式的勒令。”算法表征出来的是权力、不透明、陷阱、技术的意识形态，以及对人隐私和利益的套取和人的欲望在算法中的呈现，这构成批判算法的主要原因。此外，深谙算法功能之人制造的不平等、权力的集中以及对于财富的“剥削”，成为算法之“恶”。算法以潜移默化的方式成为寡头统治的“秘密”。算法提供了一个有序的逻辑，组织着我们的生活，多数人使用算法，知其然不知其所以然，算法成为“准神秘结构的形象，既无处不在，又鲜为人知”，算法因为“神秘”而充满危险。因此，既要对算法进行反思、抵抗和批判，也要进行自我批判。人文学科的作用和批判功能在一定程度上可以有效地应对在计算和文化的交叉点上出现的模糊性和复杂性。

算法想要什么？上述呈现的两种驱动力与人有关，同时算法也有自己的需求，正如科技体想要的，“希望自己不朽，一直存在下去”。当然算法并不具有“意识”，算法想要的，大体上是“一种趋势、倾向、冲动和轨迹”，算法有它自身的演进路径和方向，“更加多样化、更加无所不在、更高的自由度、更强的共生主义、更美好，更有知觉能力”，而人无非是顺着这样的趋势、倾向和轨迹将算法想要的以某种方式呈现出来。而未来发展的方向是“科技体朝着人类机器共生程度越来越高的方向移动”，算法一方面还会继续被人操纵，同样也会继续操纵人，这种矛盾和困境一直都在；另一方面，尽管科技看起来像是“人造物”，但是科技体具有强大的自生能力，算法也会依照其自身的演进和发展冲动前进。人类的反思只是让“人-机”之间的关系能够符合人类的善意和美好，并解决这个过程中出现的问题，这是人类乐观的想象。

任何一次技术变革既是对人的解放，也会形成对人的新的制约和控制，是进化的过程，也是异化的开始，这不依赖人的意志为转移，而是人被技术的“天数”带入其中。算法社会，也是人类社会的历史进程之一，今天我们面对的局限，也是人们在不同历史变革时期曾经遇到的问题。如果我们能够更加清楚算法的“物性”和需求，人也许会更自由。如果人类对算法社会仍旧充满“想象力”，或许会更好地把握自身在算法社会中的处境和命运。

 相关阅读 ·

 商品书目 ·

微信号 : DigitalLaw_ECUPL

探寻数字法治逻辑

展望数字正义图景

数字法治战略合作伙伴：理财魔方

北京市竞天公诚律师事务所上海分所