谁也逃脱不掉的“算法困局”

成哇 2023-07-10

The following article is from 先知书店 Author 先知书店

谁也逃脱不掉的“算法困局”

﹎

策划：先知书店

文：愈嘉编：先知书店店长、柏果

最近，知名杂志《人物》在《外卖骑手，困在系统里》一文中描绘了一个令人触目惊心的事实——算法的困局中，外卖骑手正在经历令人难以想象的生死时速。

在算法的驱动下，外卖骑手的配送时间越来越短，3年前，3公里的配送时限是1小时，2年前是45分钟，1年前仅剩38分钟......为了微薄的收入，许多骑手不惜闯红灯、逆行，甚至发生了车祸......

很快，这篇长文便刷屏了，并在社交媒体引发了更为激烈的讨论。其中，有三种观点，受关注程度最高，争议也最大——

◎首先，被群起而攻之的，自然是“罪魁祸首”美团、饿了么两大外卖平台。人们纷纷指责，资本为了利润，不惜践踏商业伦理。只有少数声音站在了企业这边，认为资本没有原罪，利润与伦理道德本就需要磨合。

◎接着，有一种理性的声音认为，虽然算法是冰冷的，但人应该是有温度的。数据应该是服务于人的工具，而非奴役人的手段。他们进一步指出，这是一个复杂的系统性问题，牵扯到三方的调整：政府监管、企业和消费者。

◎最后，还有一种另辟蹊径的观点认为，外卖行业可以采取灵活用工的方式，即把原来的雇佣者变成平台的创业者（骑手注册成个体工商户），以“谁做得好我就用谁”的优胜劣汰思想来达成合作，唯有如此才能解决根本问题。

以上观点，尽管出发点不同，解决方案不同，使用的分析工具不同，但是有一个默认前提是相同的——都认为，算法是中立的，是使用的人，或者说社会系统出了问题，算法不过是助推器、或者放大器。

但是，从人们熟练掌握、应用算法的那一刻起，算法思维，就在潜移默化地改造人类的思维模式：算法的确是一种工具，但却是一种可以影响使用者的工具；算法貌似中立，但结果却呈现出强烈的价值观。

▍没有人去思考，也来不及思考：外卖骑手，是人还是数据？

《外卖骑手，困在系统里》一文的题眼，其实就两个字：“算法”。

但到底什么是算法，《人物》的文章却没有给出清晰的定义——其实，算法不只是数学，也不限于计算机，算法指的就是“解决方案、实施步骤、量化数据、可大规模复制”一系列步骤。

比如，你按照一个精确的食谱烤面包时，食谱上写着加入20克白砂糖，放入180度的烤箱里，烤30分钟等等，这些步骤就是一个算法。但如果一个红烧肉的菜谱里面说放盐少许，葱花少许，这可能就称不上算法。因为没有量化，它就不能复制。

只有当我们一步步拆解、剖析美团的“外卖算法”时，才能找到造成外卖骑手悲剧的真正根源。

◎解决方案，实施步骤

外卖平台公司面对的痛点问题简单明了，那就是如何把外卖准时地送到食客手中。而美团公司给出的解决方案是使用最新的“人工智能算法系统”。

美团创始人王兴在接受媒体采访时表示：“我们使用的系统是‘实时智能配送系统’，这是一个很好的技术手段，我们的口号是‘美团外卖，送啥都快’，平均28分钟内到达。”

站在商业角度，这是外卖平台的必然选择，因为除了人工智能系统之外，没有任何其他方案能高效地解决这个问题。

◎量化数据、可大规模复制

美团的“实时智能配送系统”，从顾客下单的那一秒开始，系统便开始根据顾客、商家和骑手的位置，从数学角度计算，选择哪一位骑手接单，系统会在几毫秒之内，计算出成本最低，最省时间的最佳配送方案。

尽管美团的算法能够做到量化数据，可大规模复制。然而，其局限性也很明显，那就是文章所说的“想要击碎这种‘最优’，一场大雨就足够了。”

不仅仅是恶劣天气，意外的交通事故，骑手本身的身体或者心理状况等等，都会导致算法系统理想中的大规模复制化为泡影。

比如，文章中所提到的美团站长金壮壮，就无奈地表示，算法的完美状态根本无法实现，但是为了达到算法给定目标，他只好强行规定“除了生老病死，恶劣天气不能请假，请假直接罚款。”甚至直接开启“人工调度”，以满足算法给定的目标。

◎算法体系下，每一个人都只是零件

不难发现，算法体系，就像一部庞大的机器，每个人都只是一个零件，在作为零件高效率运转的过程中，却丧失了对总体目标的责任感和道德感。

在美团这个体系中，人人不过是照章办事、分工合作。每个人都只是承担自己手头的一份工作，完成流程中一个微小的步骤。有人负责给外卖员定位，有人负责计算距离，有人负责计算成本，有人负责扩大利润，在追求效率的高速运转中，没有人去思考，或许也来不及去思考，外卖骑手究竟是一个鲜活的人还是一个冷冰冰的数据？

结果，没有谁觉得自己要为全局负责。每个参与者面前只是一个待完成的流程，可能是一份排期表，可能是50趟运送任务，送完一趟记录一份数据。在这种流程中，给外卖骑手下达指令的站长、工程师，面对的只是屏幕上的一个又一个小点，此时，人很容易丧失面对鲜活生命时的同情心和道德感。

结果就是，每一个步骤组合起来，共同导致了外卖骑手的悲剧，而其中的程序员感受到的可能只是“我今天记录了一些数据，调拨了一些人送外卖而已”。

▍没有人能够置身系统之外

很多人认为，算法是中立的，是使用它的人出了问题，甚至有人将这出悲剧归结于“资本的贪婪”。

然而，经过对美团算法剖析不难发现，算法系统一旦投入使用，算法意志就会彻底取代人的意志，“算法思维”会在潜移默化中改造人的思维方式。

为了详细解释这点，我们就必须回到算法思维的源头——科学思维。

科学哲学家卡尔·波普尔认为，科学就是“可证伪”，也就是说，任何科学理论，都必须可以被证明是错的，也就是说一个科学理论自降生起，就等待着被超越。

而“证伪”最重要的途径之一就是实验。而科学实验的方法论往往是“对变量进行精确控制，对流程进行完美管理，接着建立数学模型，进而准确预测”。

科学思维，在天文学、物理学、化学等自然科学等领域获得了巨大成功，然而，一旦将其运用到人类社会领域，便会遇到极大的挑战，甚至会引发空前的灾难。

著名思想家哈耶克，在他的代表作《科学的反革命》一书中，一针见血地指出了科学思维的局限性：

“科学研究的观察对象，都是拥有确定的、具体属性的物，比如地球、月球、铁元素等等。在一定的观测条件下，它们的属性和性质不会发生变化，这是科学的根本前提。然而，社会科学的世界是人的主观世界，研究的对象从根本上来讲是人类的心智，人性是复杂多变的、人的行为受不同观念的影响会随时产生变化，人类社会是一种自下而上的‘涌现现象’，它从根本上来说是不可精确预测的。”

以美团算法为例，“实时智能配送系统”，仅仅描述了一个完美的数学世界，但是外卖员面对的是一个真实的人类世界，人类社会牵扯到无数的变量，只要有一个要素发生变化，算法所描述的完美乌托邦就会轰然倒塌。

例如，《人物》文章所描述的那样，突如其来的狂风暴雨、大厦电梯发生故障、红绿灯路口发生了交通事故、用户拒接电话等等。

哈耶克在书中进一步指出：

“那些试图用科学方法掌控人类社会的人，把每个人当做毫无生命的原子，他们是彻头彻尾的唯科学主义者，他们熟悉科学思维，却完全忽略了科学的基本前提，因此，这是对科学的反革命......当科学思维全面侵入人类社会时，如果不加以警惕，那么就会消解伦理道德，驱逐价值判断，最终必然将人类社会引向奴役之路。”

哈耶克这段写于上世纪70年代的论述，竟在21世纪被应验，在美团外卖算法中，一个个鲜活的外卖员，何尝不是被工程师当做一个又一个毫无生命的原子？他们只需轻轻点击几下鼠标，外卖员的命运可能会随之沉浮。

算法的背后，是根深蒂固的科学思维，而科学思维并不考虑人的价值、感受，只考虑效率、目标，久而久之，使用算法思维的人，也会变得越来越冷漠。

可见，当我们在使用算法时，貌似是它的主人，但实际上，算法本身也会反扑，它会潜移默化地改变我们。最终，每个人都深陷系统之中。

▍谁也逃脱不掉的“算法困局”

其实，美团与骑手之间是合约关系，觉得自己被困可以离职切换系统。然而，外卖骑手的悲剧，仅仅是唯科学主义入侵的缩影，即使他们离开了美团的外卖算法，还有无数个算法等待着。今天，又有谁能跳出算法，独善其身呢？

今天，“人脸识别技术”“手机APP记录个人数据”“KPI绩效考核”大行其道。只要使用任何一款社交工具或者APP，甚至只要使用互联网，都离不开算法，而每一次使用，又在为系统贡献着数据，随后，这些数据又将成为新的算法的依据。

外卖骑手被算法系统所困，是算法及其背后的科学思维应用于商业的副产品。其实，20世纪，科学思维也曾被大规模应用于人类社会治理之中，结果造成了一系列的悲剧——计划经济大行其道，社会达尔文主义甚嚣尘上......

可见，不仅仅是商业，甚至整个人类社会都被困在“唯科学主义思维”之中，当无所不在的算法，可以风平浪静地忽略人的感受，消解掉人的价值时，我们不能再视而不见，更不能不警惕。