【笔谈系列⑫】吴静︱算法的边界
编者按：人工智能与大数据、生物技术等科技革命和产业变革联合积聚力量，催生了大量新产业、新业态、新模式，给全球发展和人类生产生活带来深刻的变化，也使之成为自然科学、技术科学等学术领域的热点，研究成果丰硕。新一代人工智能为经济社会发展注入了新动能，为人类创造了更加智能的生产活动、工作方式和生活方式，但是，在政府治理、法律、安全、道德伦理等方面，人工智能也提出新问题甚至挑战，也是新的学术议题和学术增长点。自然科学、技术科学领域长于人工智能在计算机科学技术、数学、控制论、信息论等方面的研究，人文社会科学方面的研究相对缺少。
2021年7月，本刊编辑部邀请中国社会科学院、北京外国语大学、南京大学、南京师范大学、上海师范大学等单位的专家围绕“人工智能：理论阐释与实践观照”展开热烈而深入的讨论。编辑部根据专家发言整理并形成笔谈，从不同角度展现人工智能对社会政治、经济、法律、文化、生活等方面所产生的影响，为推动学术界对人工智能课题更加全面、深入的研究作出应有的努力。
关键词：碳人工智能；机器人；社交机器人；机器伦理；数字劳动；算法；社会正义
算法的边界
南京师范大学公共管理学院教授、博士研究生导师
吴 静
数字与人文研究是我近年来的主要研究方向。今天，我们讨论一下算法的边界问题，如何去看算法在社会组织层面产生的问题，包括劳动的规则问题。我先分享一下这两天看到的一则新闻和自己的一个体验。我平时除了开车以外，还比较喜欢用打车软件，但是这两天我发现用软件打车特别困难，叫车的时间特别长，在平台叫车后它就会给你选择，你可以选择同时叫几种车，有特惠快车、优享、出租车。一般情况下，我不赶时间的话会选一个快车，但有的时候你会发现，叫了以后很长时间到不了，然后你就会把优享、专车、出租车都勾上，以确定在最短的时间内叫上车，经常价高的就被选上了。
这两天我看到一则关于亚马逊（Amazon）的报道，跟它有合作关系的一个63岁的代理司机接到平台自动算法给他发的一封信，通知他被解雇了。原因就是某一次，平台根据算法在天亮之前派了一个送件给他，让他送到某一个大厦去，但是他去了以后发现这个大厦在这个时间点之前根本就不开门，几经折腾联系到大厦管理人员，说让他送到Amazon的快递柜里去；他也去了，结果快递柜故障怎么也打不开，导致延时，因此他苦心维持的积分瞬间被扣掉了很多，于是他就被解雇了。
这些事件展现了一个事实，今天算法凌驾在整个社会之上并成了另外一种凝视的体系。我要强调的是：
第一，我不反对人工智能，第二个我不反对算法。
但我想问的是，我们都知道算法在整个社会生活层面构筑起新的评价标准，大家有没有想过，为什么从组织、集体到个人依旧会愿意使用今天所有这一切智能软件？或者说就像是股市的原则一样，用自愿的原则使自己加入这个体系。
在实际生活中，我们可能都会有这样的操作经历，比如说下载一个APP，然后注册，点了以后一定要你勾选同意原则，不同意就没有办法进入下一步，这个时候你基本不会细看的，直接就会勾选一个同意，然后才可以正常使用。仔细想想，发现实际上我们把自己主动地交给算法，但是为什么会是这个样子？算法技术又是以什么样的方式进入我们的生活当中？我想无非是如下两点：
第一是利益，第二是方便、便捷。
便捷性不用展开讲，只要分析一下利益。今天，大量的APP搞各种营销活动，比如瑞幸咖啡、滴滴打车、美团等在最初推广期间，全部使用补贴的方式，包括不挣钱的高积分派工模式，如此采用高补贴的方式，可以让大量的服务提供者自愿进入，在这个过程当中大家都是在利益和便捷性原则的驱动下，自愿进入这个系统当中。难道这就是算法真正的目的吗？我们今天谈到算法如何的时候，我们要去了解算法，知道算法要做什么，算法是如何做到这一切，而算法对我们的生活到底会有一个什么样的长远影响。我觉得这个不是从现象层面来考虑，算法跟我们日常处理方式的最基本原则有所不同，算法把所有的问题切割成一个个项目，让所有事情都变得环节化。在这种环节化当中，它就用可计算性的原则来对每一个环节精确量化，这也就是斯蒂格勒在他的《技术和时间》中提到的确定性原则。而确定性原则最基本的因素就是可计算性，也就是说算法实际上通过这样的方式凌驾于生活之上，实际上借用所有问题的可计算性进入生活当中。从本质而言，技术性实际上正是世界的确定性维度，作为现代性逻辑后果之一的技术话语的优越地位，使得人本主义传统中的非确定性维度被忽视或简化为非理性。而这种简单替换正是今天的大数据时代的统治逻辑。所以我们会发现那个被解雇的工人所遭遇的问题不在算法考虑范围之内，算法只考虑你在某一个时间有没有把我要求你送的东西送到位，算法设计者没有考虑任何弹性。因为，现在的定位、计时你都可以看得到。真正的算法只是一个框架，算法借助数据来完成事情，但是我们会发现数据算法语言本身和自然语言有类似性，它实际上是符号系统，但是这种符号系统都依赖于符码能指和所指之间的关联性。但问题是在自然语言当中，对于关联性的这种追问，对于能指的霸权，已经在语言学、文化研究、人类学当中得到重视。但在算法语言当中，对于能指的这种追问却远远没有进行，因为我们没有对算法进行批判性的反思，我们实际上还停留在问题的表面即人被算法困在系统里。但是我们要追问算法要实现的是什么，这一点值得重视。
技术不是在生活之外添加了一个新的维度，技术真正所要做的是改变世界，甚至是重构我们存在和发问的方式。最近有一部很火的科幻片《爱、死亡与机器人》，在这个故事当中，技术所带来的改变是全方位的，甚至我们今天讲的伦理、存在，所有的这些问题在新技术的冲击之下全面被改写。今天算法所要做的是用利益换规则，它要换的是对人类世界进行重构的规则方式。当我们为了便捷性，为了利益看都不看就去勾选同意的时候，实际上我们已经把规则的决定权让给了算法，当技术以“科技改善生活”作为口号和愿景不断进入生活，以至于在某些时候从辅助的工具中介变成了生活选择本身的时候，生活面临着被数字化再现的现实。而数字化的标准评价体系是否合理？这是需要重点注意的一点。不能因为利益和便捷而让渡我们对这些问题的思考。
今天看来，算法的目的实际上是要对人类行为作出预测，而这种预测背后是利润的问题，那么这种预测本身实际上是在铆定选择的权利，于是算法造就了一个意义上的选择，我自己把它叫作“选择上的父爱主义”。它代替人来做选择，但这里面就会提出另外一个问题，人类的行为本身是不是能够完全被刚性的算法所测量，或者说所预测和衡量。我个人觉得是不可能的，但实际上它制造了一重边界，这种边界就是数字化，在数据算法的表现方式之外，其他方式的不可靠性。算法的预测方式是线性逻辑加相关性推测，它去除了所有情境化的因素。算法的运行规则也同样决定了数据化主体形象无法完成对真实主体的完整映射，而是排除了属人的柔性属性。算法的运行规则来自形式逻辑，输入的数据按照形式逻辑的分析、计算得出最终的信息，但是社会生活并不单纯只有形式逻辑的一面，主体也并不会时时刻刻按照理性逻辑行事，理性逻辑不是主体的全部，也不可能满足社会生活的全部需要。今天所有以数字算法为基础的东西被当作客观的、科学的，所有不能够数字化的东西被斥为边缘，在这个当中是不存在外部性的，不存在他者。所以算法数字化本身变成一个话语，甚至变成一个神话。前面讲到的数据鸿沟，只能使用现金支付的老人也好，被数据化凝固的性别现象也好，我们会发现数字化本身在创造一种神话。神话的意义在于，除此之外，别无话语。于是，数字化就构筑了今天我们感知世界的唯一的思考方式，或者说它即将成为我们感知世界的一个方式。
今天，尤其在我们可能要全面进入智能化的时候，我觉得重提人本主义十分重要。在所有那些属于人的经验当中，偶然的、非数字化的、柔性的边界是不是能够被算法的刚性全部卡住？
在批判性面对数据科学时我们必须追问三个问题：
第一，由谁来做？我们今天看到的技术权威，比如有一个调查显示，在硅谷的职业性别构成中男女性别的比例差异远远高于其他行业。而在硅谷之外，比如说人力资源、前台、市场等这些方面可能更多地吸纳女性职员，那么核心技术岗位则以男性为主，所以实际上算法是由特定的人群来构建的。
第二，为了谁？算法要构筑什么样新的规则，它是一个效率优先的规则。但效率优先是不是社会唯一的取向？
第三，体现谁的利益？
我觉得这三个问题是我们在批判性地面对数据世界的时候一定要把握住的问题。今天人文学者需要为此发声，但是我觉得那些做技术的学者，那些实务操作人员更需要面对这个问题。因为在这个意义上来讲，在整个算法的建构过程中，数据世界实际上是一个独立的封闭空间，它打破了象征界需要不断地向实在界溯回这样一种动态反思，从而构筑起数字的全部霸权可能。那么从这个意义上来讲，它实际上是齐泽克的“逆事件”，因为真实已经被用数据来衡量，真实本身跟人的体验无关，只跟数据的捕获和问题式有关。数据重构的是对真实的标准性的一个判断。在一个由数据和算法重构的世界里，如何来把握自身，或者说把握数据和真实的距离，是今后必须思考和面对的现实问题。
本刊声明
本刊刊文版权包括纸质版与网络版版权，均属于《阅江学刊》编辑部拥有，任何形式、任何媒介的转摘译或结集出版均须标明来源于本刊（详见本刊引文格式）。
欢迎学界朋友或学术媒体推广传播。媒体（网站、公众号等）如有意愿转载，请后台留言或拨打电话025-58731054获得授权，联系人：李老师。
本文引用格式：
段伟文、吴冠军、张爱军、高山冰、韩东屏、孙伟平、程广云、杨通进、何云峰、刘方喜、蓝江、吴静、郑曦、秦子忠、崔中良、赵涛：《人工智能：理论阐释与实践观照（笔谈）》，《阅江学刊》，2021年第4期，第55-57页。
段伟文，吴冠军，张爱军，高山冰，韩东屏，孙伟平，程广云，杨通进，何云峰，刘方喜，蓝江，吴静，郑曦，秦子忠，崔中良，赵涛.人工智能：理论阐释与实践观照(笔谈)[J].阅江学刊，2021(4)：55-57.
责任编辑：李海中
微信编辑：徐逸菡
校对：来向红、沈丹、李海中
作者照片：本刊编辑部提供
文中插图：源自互联网
复审：刘伟
终审：渠红岩
固定布局
工具条上设置固定宽高
背景可以设置被包含
可以完美对齐背景图和文字
以及制作自己的模板