其他
彭兰：正确运用决策算法，让优质内容成功破圈|德外荐读
内容推荐算法有必要向内容生产者的视角扩展，通过算法设计让更多高质量内容得以传播，到达更广的人群。媒体可以借助更复杂的数据分析与决策算法。2020年B站跨年晚会“破圈”，与应用相关数据及算法进行表演嘉宾、表演节目的遴选不无关系。内容推荐算法需要兼顾个性化满足与公共整合双重目标——信息传播的一个重要目标是社会整合，促成不同人群连接，促进公共对话，这就要打破个人的作茧自缚。
多样性的世界并非都能通过数据来描绘或计算。完全依赖算法，每天只是等着算法投喂的信息，也会导致失去自主性与判断力。不是简单地将算法认定为坏的。这个时代算法无法避免，要理解不同类型的算法是如何运作的，学会与算法共存，更好地维护人自身的合法利益与地位。
近年来新闻传播学界对于算法的关注越来越多，但其中聚焦于算法与信息传播特别是信息茧房的关系的研究居多，然而随着大数据、人工智能技术的发展，算法已经开始全面进入并影响着我们的生活，从某个角度看，一个算法社会正在到来。因此，对于算法的研究，也需要更广阔的视角。
今天与人们生活紧密相关的算法也是多种多样的，既包括个性化推荐算法、决策算法，也有各种平台的算法、各种管理目标下的治理算法等。
算法的广泛应用是必然的，我们也必须面对算法带来的挑战和风险，从个体角度来说，在享受算法带来的各种便利的同时，我们是否会受到算法的钳制，甚至成为算法的“囚徒”，是需要思考与警觉的。
人的认知、判断与决策
是否会受制于算法？
从本质上来说，算法是一种中介，它基于特定目标下的计算模型，在人与现实世界之间构建了一种数据化的界面，也因此，它会对人的认知以及在此基础上的判断决策产生影响。
（一）推荐算法对人的认知的影响
虽然个性化推荐算法因为近年来一些基于算法的内容平台兴起而受到关注，但事实上个性化推荐早就进入网络，搜索引擎、电子商务平台等早已采用推荐算法。
目前主要的个性化推荐算法包括基于内容的推荐、协同过滤推荐、基于标签的推荐、社会化推荐、基于深度学习的推荐、基于知识的推荐、基于网络结构的推荐、混合推荐等。
基于内容的推荐是指根据用户选择的对象，推荐其他类似属性的对象。在个性化推荐中，这是一种常见的推荐机制。协同过滤推荐是根据用户兴趣的相似性来推荐资源，把和当前用户相似的其他用户的意见提供给当前用户，从而使用户发现新的感兴趣的资源。基于标签的推荐是通过分析用户的标签偏好、物品的标签特征，基于二者的相似性为用户进行物品推荐，其本质是通过引入标签，形成“用户 — 标签 — 物品”三元关系。
而近年来开始受到关注的社会化推荐主要是根据用户之间的社会关系信息，构建用户之间的社会化关系网络，根据这种社会关系和已知用户兴趣模型，向用户进行推荐。基于深度学习的推荐算法则可能更为“聪明”，如通过建模用户的历史序列行为来预测用户的下一个动作、挖掘用户的背景信息以进行更全面的推荐等。可以预期，未来的推荐算法还会有更多的新思路。
推荐算法之所以在今天成为一种互联网广泛应用的技术，其核心动力在于解决海量信息（或产品）与用户之间的供需适配问题。对于用户来说，是为他们发现符合自己需要的信息（或产品）；对于生产者来说，是为内容（或产品）找到合适的用户。
从内容或产品推荐角度看，作为中介的算法本身就是为用户提供一个过滤器，这种过滤在减少用户的认知负担的同时，也可能局限用户的视野。
无论是用过滤泡还是用信息茧房这样的表达，也无论算法与信息茧房之间的关系是否被证实，至少我们可以看到，从算法本身的原理来说，算法的确会带来过滤，这种过滤不可避免会在一定程度上影响人们对外部环境的认知。
在信息爆炸的今天，信息过滤是必然的选择。即使是传统媒体也会对信息进行过滤，在媒体上构建拟态环境。如果媒体对内容的公共性有合理的评估，如果媒体秉持“客观”“平衡”等立场，那么，媒体的拟态环境仍有助于人们全面了解现实社会。专业的媒体在进行信息过滤时，重点考虑的不是人们想要知道什么，而是从社会环境传达与感知的角度判断人们应该知道什么。媒体的信息选择，通常也会考虑到内容的平衡与多样性。
但在目前的算法设计中，内容推荐算法主要是参照人们的习惯和相似人群的兴趣，也就是关注人们想要获得什么，在某种意义上也就是在顺应人们的认知心理中惰性的一面，顺应甚至可能强化人的选择性心理。虽然从信息获取效率的角度看，这样的算法可以帮助人们以更少的成本获得与自己偏好、需求更吻合的信息，但是，推荐算法是否只能顺从人们的惯性与意愿，是一个值得思考的问题。信息传播的一个重要目标是社会整合，促成不同人群连接，促进公共对话，这就要打破个人的作茧自缚，因此，内容推荐算法也需要兼顾个性化满足与公共整合双重目标，这也应是算法未来努力的方向。
除了个性化推荐算法对个体的影响，内容推荐算法也会在其平台上营造一种整体的拟态环境。这种拟态环境能否全面、真实地反映现实社会，也与算法的设计思路相关。但今天平台算法过分倚重流量的思路，容易带来马太效应，加重信息环境的不平衡，也使拟态环境与现实环境的偏离加大。
技术界对推荐算法的评测指标主要包括：准确度（用户对推荐内容满意度）、排序合理性、覆盖率、多样性（用户间的多样性和用户内的多样性）和新颖性等。目前提出的评测指标更多的是面向电子商务平台中的商品推荐系统，准确性因此被放在第一位，这种准确性主要也是考虑与用户的惯性、需求的吻合度。但是，对内容推荐算法的评估，还缺乏相应的标准。虽然人文社科领域的研究者呼吁，要在内容推荐算法设计中体现“专业价值观”，但这些价值观具体如何嵌入算法中，仍然是一个很大的挑战。
或许在内容推荐算法的衡量标准中，多样性需要被放到更重要的位置。这种多样性，不仅是内容主题的多样性，还需要包括态度立场的多样性、内容生产者的多样性等。这也是新闻的客观、平衡的专业价值观的具体体现。
内容推荐算法一方面有必要从个性化推荐这一内容消费者视角向内容生产者的视角扩展，也就是说，内容推荐不仅是面向内容消费者的，也应该是面向内容生产者的，有必要通过算法设计让更多内容生产者生产的高质量内容得以传播，特别是使那些具有重要公共价值的内容到达更广的人群。
另一方面，从用户角度看，即使算法在未来能更好地实现内容推送的多样性、个性化与公共化内容的平衡，但如果人们把对信息的选择权完全交给算法，每天都只是等着算法投喂的信息，也会导致他们越来越失去自主性与判断力。
（二）算法对人的判断、决策力的抑制
今天很多时候，我们也会依赖算法作出判断与决定，甚至进行大的决策。
使用导航软件，是在依赖算法进行路线的判断与选择，未来的无人驾驶，更是取决于算法的判断，在这方面，很多时候算法的确可以帮助人们作出正确甚至更优的决策。
在大数据和人工智能技术的支持下，算法对组织机构或一些行业性的决策的作用也越来越显著。
算法对生产决策的影响也在显现，内容生产行业便是典型。通过各种排行榜来决定内容生产的选题方向或进行内容产品的策划，是今天媒体依赖算法进行内容生产的一种表现，因为各种排行榜也是由一定的算法形成的。除了排行榜，媒体还可以借助更复杂的数据分析与决策算法。例如，2020年B站跨年晚会不仅成功地吸引了B站的用户，也成功地实现“破圈”，这与应用相关数据及算法进行表演嘉宾、表演节目的遴选不无关系。正在兴起的计算广告，其核心思想也是将广告的创意、形式选择、目标人群选择、广告分发与互动等广告生产的全流程建立在数据与算法的基础上。
算法在某些方面的决策中之所以重要，一是因为它可以对与决策相关的对象进行历史、现状甚至未来趋势的数据分析（包括大数据分析）；二是因为它可以建立决策模型，基于这种模型对各种可能性进行分析，寻求最优解决方案。算法以过滤信息、建构模型为手段，降低认知负担、提高认知效率，因此，在决策速度与效率甚至某些决策的准确度方面，算法都有可能形成自己的优势。
但这是否意味着人们应该把所有判断与决策都交给算法？
既然算法是一种认知模型，它就是对现实世界的一种抽象和简化，很多时候，它只是反映了典型的对象，而不是事物的全部。多样性的世界并非都能通过数据来描绘或计算。算法可能会在某些层面较好地描述与解释现实社会，但在另一些层面则无能为力。完全依赖算法，一些时候就会形成错误的判断与决策。
今天人们的创新，也是一种判断与决策的过程。算法虽然打破了人的某些旧套路，但也会形成一些新套路；如果人们的决策越来越陷入算法营造的套路，那么人类的想象力与创造力也会萎缩。
因此，算法社会对人的决策、判断力带来的挑战是双重的：一方面我们要防止把所有决策、判断都交给算法，我们要判断算法在哪些方面可以帮助我们做出更好的决策，而在哪些方面算法可能把我们带入歧途；另一方面，即使在很多时候要参照算法，我们也需要有能力判断算法本身是否有缺陷，算法依据的数据是否可靠，算法是否存在偏见，算法提供的结果是否合理、准确。在没有这种判断力的前提下，盲目依赖算法，也就难免会陷入各种陷阱。
人的劳动是否会被算法隐性控制？
在短视频、视频直播等平台，算法在激励用户参与内容生产的同时，也在无形中控制着他们的劳动付出和回报，甚至异化着他们的劳动目标。
平台算法之所以能对人们的劳动产生直接的控制，一个重要原因是平台将劳动者与消费者直接连接，消费者可以通过平台反馈、评价劳动者的劳动；劳动者的结果可以直接量化，并成为评价劳动的主要指标，而这是算法最适合做的事。
对于内容生产者来说，流量成为最基本的评价指标。有研究者指出，数字空间对流量的追逐带来了交往资本主义，讯息的另一个价值变得更为重要，这就是贡献流量。重要的不是内容，而是流量。
将对内容本身的信息量、质量优劣的评价简单化为对流量的评价，这是新媒体时代传播发生的重要变化，平台对流量进行的数据统计与在传播界面中的直接呈现，以及各类基于这些数据的排行榜、指标体系，造就了传播评价体系的算法化。
这不仅给劳动者施加了压力，也有可能使他们对内容生产的出发点发生偏移，他们不再是作为内容生产者做出独立判断，而是要时时顾及内容消费者的心理与需求，在社交媒体中，他们尤其需要考虑作为“人媒”的社交网络对内容的需求。虽然在一定程度上，面向消费者的考量可以使内容生产者的生产更有目的性，与市场需求产生更多呼应；但另一方面，过于单一的评价算法体系也会使得简单的“鼠标投票”机制取代专业的评判机制，内容生产者自身的专业判断力因此可能被削弱。
算法社会对人的监控会强化吗？
随着人工智能应用的发展，人工智能为国家权力对个人和社会的监管提供了数据基础，“治理体系的算法化”开始萌生，一种集成运用互联网、物联网和人工智能技术构建的以“智慧管理器”为中介系统的智慧社会也正在到来。算法在这样的智能管理中也扮演着核心的角色。
智能化社会治理可以通过大数据、人工智能等技术将复杂的社会运行体系映射在多维、动态的数据体系之中，不断积累社会运行的数据特征以应对各类社会风险、提升社会治理有效性，社会治理规则的算法化有助于提高社会治理的主动性与预判性，让社会治理主体更加主动地预测预警预防社会风险。算法的不透明也不一定都是坏事，如果运用合理，不透明的算法也有可能弥补社会裂痕，维持社会共识。
但在包括算法在内的人工智能技术进入社会治理的过程中，个体受到各种监视、控制的风险也在加大。
学者段伟文指出，作为一种新的智能社会形态的数据解析社会已悄然而至，其运作和治理基础是用数据和智能算法来分析人的行为，但这种智能监测属于揣测性的认知，有可能误读和不当干预被认知对象的能动性，急需为可能出现的技术滥用设定边界。也有研究者呼吁智慧社会背景下的以数字人权为代表的第四代人权。但这些目标的实现，还有很长的路。
我们如何对抗算法的囚禁？
算法一方面在促成人的某些能力的解放与扩张，另一方面又用某些方式实现着对人们的禁锢。但是，当我们深入反思算法对人的各种囚禁时，我们的目的并不是将算法拒之门外，这一点正如我们对待汽车的态度。
汽车进入我们生活，带来了正向与负向的双重影响，但人类的解决方案不是禁止汽车的使用，而是通过对驾驶技能的培训，以及严格的交通法规制定与实施等，来尽可能减少其可能产生的危害。同样，当算法成为一种广泛应用的技术，在很多方面可能带来对人的囚禁风险时，我们也不能简单禁止算法的使用。除了在法律、制度等层面作出必要的调整外，也需要面对算法社会的新特点，培养不同主体的相应素养与能力。
在今天，我们有必要重新理解技术理性应有的“题中之意”，在算法开发者群体中倡导价值理性与工具理性、技术思维与人文精神的融合，而不是将算法推向工具理性的极端。在此基础上，充分探讨算法伦理的目标、原则与实现路径，并使之成为算法开发者的制衡。
对于算法的使用者来说，算法时代带来了对人的素养的新要求。除了一般的媒介素养、数字素养外，也需要一定的算法素养。
就像媒介素养一样，倡导算法素养的前提，不是简单地将算法认定为坏的东西，让人们一概排斥算法，而是要让人们意识到在今天这个时代，算法无法避免，因此，重要的是要理解不同类型的算法是如何运作的，算法在哪些层面影响着我们的认知、行为、社会关系，影响着我们的生存与发展，在此基础上学会与算法共存，对抗算法的风险，更好地维护人自身的合法利益与地位。
面对一个无可回避的算法社会，我们只有提高对算法的认识与驾驭能力，才能成为算法的主宰者，而不是其“囚徒”。
编者按：来源：全球传媒学刊；作者：彭兰，中国人民大学新闻与社会发展研究中心研究员，中国人民大学新闻学院教授，CTR媒体融合研究院专家；内容有删节。
延伸阅读