越懂你越坑你，算法岂可沦为 “算计”
The following article is from 重庆瞭望 Author 任重
近日，农夫山泉创始人钟睒睒在江西赣州的一次考察中，罕见地向媒体痛斥谣言之害，对平台算法的不透明提出强烈质疑，称算法标准没什么不能公开的，“应该让所有使用者来评价其意义”。
紧接着，中央网信办等多部门联合发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》，针对同质化推送营造“信息茧房”、利用算法实施大数据“杀熟”等重点问题，督促企业深入对照自查整改。
细观当下，从日常的购物消费到出行导航，从信息获取到社交娱乐，算法确实无处不在，似乎越来越 “懂” 我们。可如今，这个“懂” 却来了个180度大转弯，变成了处心积虑的 “算计”。它就像一只无形的手，悄无声息地摆弄着信息的流向、资源的分配，甚至左右着我们的行为选择。这怎能不让人陷入深思！
▲11月24日，中央网信办等多部门联合发布通知。/重庆瞭望截图
算法，诞生于数学逻辑与数据处理规则的 “产房”，本应是科技送给人类的 “智慧天使”。在理想状态下，它能精准地 “嗅出” 用户的需求，像个贴心管家一样，为我们呈上个性化的商品推荐，匹配高效的服务。但现实却给了我们一记响亮耳光，算法在诸多场景中 “迷失自我”，反而成了 “算计大师”。
于个体而言，大数据“杀熟” 的阴影如鬼魅般缠绕着消费者。不管你多会砍价、多懂行情，在算法面前都仿佛是只待宰的羔羊。这种被愚弄的感觉，不仅让消费者的购物热情大打折扣，更可能让整个消费市场陷入信任危机的泥沼。
在信息获取方面，被困在 “信息茧房” 里的用户就像被蒙住了双眼，逐渐失去独立思考和辨别是非的能力。他们只能被动接受算法投喂的同质化信息，对不同的观点与声音产生排斥，这很容易使得社会舆论走向片面化，甚至是极端化。
从社会的宏观视野审视，算法的 “算计” 更是加剧了数字鸿沟与社会不公。
那些拥有更多数据资源、更强数字技术能力以及更高消费能力的群体，往往能够在算法的 “游戏规则” 中占据优势地位，获取更多的资源与机会；而那些老年人、低收入群体以及数字技能欠缺的人群，则更容易被算法所忽视甚至 “剥削”，进一步拉大了社会阶层之间的差距。
▲大数据“杀熟”。程硕 作 /新华社
究其根本，商业利益的驱动是肇因。在这个竞争激烈的商业丛林里，部分平台为了分得更大的蛋糕、攥紧更多的用户，把算法当成了 “吸金神器”。他们不顾用户的真实感受，把用户当成了可随意开采的 “金矿”，于是算法就变成了 “算计” 工具。
算法设计中的数据偏差与偏见也是重要因素。算法的运行依赖海量数据，可这些数据的收集和整理过程如果漏洞百出，那就会导致数据本身沦为“歪瓜裂枣”。
以招聘平台的简历筛选算法为例，若历史数据显示男性在某些高薪职位上的占比较高，算法可能会“重男轻女”，从而使女性求职者在无形中面临更高的就业门槛。
再说说算法那如 “黑箱子” 般的不透明。很多复杂的算法模型，其中的决策逻辑和运算机制让人摸不着头脑。这就给了平台和开发者可乘之机，他们可以在用户毫不知情的情况下，肆意操纵算法为自己牟利。比如某些金融领域的风险评估算法，用户可能莫名其妙就被贴上高风险标签。
还有监管的 “慢半拍” 和缺位。面对算法技术的迅猛发展，相关法律法规与监管政策未能及时跟上步伐，形成有效的约束与规范机制。这就导致一些企业肆意利用算法进行不当操作，以牺牲公共利益为代价来追逐私利。
▲运维人员在机房调试GPU服务器。记者 张锦辉 摄/视觉重庆
面对算法的 “算计” 乱象，平台责无旁贷。平台作为算法的开发者与使用者，掌握着算法的核心权力与资源，理应成为算法合理应用的“把关人”。
平台不能只盯着自己的商业利益，而要把用户权益保护和社会价值创造放在 “天平” 的两端。在算法设计和应用过程中，要时刻遵循公平、透明、合法的 “黄金法则”。
比如商品定价算法，平台要建立严格的监督体系，杜绝价格歧视的 “黑手” 伸向不同用户。在信息推荐算法方面，要竖起内容质量的 “标杆”，弘扬正能量，把低俗虚假信息拒之门外。
同时，平台要努力揭开算法的神秘 “面纱”。用户有权知道算法是怎么运作的，自己的数据是如何被 “摆弄” 的。平台要像个 “老实人” 一样，给用户提供通俗易懂的算法说明书和数据使用报告，让用户能参与到算法的优化和监督中来。
比如搭建用户反馈的 “绿色通道”，当用户发现算法推荐不合理时，能及时向平台 “吐槽”，平台要虚心接受并迅速调整算法，让算法重新走上服务用户的 “正道”。
也许，互联网算法本身没有对错，但是，设计它使用它的人需要有一个正确的价值观。在赚钱的过程中，平台应先考虑到网民的利益，先利他，才能利已，这才是真正应有的算法逻辑。
在算法与生活深度交融的时代，我们绝不能任由算法在错误的道路上 “狂飙”。平台作为关键的 “刹车手”，必须通过树立正确价值观、增强透明度、强化自我监管等多方面的努力，让算法回归初心，重新成为我们在数字时代值得信赖的伙伴，而非危害社会的“算计大师”。
来源：重庆瞭望
声明：除原创内容及特别说明之外，推送稿件文字及图片均来自网络及各大主流媒体，版权归原作者所有。如内容侵权，请联系删除。