我们期待什么样的算法
数字经济时代,算法就是基石,主宰着数字世界,也主导着我们生活的方方面面。
一次算法的微小改动,也许关系到巨大利益的重新分配,也可能影响社会进步的步伐。
近日,视频网站B站宣布将把视频最常规的外显播放次数,改为播放分钟数。这将打击那些博眼球的封面党、标题党,更有利于优良中长视频的制作,无疑是一次算法的进化。
算法迭代的背后,也有阳光照不到的地方。近年来,“被系统困住的打工人”“大数据杀熟”“信息茧房”“隐私侵权”等多个与算法有关的话题,引发社会关注,也不由得让我们思考——数字经济时代,我们需要怎样的算法?
算法如何“操控”着我们的日常?
刷短视频时,踩在兴趣点上的同类视频源源不断出现在屏幕上,让人欲罢不能;打开购物软件,喜爱的产品总能撞入眼帘,仿佛“心有灵犀”;使用同一个打车软件,同样的订单却常常因为用户不同,而显示出不同的价格……
如今,算法犹如无孔不入的空气。我们的工作、生活、娱乐,均已被打上了深深的“算法烙印”。
算法,算计的是利益。在流量至上、利润至上的驱动下,算法往往成为追求利益最大化的工具。比如,屡禁不绝的大数据杀熟就是典型例子。
在过分的利益算计中,大数据杀熟只是冰山一角。近几年,网络消费促销规则繁复,网络搜索竞价排名推荐,刷好评、隐差评使评价结果呈现失真,平台采用算法限制交易等侵害消费者权益的行为备受诟病。
算法,算出了信息的“牢笼”。在经济学里,稀缺的资源才会更有价值,而在信息过剩乃至泛滥的今天,反而获取信息的人,成了稀缺资源:我们的注意力,成了各大平台围猎的对象。
算法推荐通过不断的测试,输出人们喜欢的内容,让人日益沉迷。最终,在算法的糖衣炮弹中,我们看到、听到的都是想看、想听的内容。一旦身处这样的“信息茧房”,就再难接受不同的观点,甚至在不同群体、代际间加大了撕裂与隔阂。
算法,也算出了侵害权益的种种乱象。比如外卖骑手、网约车司机等从业人员,想在算法系统保持领先,就得与其斗智斗勇,研究推单、奖励规则。
此外,近年来很多企业都引入了OA算法管理系统。然而有些系统可谓无孔不入,通过画面识别员工工作状态、坐姿、疲劳度等数据,并把相关数据直接与绩效挂钩。不少员工认为这样的操作“令人窒息”。
▲数字化生产车间。记者 郑宇 摄/视觉重庆
种种乱象背后,既有深层次的经济社会问题,更有人性的因素,不能完全由哪个平台来“背锅”。
追本溯源,为什么算法有时候会让我们忧心忡忡?
海量数据缺乏有效“防火墙”,为算法作恶提供了土壤。如今,拥有海量数据的应用程序,也就在某种程度上掌握了前所未有的权力,并在无形的数字世界变得难以约束。
一方面,体现在用算法违规采集海量隐私数据上。比如,去年有媒体报道,某网约车平台违法收集用户手机相册中的截图信息、用户剪切板信息、应用列表信息、乘客人脸识别信息、与乘车无关的“电话权限”等大量用户隐私信息。
另一方面,则体现在海量数据搜集之后的滥用。比如部分平台会根据用户的年龄、消费习惯、性别、工作、住址等隐私信息,进行所谓的用户画像,强行把人群分类,并打包出售给第三方,以方便其精准“营销”。
算法的隐蔽性,让利益的算计更加疯狂。用户无法从外部知晓算法的内部决策过程,这也被称为算法“黑箱”。因此,算法的应用也让许多恶意行为变得更为隐蔽。
比如消费者不经多部手机或者多人同时比对,很难意识到自己在被“杀熟”;网约车、外卖员等从业人员,往往为了更好的业绩,也只能在实际工作中慢慢摸索算法中的“潜规则”……
算法的快速迭代,让监管难以及时跟进。近几年,许多先进的算法技术,才开始试水商业应用,是否需要监管、如何监管存在争议。
以个性化推荐算法为例,一方面此类算法大大提高了营销精准度,促进经济增长,但另一方面也会造成信息茧房,甚至加剧社会撕裂。因此,针对算法的使用建立更加完善的监督管理体系,迫在眉睫。
● 学校体育设施开放,难在哪儿
● 中华血脉觉醒,重庆该如何“修炼”
● “重庆宝贝”如何跨山出海
欢迎扫码加入重庆瞭望读者群