都怪大数据「成了精」
要钱没有，要码一条？
撰文 | 佘宗明
长臂赋码，红动一时。
豫赐红码，虽远必朱。
这两天，很多网友接续了「大观园试才题对额」式的造词游戏。
这些词指的是什么，懂的都懂。
这将那个现实问题再度抛到了公众面前：
该怎么防止技术脱缰？
该怎么防范驾驭技术者为所「豫」为？
01
就在近日，谷歌AI工程师Blake Lemoine对外宣称，谷歌的语音对话模型 LaMAD已经觉醒，拥有了8岁小朋友的人格。
结果他遭到谷歌HR的一通怼：你没事吧？你没事吧？没事就吃……就去看看精神科医生？随后把他给停职了。
LaMAD有没有跨过图灵测试，不太好说。
但大数据成精，在河南已被应验。
这几天，许多河南村镇银行爆雷事件的储户，都感受到了世事的怪诞。
现实拍了拍他们，并甩来一段话：要钱没有，要码一条。
知否知否，应是红feign绿show。
健康码变成了电子脚镣，这事在舆论场引发轩然大波。央媒说，给储户赋红码暴露出权力任性。
▲央媒发声。
可讽刺的是，这么任性的举动，愣是还没找到和锁定责任人。
媒体问：红码是谁赋的？结果当地从省里到市里，没人认领——
市12345：大数据库出了问题。
市12320：不太清楚是哪个部门进行的赋码。
省卫健部门：入省的由省大数据局负责，省内流动的由郑州大数据局负责。正在调查核实中。
省大数据局（已更名为行政审批和政务信息管理局）：属地管理，地市赋码。
市大数据局：赋码、解码，由疫情防控指挥部下面的社会防控部直接负责。
舆情汹涌，锅总得有人背。责任人找不到，那能怪的，似乎就剩大数据了。
接下来，有关方面可以把工作重心放在论证「大数据是怎么成精的」问题上。
论证可以分两步：
第一步，论证大数据库会自行加载稳控综治任务，可对人自动赋码；
第二步，论证大数据库能精准锁定那些储户，不冤一人，不漏一人。
新闻中说，同样是扫「郑州车站西南出口」的场所码，有些储户本人成红码，家人却仍是绿码。这不是成精是什么？
就连只存了两毛钱的用户，它都能精准识别，堪称无「微」不至。
存款就是原罪，红码就是赎罪券。
值得注意的是，从舆论反馈看，被红码的，不光是储户，还有当地某烂尾楼业主。
▲媒体报道截图。
看来大数据库已经智能到可以给红码分类别了：储户码、业主码，都是匠心出品。
2019年5月，亚马逊曾被曝用AI监控员工摸鱼，可根据实时数据生成在线解雇指令，直接绕过主管开除员工。
现在看，一山更比一山高——AI监工系统见了能精准自动赋红码的大数据库，也得低头。
02
技术不单纯，更复杂的是人。
当健康码被某些人当数字截访工具用，人们必然会担心：
被用于非防疫用途的健康码，还会被用来做什么？
然后顺着Marx「异化理论」指引的方向联想。
得看到，近些年，防止技术作恶的呼吁声量渐高。
技术飞速发展，但那些制衡性话语总在拽着它降低配速：
别走得太快，等一等技术伦理。
这不是偶然，而是人们在吃一百堑后长出的一智。
▲技术伦理日益受到重视。
在上世纪初，科幻小说家威尔斯曾设想出「未来技治社会」的场景。他认为，技治社会是不断进步的，最终能把人们带向「现代乌托邦」。
在威尔斯的构想中，未来人类的人性与今日之人性迥然不同，他们渐趋完满，而这类变化并非返璞归真的结果，而是人工规划的产物——从出生到生活、死亡，一切都被「世界国」强力改造。在人性提升过程中，科学技术起着关键作用。
但现实证明，他过于乐观了。
时至今日，就算是技术进步论原教旨信徒，都没法回避一点：
技术没有善恶，但技术可以让某些人为善和作恶来得更容易。
「未来犯罪研究所」创始人马克·古德曼就说，「人类最早的技术应用可能就是对火的应用，用火可以得熟食物，也可以烧毁整个村庄。相比之下，现在的技术革新速度飞快，无论人们想怎样应用科技，都变得更加容易了。」
同样是AI，有人用它来反诈，也有人用它来诈骗。
同样是大数据，有人用它来优化城市管理，也有人用它来侵害用户权益。
这倒不是说，我们该信奉反技术的新勒德主义，该笃信马斯克兜售的「AI末世论」。
但技术作用的两面性，确实该被正视。微软总裁布拉德·史密斯就说：人类科技最紧迫的争议性问题，就在于科技是工具还是武器。
▲科技是工具还是武器？
揆诸现实，在谈到防止技术脱缰时，人们的矛头所指，通常是科技企业：担心被互联网平台侵犯隐私，担心被它们大数据杀熟，担心被它们带入信息茧房，担心被它们变成奶头乐试验品……
而部分企业曝出的隐私侵犯、算法歧视、AI换脸等乱象，确实也授人以柄。
对应的办法，自然是将这些企业关进笼子里。
可如今，红码被滥用的事实将另一个问题抛在了人们面前：
谁来把那些可以将人关进笼子里的人关进笼子里？
毕竟，「技术不该被滥用」对所有技术操控者都该一体通用，不能只许××任性、不准平台乱来。
「监控型资本主义」概念的提出者祖博夫，曾描绘过现代技术的另一面：众人失去了自主性，变为数据制造机，成为具有完全可预测的集体。
而「被红码」现象，无疑丰富了她的理论架构。
03
天下之器，驭之以道。
但怎么驭，不能由着驾驭者率性而为。
按社会学家项飙老师的说法，健康码这类「技术性的社会系统」也是非流动性基础设施。
它带来了新的「在人口中重新分配流动性的能力」。
在目前的法律框架下，这样的能力与权力显然只能用于防疫。
否则，潘多拉的魔盒必然会被开启：红码一赋，说你是，不是也是。
这就需要，把权力关进笼子里——包括赋码解码的权力。
这个重要的常识，强调300遍都不为多。
往期精彩回顾
《带货易带「祸」》
©
敬请关注
Send to Author