Quantcast

洋垃/圾必须送走:40万留/学生半/年花光“希/望工程”30年筹/款(附30多年前日本是怎样驱逐境内50万黑人的)!

中国高校国际化大跃进,“打肿脸充胖子”的低效与不公

91大神,夯先生被抓了,勾引百名女性拍A片!

谈谈中科院巴基斯坦籍已婚留学生将自己与数十名中国女性的性爱视频上传到国外网站

别再问我新加坡哪里吃【小龙虾】!Mark这8家,随时解馋!还有免费优惠哦!

Facebook Twitter

分享到微信朋友圈

点击图标下载本文截图到手机
即可分享到朋友圈。如何使用?

查看原文

机器人正在互联网上崛起,成为人类社会搅局者 | 政见CNPolitics

2016-03-31 夕岸 政见CNPolitics 政见CNPolitics
图片来源:Flickr-GLAS-8 
摘要
微软推出的聊天机器人被用户们教成了一个种族和性别歧视者。机器人们并不是一堆中立的代码,而是可以造成真实的社会影响。


夕岸 / 政见观察员

上周,微软发布了名为 Tay 的推特聊天机器人。然而不到 24 小时,Tay 就被用户们教成了一个种族和性别歧视者,频频大放厥词,导致研发团队不得不暂时中止项目,并在网上道歉。昨日(3 月 29 日),Tay 短暂回归推特,然而问题依旧——它不断发送夹杂着咒骂的短句,以至于微软再次紧急关停了账户。


图片来源:Tay 推特截图


Tay 不是第一个引发伦理与法律争议的机器人,可口可乐的 MeinCoke 与 IBM 的 Watson 都曾卷入过类似的困境。从这些困境中可以看到:数字空间中的机器,早就不是一堆中立的代码。


互联网其实是机器人网


过去的两三年,网络机器人(Bots)从一个极客嘴里的技术名词,成为了常出现在媒体头条的流行语。借助推特开放的平台属性,各种依靠程序自动发推的机器人大行其道。虽然由于审查和语言的区隔,关于社交机器人的讨论尚未扩散到国内,但借助微信上的微软小冰,大陆的用户们还是可以感受到人工智能焕发的独特幽默感(这种幽默感被认为是机器人性 Botness 的一部分)。


很多研究团队都对推特上的机器人数量进行过统计,综合各家数据,大约有 10-30%的推特账户是由机器人在掌控。而整个互联网场域中,一半以上的流量都不是来自真人,而是由各种机器人和爬虫贡献的。某种程度上,互联网也可以被称作机器人网(Bot net)。


虽然被统称为机器人,但每种程序都有着不同的制造目的,拥有独特的运行特点,也往往带来不同的社会政治后果。


一大部分的机器账户仅仅是为了提供各种各样的信息。自动转发新闻和灾害预警的账户早就不是新鲜事,提供古怪消息的机器人也不可尽数。有账户专门提供全世界各地网络摄像头拍摄的影像截图,有账户专门收集从美国国会 IP 进行的维基百科匿名修改,有的账户则抓取互联网时光机(Wayback Machine)数据库中的旧网页,呈现互联网早期的模样。


有些机器账户,则完全是作者的恶作剧。去年,一个叫 Hunter Scott 的码农花了大约九个月的时间,让自己编写的推特机器人自动参加了推特上的 16.5 万个 “转发获奖” 游戏,并获得了大约 1000 个奖项(尽管大部分奖品都极其无聊)。MIT 的一位博后 Bradley Hayes 则使用深度学习技术制造了@DeepDrumpf,一个模仿川普,还时不时回复 Ted Cruz 官推的机器人,目前已经收获了两万多粉丝,包括作家萨尔曼 · 拉什迪。


机器人的社会政治后果


机器人并不是只会发推和抽奖,而是会造成直接的社会政治后果。最著名的例子出现在 2014 年,瑞士艺术家组合 !Mediengruppe Bitnik 将一个程序机器人送入暗网空间。按照指令,这个叫做 Random Darknet Shopper 的程序会自动用每周 100 比特币的津贴在暗网的 Agora 市场上随机购物,并将购买到的物品放置在公共空间作为艺术展览的一部分。


2015 年 1 月,由于在暗网买到了 10 颗摇头丸,该机器人和展品在展览结束后被当地警方没收。经过艺术家的抗议,警方在四月归还了机器人,并给出了释放的理由:因为机器人的行为仅仅用于探索暗网,拥有者也并未利用摇头丸牟利,不构成违法。于是,这个机器人开展的行为艺术得以继续。近日,团队刚刚结束了他们在斯洛文尼亚首都卢布尔雅那的特展。


另外一个极端例子也发生在去年,一位荷兰的开发者 Van der Goot 被警方质询,原因是他名下的机器人发出了疑似死亡威胁的推文。在阿姆斯特丹一个时装展览的前夕,他的机器人突然对另一个机器人(是的你没看错,是另一个机器人)表示 “很想杀人”,而创造这句话的素材,来自于主人自己的推特账户。机器人通过一种算法,改编其他人的言论,推送出貌似符合逻辑的句子,却偶然实现了意想不到的效果。


所以,谁该为此负责?Van der Goot 本人没有制造威胁性的内容,微软也并没有鼓励纳粹主义,但在目前的争议框架下,机器的创造者们会背负额外的道德压力。不管怎样,是创造者决定了机器的代码,而代码,从来都是政治的一部分。


更积极的社会作用?


以上的机器人行为大都是一种游戏式的 “创造性破坏”,其社会效果更多是间接出现的。很多设计者也希望网络机器人可以主动发挥更积极的社会作用。


在今年发表的一篇叫做《Botivist》的论文中,三位研究者直接设计出一种机器人来推动在线行动。在此之前,政治机器人已经被广泛用于国家层面的舆论操控。在墨西哥、土耳其,政府都曾经成功地用机器人组成的水军来干扰在线讨论。欧美的不少竞选团队则利用机器人来做线上推广,特别是在线宣传网络的搭建。相比之下,草根许多的社运组织,则鲜有利用机器人为自己的行动做宣传。


对此,研究者指出,利用类似的推广原理,机器人也可以成为促进社会动员的关键节点。研究者们构造了一个叫 Botivist 的机器人程序,它操一口地道的西班牙语,关注拉美国家的腐败问题。更重要的是,它可以自动检测到网络上在讨论相似议题的用户,然后发推号召他们齐力解决问题。研究者们发现 Botivist 确实可以让参与同一话题讨论的用户更快地找到彼此。Botivist 还会用不同的话语框架来讨论相似的问题,以测试什么样的内容可以更有效地激发行动。结果发现,当机器人用一种直接的,不那么像人类的说服口吻进行动员时,传播效果反而更好。


玩笑成了政治,文本成了炸弹


真人不再是数字空间唯一的行动者,机器正在以各种方式加入国家、公民与商业力量间的一片乱战。机器在数字空间的崛起,印证了技术哲学家布鲁诺·拉图尔对 “非人类行动者” 存在能动性(Non-human agency)的论述。有意思的是,推特上曾经还专门有一个拉图尔的机器人,自动发布作者英文著作中的句子,持续推送了好几年。这个账户最后一条推送是拉图尔 2013 年著作《存在模式研究》中的一句话:At this point, there is nothing left to do.


这句话被机器从语境中孤零零地提取出来,没有确定的含义,却收获了不少转发。这似乎象征了机器在数字空间的命运:虽然推特上的机器读不懂社会理论,它的不懂装懂却可以造成真实的社会影响。玩笑讲成了政治,游戏变成了行动,文本成为了炸弹。


参考文献
Ferrara, E., Varol, O., Davis, C., Menczer, F., & Flammini, A. (2014). The Rise of Social Bots. arXiv:1407.5225 [physics]. Retrieved from http://arxiv.org/abs/1407.5225

Forelle, M., Howard, P., Monroy-Hernández, A., & Savage, S. (2015). Political Bots and the Manipulation of Public Opinion in Venezuela. arXiv:1507.07109 [physics]. Retrieved from http://arxiv.org/abs/1507.07109


Savage, S., Monroy-Hernandez, A., & Höllerer, T. (2016). Botivist: Calling Volunteers to Action Using Online Bots. In Proceedings of the 19th ACM Conference on Computer-Supported Cooperative Work & Social Computing (pp. 813–822). New York, NY, USA: ACM. http://doi.org/10.1145/2818048.2819985

文字编辑:方可成

微信编辑:邓哲远

图片编辑:王婧雯


最新合辑下载
百度网盘: http://t.cn/RGCasri
GitHub:http://t.cn/RG9BdvX 
Dropbox:http://t.cn/RG91Exk
我们是政见(CNPolitics),欢迎关注,也欢迎分享到朋友圈或转发给好友。

政见出品的内容均为原创,个人如需转载,请注明出处及网站链接 CNPolitics.org;媒体机构(含各类网站及微博、微信平台)转载请联系授权:Webmaster@CNPolitics.org。
  

文章有问题?点此查看未经处理的缓存