WeChat ID AI_Discovery Intro 众声喧哗年代，我们更关注AI落地的“最后一公里” 科技时代，我们更加怀念温暖邂逅的时光 后台回复“想要”，得到近期有温度的推荐 全文共2225字，预计阅读时长2分钟 某宝上，翻遍千条好评，剁手买买买，以为淘到宝，却发现实物让人辣眼睛。 某点评，“好吃到哭”“强烈推荐”上百条好评给你打包票，进店却发现黑暗料理，难吃到上吐下泻。 某明星热点评论区，“XX是最棒的，我们永远相信你爱你”瞬间怒刷、高赞、霸屏。 失望、不解、愤怒、累觉不爱？——都是虚假评论惹的祸。 而幕后帮凶可能是AI水军。 真假点评，你分得清吗？ AI水军喊你来接招。 下面这七个点评，其中一些是AI水军的杰作，另外的则是人类点评，你分辨得出来吗？ 1．“我喜欢这个地方。我跟我哥一起去的，我们点了素食意大利面，很好吃。啤酒不错，服务也很棒。推荐这个地方，是个吃早餐的好去处。地儿小但是买卖大”。 2．我最喜欢去的意大利餐厅。大爱这家菜品，一切都很棒。我推荐生牛肉配芦笋。可惜现在名气太大了，越来越难在黄金时间预定到座位。 3．我们全家都是这间餐厅的超级粉丝。工作人员非常奈斯，食物很棒。鸡肉非常好吃，蒜汁堪称完美。上面配有水果的冰淇淋也很美味。强烈推荐！ 4．每年圣诞节我都来，最爱意大利面！物有所值！ 5．非常好的披萨、烤宽面条以及最好吃的扇贝之一。甜品很大很美味。 6．这的食物好吃得惊人，分量也很大。芝士百吉饼做得非常完美，新鲜又美味！服务很快。毫无疑问是我们最爱的地方！我们还会回来的！ 7．我来这吃饭已经一年半了，除了好吃我无话可说。我总是点披萨，意大利牛肉也很好，给我留下深刻印象。服务非常出色。是我见过的服务最好的餐厅。强烈推荐。 说得不仅都是人话，还都头头是道，那么你有答案了吗？  AI点评逃过600名被调查用户的眼睛 先提前剧透一下，上面的第一条就是AI水军的杰作之一。有人猜对了吗？ “我喜欢这个地方。我跟我哥一起去的，我们点了素食意大利面，很好吃。啤酒不错，服务也很棒。推荐这个地方，是个吃早餐的好去处。地儿小但是买卖大”。 和一些点评懒癌患者相比，这条AI点评可是复杂得多了，说的人话似乎也比不少真实的人类点评来得真实。难怪这些点评能够蒙混过关，逃过600名被调查用户的眼睛，并且被认为“有用”。 实际上，这类以假乱真的点评是用一种被称为“循环神经网络”的深度学习技术生成的。这个循环神经网络通过对上千上万条真实的在线点评的学习，分析句子中的语言结构，建立相应模型，再生成新的语言表达，但并不是简单地替换已有点评中的用词。 组建AI水军并不需要太长的时间，硬件也容易买到，所需的点评数据库也能在网上轻易获得，成本可以说是很低很低了。如果说传统的人工水军还多少值5毛钱，AI水军仅仅不到一分钱就可以瞬间生产上千条点评。 而且，这些AI水军已经潜伏在微博、微信、知乎、贴吧等社交平台，一旦需要随时能占领各个高地，显示它的存在感和本领。 据互联网安全公司IMPV的《2016年机器流量报告》：通过对全球10万个域名网站访问记录的分析，其中约52％的互联网流量来自“自动化程序”，即机器人。平均每个网站进来的三个用户中就有一个是机器人。 AI水军可能操纵网络舆论 如果说，用AI生成虚假评论还只是小事，那么用人工智能来打舆论战，事情可能就严峻得多了。 2011年，英国卫报的《揭秘：美国间谍行动操纵社交网络》曾揭露了美国军队正在研发一种电脑软件，利用伪造的用户身份在互联网上密集发表观点，在Facebook、twitter和YouTube建立账户，与网络论坛中的评论人士展开争论，表达对美国有利的观点，秘密操纵社交网站上的舆论。 想想无处不在无孔不入的AI键盘侠，再想想和我们对骂的很有可能是机器人，不仅让我等小民感到深深的恐惧。 用AI打击AI水军 不过，AI水军虽然气势汹汹，也不是全无办法。 其实，不论是“人肉”刷评论还是AI刷评论，背后都有特定的设备，只要识别出设备的唯一性，判断这个设备是否用多个账号在短时间内大量刷评论，就能甄别出水军。不过，还是需要专门的技术服务，对于门外汉来说，这招几乎用不上。 这招用不上，那就再换一招。 研究者们说，虽然人类觉得这些点评能以假乱真，但机器未必也这么想。用计算机分析文字的分布特征，还是能发现真假点评之间的细微差异。毕竟假点评是从真点评里学来的，语言模型说白了就是套路，并且假点评要的是语言流畅、可信，至于文字分布特征这类细节，就模仿得比较粗糙了。 但是，对我们这些平民小老百姓来说，谁有那闲工夫去用机器分析，这招也得Pass。 正所谓，以毒攻毒，AI水军还得用AI来治。 比如，亚马逊就用AI来打击刷单行为。人工智能机器学习系统确认买家身份，而身份得到确认的买家发表的评论将得到更高的权重，并在更加突出的位置展示出来，而被其他用户标记为有用和及时的评论也将得到类似的待遇。 这套系统将把亚马逊认为精准的评论置顶，并使用这些评论来给商品评分，以避免只计算平均分影响了产品整体评分，毕竟刷单的队伍太过庞大。 嗯，这招貌似比较靠谱，流氓就得流氓收拾，水军最懂水军的套路，最重要的是我们可以省点功夫。 那啥，某宝应该行动了啊。 读芯君开扒 AI水军泛滥加速真实声音的沉没 水军之所以泛滥成灾，原因在于钻了信息不对称的空子，并且对商家来说，造假的成本极低，效果却明显。 读芯君认为，AI水军和人类水军在性质上没什么不同，最大的区别在于AI水军的效率极高，而且隐蔽性越来越强。人类水军是以数量取胜，通过人多势众来影响网络舆论和各类点评。AI水军却可以凭借一人之力，瞬间覆盖各个信息空间，占领舆论制高点；同时，如果说以前的僵尸粉、水军甄别起来还比较容易，现在，光凭点评，高段位的内容越来越难以被识别。 最终，真正的声音被淹没却越来越容易。   当虚假的声音变得更加强大，我们如何相信自己看到的每一句话究竟是真是假？ 留言 点赞 发个朋友圈 我们一起探讨AI落地的最后一公里 作者：六个太阳 参考文献： https://mp.weixin.qq.com/s/d1n9V9tP3_GrYfinU7MZSg 如需转载，请后台留言，遵守转载规范 推荐文章阅读 多年来，我只坚持做到一件事：吃肉 考试季，AI又来辗压人类了 “AI奇点”是个什么鬼？ 表情机器人一笑，我特么就哭了 抢饭碗的来了，毕业干哪行都可能没前途！ 颤抖吧！不懂Python语言，你将是新一代文盲 你说“我很好”，其实是你在逞强 不怕看AV，就怕看AV的人还懂AI！ 小朋友都看得懂的AI发展史 南大闯进野猪 有AI就好了 三大“AI码农”：我的起薪30万 （上） 三大“AI码农”：我的起薪30万 （下） 想死？AI不同意！ 世界首位机器人“公民”索菲娅称家庭很重要 前沿 | 性爱机器人上市，你会和她啪啪啪吗 独家点评 | 外媒眼中最酷的10大机器学习应用 这5个产业，将被人工智能彻底改变 长按识别二维码可添加关注 读芯君爱你 Reward 长按二维码向我转账 受苹果公司新规定影响，微信 iOS 版的赞赏功能被关闭，可通过二维码转账支持公众号。 Scan QR Code via WeChat to follow Official Account