前沿 | 被人工智能机器人的谎话耍了，该找谁算账？

点击上方“公众号” 可以订阅哦！

萌萌的外表，无辜的眼神，看起来不会骗人的样子

这些事情，人工智能要来干会怎么样呢？人工智能像疯了一样写负面评论，往你的身上泼脏水。你都来不及换件衣服迎接新一波的脏水。

想象一下，似乎这是件并不困难的事情。人工智能的潘多拉魔盒撬开后，公司的公关部打了个盹儿，满世界都是你的负面评论了。那样的话，睡着觉都得开个天眼，看看这个世界有没有诋毁的洪水扑面而来。

上面当然是商家要面临的烦恼，那么从客户的角度看呢？

今天，我们看评论区的时候，都会有选择地去看。笨拙如我，有时候也会碰到一些高人指点，什么评论是可信的，什么是假的。假如人工智能再来插一杠子，把水搅得更混，网络上本就脆弱的信任是不是要慢慢蒸发了，荡然无存或者聊胜于无。

据BI报道，芝加哥大学的研究人员写了一篇论文，介绍了人工智能如何开发复杂的评论，不仅现代检测工具检测不到，也能成功骗过不知情的读者。

举个例子，这是一段评论：“I love this place. I went with my brother and we had the vegetarian pasta and it was delicious. The beer was good and the service was amazing. I would definitely recommend this place to anyone looking for a great place to go for a great breakfast and a small spot with a great deal.”（我爱这个地方。我和哥哥一块去的，我们一起吃了素食意大利面，味道很好。啤酒很好，服务也让人很舒心。如果你想去个不错的地方，有着丰盛的早餐，我会推荐你去这里。/最后半句有语病，不译。）

审查起来也没什么毛病。虽然最后半句有些奇怪，但是我们平时看到的评论区里，也常常是错字不断、语句不通，所以这不算什么大的问题。总的来看，它看起来就像一个正常人说的话。

事实上，这条评论是由一种叫递归神经网络（recurrent neural networks）的深度学习技术炮制出来的。

就问你怕不怕？

不光是长得像真的，研究者还写道，这些评论对真正的交易来说也是有效的。也就说是说，不仅表面看起来能骗得过真实用户的眼睛，而且能让用户觉得像真实评论那么有用，觉得这一条走心的平价。实际上这只是人工智能“走芯”的平价而已。

想象一下，有一天，你打开某个点评网站，被一堆谎话连篇的评论洗了脑，然后屁颠屁颠地，去了一家让人倒胃的饭店吃了顿大餐，到一个荒凉透顶的景区领略下美景，回家后气急败坏，一通怀疑自己“你是不是傻？”人工智能的机器人要是看到了，说不定都乐开花了。哦，对了，未来的机器人说不定真的会像人一样，笑得那么灿烂。

如果人工智能可以这么无耻切不受控制的话，那么大众点评等网站的评论参考价值就会大打折扣。亚马逊、阿里这样的电商也会受到一些连累，不过好在他们还可以检查评论客户是不是真的买东西了。

研究人员想到一个办法去克服这种情况。

假评论虽然看起来像是真的，但是依然有着细微的差别。计算机程序可以检测出来这种差别，如果它可以测算描述中涉及到一些字符的分布规律。假评论为了以假乱真，会看重流畅度和可信度，因此一些较为细微的特征，就像字符的分部规律可能就会被忽略掉。

研究者写道：“训练中产生的信息损失，会在最终呈现的文本中显示出来。这样就会导致机器产生的文本与人类的文本上，在潜在的字符分别规律上，产生统计学意义上的差别。”

芝加哥大学计算机科学教授Ben Y. Zhao

听起来是不是有点绕？不过呢，这也不是万全之策。芝加哥大学计算机科学教授Ben Y. Zhao表示，它可以让很多虚假评论更不容易过审，但是更昂贵的计算机和更强大的神经网络，就可以绕开这种检测。

道高一尺魔高一丈，想作弊有的是办法。“你不能阻止那些信心坚决、又有实力的攻击者。”Zhao表示。

不过好在，Zhao表示，现实世界中还没有看到任何用人工智能声称恶意评论的例子。

其实，不光是在线评论，未来说不定，整个博客都会说一个机器自动生成的，让人真假难辨。再广泛一点，机器又会炮制怎样的假新闻，操纵舆论或者愚弄公众？被耍了一通之后，发现元凶是一个机器人，这又该让谁去负责，在案件中也好，也普通的事故中也罢。还有，人工智能充当主力的信息战争又会是怎样一个糟心样子呢？

Zhao希望提醒人们注意到这种威胁，也希望Yelp这类的点评网站和亚马逊这样的公司开始考虑怎么防御。

从科技伦理上说，我们确实有被技术奴役的风险。不过，作为了一个乐观主义者，我相信人类整体可以驾驭技术，作为生命个体，勤奋上进又取法得当的话，也可以更多地享受人工智能的便利，要超过人工智能的威胁和压迫。

不过，即便是利大于弊的技术，也总会来带一些蚊虫叮咬式的烦恼。说不定，未来被人工智能耍着玩，并不是什么稀罕的事情，就跟现在时不常接到的诈骗电话一样随处可见。

来源：36氪