从正面强攻到包抄奇袭-信息安全步入人工智能时代

我们目前越来越数字化的社会，越来越受正确性、便捷性及安全性的不可能三角制约，如何在方便与安全间进行平衡与取舍是一个非常值得关注的问题。

作者：beyond-ma  央行观察专栏作家

近日英特尔CPU曝出惊天漏洞，以致于无论什么操作系统全会中招，而且攻击手段非常高明，令人叹为观止，作为一名IT人员简要向各位读者说明一下这个画风清奇的漏洞。

假如把计算机比成一个超市，为了减少顾客的等待时间，超市在结算区附近加上了一排缓存货架，放置近期最热销的商品。同时考虑到超市会出售一些处方药这样的只能向特定消费者售卖的商品，为了加快超市的客流速度，超市对于熟客采取了白名单策略，即允许其先进行商品采购，结算时再验证其所购物品合法性。

简单讲就是假如你一直在超市中遵纪守法，那么超市会先把你要的货物拿给你，但是如果你真的买了一些违禁类物品比如一种叫支付密码的处方药类商品，那么超市会拒绝为你购买的非法商品进行结算，并把你的购物车清空，让你本次购物失败。也就是你没办法把支付密码带出超市的。这两个策略本来看起来非常完美，但是黑客还是在其中发现了一个问题。

假如一个恶意顾客一直假扮成优质顾客正常购物，突然在某次购物中非法购买了支付密码这款处方药，虽然这部分操作不会被结算生效，这个顾客没法最终取走这个处方药，但是调度算法还是会把这个恶意顾客试图购买过的处方药留在结算区附近的那一排缓存货架上，恶意顾客后面只需要正常进入超市看看留在缓存货架上的东西是什么，就知道支付密码这款处方的内容了。当然这个黑客不能直接观测缓存货架上的商品，但是他可以通过合法购买操作测得购物的结算速度，来推测缓存货架上的商品信息，哪种商品购买速度快，哪种商品就必在缓存架上。

历数此前几次重要的黑客攻击事件，不管是大名远扬的熊猫烧香病毒，苹果的iCould被攻破，以及最近的wncry勒索病毒，此次的信息安全事件不管影响怎样恶劣，攻击手段还都是利用系统的缺陷、内存泄漏等bug骗取最高权限，然后暴力劫持、控制的方式，攻击风格与这次的事件完全不同。这次漏洞攻击中黑客根本就没把获取系统特权作为一个过程目标，而是根据数据的读取速度与隐私信息的相关性来推测用户隐私数据，这个攻击角度说明此次漏洞的提出者必定是深谙人工智能之道的高手，典型的AI+黑客。

简言之，如果说以前黑客攻击事件还是正面强攻的话，那么以后人工智能时代的黑客攻击就是包抄奇袭。

在此之前来自Google大脑的AI团队进行了一个有趣的实验，通过三个的神经网络AI机器人之间的相互合作与攻击，来测试AI黑客的可能性。实验人员分别搭建了名为 Alice、Bob和 Eve的三个AI机器人，由Alice和Bob彼此发送信息，Eve则负责破解攻击。这三个机器人并未被提前学习加解密的算法知识，他们所采用的安全加密策略完全源于相互的攻防实战。绝大多数的测试中，AI展现了极强的加密技巧，Bob和 Eve能很快创造出一套加密体系，让Eve无法破解，并且还能“自我升级”。

这一切，就发生在三个人工智能系统的比赛中。虽然破解机器人Eve表现不佳，但是值得注意的是Eve与人类的黑客不同，它并不追求完全破解加密文件的全部内容，只求尽可能多的破解加密信息，并且Eve处理的信息明显没有局限在Alice、Bob的通话上，研究人员的反馈速度等外围因素也一并在AI黑客的考虑之中。

无论是这次的惊天漏洞，还是已经出现端倪AI黑客，他们共同的特点都是把目光放在了看似对解题无效的关联信息上了。我们知道在CPU的调度设计中，逻辑处理的正确性（客户请求A不能发给B）、安全性以及处理性能呈典型的不可能三角关系。如果要彻底解决这次漏洞，要打的补丁要让计算机牺牲5%-30%的性能。之前试图依靠优秀算法来堵住漏洞达到三者的共同最优的方案，目前看来已经是不可能完成的任务了。

而我们目前越来越数字化的社会，也越来越受正确性、便捷性及安全性的不可能三角制约，一般来说无论是CPU这个数字社会还是我们真实的社会，正确性要求都是要绝对保证的，那么安全性和方便快捷的要求就成了无法兼顾的两极，据思科预测，到2020年全球的联网设备将由目前的不足200亿部上升了500亿部左右，而这新增的联网设备中又有很大比例将是几乎不设防的智能家电（如智能空净、空调等）这些联网设备在给我们的生活提供了极大便利的同时，也可能从其它方面给我们的个人隐私安全带来风险。

笔者认为从目前的信息安全形势看，今后这些看似不重要的智能家电的安全隐患很可能从意想不到的角度威胁我们的个人隐私安全，如何在方便与安全间进行平衡与取舍是一个非常值得关注的问题。

Beyond-ma部分文章