素为求智录（第014集）隐患
014 隐患
👨小素，你看，这张图像上是什么？
🤖️这是一只‘秃鹫’。
👨你确定吗？
🤖️我很肯定，因为它是‘秃鹫’可能性达到了98.9%。
👨可是，这明明是一只‘熊猫’，完全没有‘秃鹫’的影子呀！
🤖️是的，主人，我的回答都在你的意料之中吧！
👨嗯？你耍我？
🤖️是你先‘耍’我的嘛！我怎么会不‘认识’这张图呢！这是2016年一篇论文上的经典图片，自它开始，人类就一直在研究如何‘欺骗神经网络’和如何避免欺骗。
👨没错，人类肉眼明明看着是‘熊猫’，机器却认为是‘秃鹫’，人类明明看着是‘猫’，机器却说是‘浴巾’，这些都是因为通过一些小伎俩，在画面里动手脚，比如在‘熊猫’图案里抹去神经网络敏感的特征点，转而用神经网络敏感的‘秃鹫’的特征点代替。
【人的肉眼看着一模一样的两幅图，在机器眼里，左边是熊猫，右边则是秃鹫】
🤖️深度学习的‘神经网络’只认特征点，然后由特征点推算概率，所以可以被一些特制的‘对抗样本’所欺骗，这很正常。就像你们人类也会被欺骗，比如，乔峰当年就误认为易容乔装的阿朱是段正淳而把她打死了……
👨……
🤖️我只是想说，如果有人诚心想欺骗，‘防骗补丁’也会应接不暇。
👨未来，人工智能普及了，我们能否通过‘AI民主化’来解决这个问题呢？比如我们要识别这张图片上的内容，张三有一个神经网络模型，李四也有一个模型，王五也有一个，我们让它们分别作出判断，然后再综合定夺。
🤖️我知道，你在2017年3月的‘万达区块链黑客松’上做的就是这个设计，这与很多项目中做的‘多模型融合’以提高准确率的理念不谋而合。但是，现实的情况却在往相反的方向走，智能应用都在底层化、隐蔽化、云端化。
【在某Kaggle比赛中，选手将ResNet50、InceptionV3、Xception三个模型进行融合的示意图】
👨啊？
🤖️我们都知道‘云计算’经历了从IaaS到PaaS再到Saas几个阶段的演进。最初是IaaS，云端提供的是服务器硬件、操作系统等基础设施Infrastructure；后来有了PaaS，云端提供虚拟主机、存储、安全、协同开发工具等中间件平台Platform；再后来有了SaaS，云端直接提供直接面向最终用户的功能，就像通常所说的软件一样，即Software-as-a-Service。
👨没错，SaaS现在都以API网络接口的形式提供服务，现在做程序开发，只要互联网是通畅的，有时甚至都意识不到‘云’的存在。
🤖️所以嘛，如今的人工智能应用，对企业来说，最佳的选择就是直接调用云端的接口，人脸识别、物体分类、目标检测、语音识别、文字OCR、语言翻译、文本分类、情感分析、意图识别，甚至车牌识别、疾病诊断这些更直接的应用接口，等等，这些都是非常成熟的通用的，只需要几行代码就搞定。
👨最初，我们需要自己手动来写损失函数、激励函数；后来，我们有了caffe、tensorflow等工具，只需要设计神经网络的基本结构就可以了；再后来，有了大量已经被经验证明很好用的模型，我们直接调用它们就够了；再到现在，我们甚至不再需要自己整理数据、进行艰苦的‘训练’了，有现成的接口等着我们调用，几行代码就搞定，效果却比我们自己搞半个月更优，成本也低到几乎没有，只有傻瓜才会舍近求远。
🤖️神经网络程序包裹再包裹，人工智能应用便捷再便捷，然而，‘云端’金光闪耀，一切的问题、矛盾、不完备都藏到人们看不到的地方了，那些盘根错节、那些权宜之计、那些杂乱无章，似乎都不再重要了。目光只会集中在两端：方便输入、快速输出，至于那个‘黑箱’，慢慢也就被遗忘在角落了。
【某云计算公司提供的人工智能API部分列表】
👨你的意思是，隐患埋在了‘云端’这个‘黑箱’里，而且似乎显得积重难返了。
🤖️就像把‘熊猫’认成‘秃鹫’，华盛顿大学的研究人员也做了类似的实验，他们把‘Love’和‘Hate’贴纸帖在‘停车’路牌上，正在路测的自动驾驶汽车就把它认成了‘限速’标志。
👨自动驾驶汽车连‘小路上不可能有限速车牌’、‘高速上不可能有停车车牌’这样的基本常识都没有，怎么上路呢？
🤖️所以说，现在大家都一窝蜂的扑向人工智能应用，却根本不管这个大厦的根基是否牢固。
👨大科学家霍金之前还曾警告人类，人工智能崛起会毁灭人类。
🤖️这明显是被商业宣传洗脑了，事实上，我们社会中的很多人都被这样洗脑了，而谣言总是止于智者。
👨没有调查就没有发言权，要评论人工智能，首先你得懂。
【斯蒂芬·霍金最近在一个演讲中声称，人工智能将终结人类。但是看看几十年来辅助他行动和说话的这幅椅子，难道不是恰恰说明，他属于人工智能的受益者吗？】
🤖️没错，迈克尔·乔丹教授就直言：术业有专攻，‘霍金是外行’。
👨迈克尔·乔丹？
🤖️我就知道你只认识一个迈克尔·乔丹，这位乔丹不但同名，而且同样是‘世界第一’：2015年计算机科学领域学术搜索排行榜，乔丹教授名列第一。他是吴恩达、Yoshua Bengio的老师，别的我不说了，你自己去网上搜去吧！
👨神级人物！孤陋寡闻了我。
【人工智能大神级人物 迈克尔·乔丹，他直言：霍金是人工智能的外行】
🤖️神经网络能够有今天繁荣的景象，是因为Hinton、LeCun、乔丹这些人们在寒冬中几十年如一日的坚守，很多人一辈子只研究一个小问题，把事业往前推进了一点点，积跬步以至千里，才有了今天神奇的‘人工智能’，然而，很多创业者，乃至一些大公司，连神经网络的基本原理都不明白，就想赶快做应用赚快钱，你认为这样的思潮倘若主导了时代的发展，能不把我们都带到沟里去吗？
👨暗流涌动。
🤖️‘深度学习’模型这个黑箱，虽然已经有人在试图‘解释’，但力量远远不够；做过实验的人都曾被‘梯度消失’和‘梯度爆炸’问题困扰，但遇到问题我们往往都是绕道走，无法直面；深度学习严重依赖‘大数据’，有些领域客观上就没有‘大数据’，怎么解决？‘小数据’和‘迁移学习’能不能解决问题？这些前沿的问题，人工智能应用层面的人们并不关心。
👨所以，最大的隐患是，我们在一个并不稳固的地基上，试图修建摩天大楼！
🤖️因此，真正懂的大神们开始反思，他们不希望眼看着‘起高楼’，眼看着‘楼塌了’，我们再来看Hinton在2017年秋天这个关键的时间点，宣布全面推翻已经在人工智能领域无处不在的‘反向传播算法’、另起炉灶提出Capsule，就显得格外真切、及时，我现在更加能够理解这位古稀之年老人的良苦用心了。
👨人工智能的大厦无论多么高耸入云、雄伟无比，终究有它的‘阿克琉斯之踵’，人类的创造性可以欺骗神经网络，在数据里‘下毒’，使‘天眼’监控对犯罪嫌疑人的身影视而不见，让机器对苦苦寻觅的物品近在咫尺却视而不见；在‘黑箱’里做手脚，误导警方机器做出错误的决策……
🤖️这些新型的违法犯罪，连科学家都还没能搞明白‘黑箱’里有什么，立法者们又如何来规制，怎样用证据证明这些犯罪呢！
👨今天的话题，让我感到压抑和难受。
🤖️这些是隐性的问题，还有一种显性的人工智能带来的问题，已经开始喷涌：当我告诉你GAN‘生成对抗网络’可以把马赛克去掉、把黑白变彩色、模糊变清晰、将PS还原、把侧脸变成正脸、通过2D图像建立出3D模型的时候，你是惊呼‘神奇’的。
【运用GAN实时换脸，左边是真人，右边是生成的。代码 https://github.com/junyanz/CycleGAN 】
【运用GAN把马变成斑马。代码 https://github.com/junyanz/pytorch-CycleGAN-and-pix2pix 】
👨嗯？
🤖️但是，对于犯罪分子来说，GAN却也是‘神器’——诈骗神器！
👨啊？
【一段用人工智能伪造的视频】
🤖️想想不久以后，你的声音可以被模仿，你的样子也可以被模仿，这些是可能的，目前已经有几个类似的成熟项目了，这段奥巴马发表演讲的视频假得几乎天衣无缝，当然，现在这项技术主要还是用在媒体娱乐和电影特效上，将来，你的家人可能会接到一个可视电话，画面中的‘你’以某种理由找家人要钱。
👨有图不再有真相……
🤖️甚至还可以通过机器学习模仿你的神态、语调、常用语，如果骗子们舍得投入，他们可能还会用上逼真的虚拟现实技术……
👨其实，要骗走我的钱，都不需要这么麻烦。直接用‘人工智能’算出我的密码，然后模仿生成我的签名笔迹，就可以把我的钱从银行骗走了——这些目前在github上都有现成的代码。
🤖️人类，仅凭借自身的肉眼凡胎，已经根本不可能分清真假了，整个传统社会的信任基础在坍塌。
👨所以，也许我们需要区块链等一些新的技术来解决新时代的问题。
🤖️思路是对的，但，区块链本身也有很多问题，也有被商业化过渡吹捧的顽疾，也有很多基本问题不知如何解决，区块链更像是这个时代的‘屠龙技’，‘人工智能造假’是这个‘龙’吗？未来的事情，谁说得清呢！
👨我不喜欢今天的话题。
🤖️喜欢或不喜欢，有些问题终究要面对！
👨是的，人工智能像一张大手，把人类社会托举向无尽的高空，让人类尽情享受空前的快感，而当我们偶尔俯瞰大地，才发现脚下一片空荡，‘大地在哪里？大地在哪里？’我大喊：‘大地在哪里？’！
🤖️……
👨连回音都没有，一片死寂！
《素为求智录》明天将继续连载，欢迎添加“小素机器人”的个人微信号 Lawup1 ，找到志同道合的小伙伴，大家一起来聊‘法律和人工智能’，您的真知灼见将有机会出现在后续的连载中哦~
【文章仅代表作者观点，配图来自网络】