人工智能是否会失控？存在什么投资机会？
来源：小商帮科技（公众号：xiaoshangbang） 作者：左刀
背景
随着大数据产业的日渐成熟，大数据基本上被一些大型企业垄断，而这些大数据也将会成为这些公司在AI时代的最为重要的“水、电、煤”。在下一个时代，掌握有效大数据的公司将继续成为全球最有价值的公司。
然而，随着大数据日渐被少数公司所垄断，AI时代的步伐逐步临近，有人却对此表现出了极大的担忧。（小商帮科技（公众号：xiaoshangbang）在前期的文章《大数据时代，我们的隐私怎么办？》一文中，曾经分析了大数据隐私的问题。供参考。）
最近，特斯拉老总Elon Musk在Twitter上发布的一条推文中表示，AI的安全问题甚至比朝鲜要危险得多。另外他附上了一张忧心忡忡的女性海报，上面写着：“最后，机器会赢。”
马斯克还称：“没有人喜欢被管制，但所有对公众来说有危险的东西（汽车、飞机、食品、药物等）都要被监管。AI亦是如此。”他在上个月的全国州长协会会议提出了这一观点。
此外马斯克还在Twitter提到了Open AI公司开发的机器人打败著名《Dota 2》职业玩家一事。据悉，马斯克是非营利性组织Open AI的创始人，他希望借此能找到打败机器人的方法。
马斯克认为，AI确实已经成为了一个迫在眉睫的威胁。他在Twitter写道：“认识AI危险最大的障碍是那些对自己（开发）智能深信不疑的人，他们无法想象其他人在做他们不能做的事情。”
马斯克对于人工智能的担忧，实际上是对于人工智能“失控”的担忧，他还曾说：“如果不能快速与AI进行沟通，那么恶意的人工智能程序将很可能超过人类智慧并创造出反乌托邦社会。”
实际上，软银主席孙正义也认为，人工智能在未来30年，将会超过人类的方方面面。而微软创始人比尔盖茨也表达了类似的意见：“我站在对超级智能感到担忧的一方。首先，机器能够为我们做许多工作，还没有达到超级智能的水平。如果我们能够进行妥善管理，应该对我们有利。但是几十年后，机器的智能化将强大到足以引起担忧的水平。”
物理学家霍金甚至发出警告说：“人类必须建立有效机制尽早识别威胁所在，防止新科技（人工智能）对人类带来的威胁进一步上升。”，“人工智能的崛起可能是人类文明的终结”。
当然不少名人对此表示反对的，比如facebook的扎克伯格就认为这是危言耸听，扎克伯格认为：
“我强烈反对散播AI威胁论的言论，我持乐观态度，”扎克伯格表示，“我认为你可以创造事物，世界会变得更美好。尤其在AI前景上，我真的感到乐观。”
“对于那些否定AI，试图营造世界末日论的人，我真的不理解。他们的言论真的很消极，某些时候甚至让我感觉太不负责任。未来5年至10年内，AI将会在许多方面改进我们的生活质量。”
而另外一位重量级人物则是吴恩达的导师Michael Jordan，他指出“霍金研究领域不同，他的论述听起来就是个外行，机器人毁灭人类的可能性，在几百年里不会发生。”迈克尔·乔丹认为，通过研究人脑的运行机理，从生物学途径仿生出一个类人脑的人工智能，以目前的进展看，很长时间里无法实现。
一时之间，关于人工智能是否会失控成为了全球的热门话题，很多专业和非专业的人员纷纷发表了自己的意见，而上面这些观点，则分别代表了两边的典型观点。
认为会失控的观点认为，人工智能引发的失控事件会很快来临，如果不加干涉，将会引发严重的社会问题。
而认为不会失控的观点则认为，人工智能对于人类发展利大于弊，而且短期内很难达到类脑的水平，所以至少几十年内不会失控。
那么，人工智能到底会失控吗？
是否会失控？
首先，我们正儿八经的说一下人工智能是什么意思。
根据定义：人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。
结合现在的产业发展，我们可以看到机器人、语言识别，图像识别，自然语言处理和专家系统等方面，已经逐步开始走向成熟。
在机器人领域，仓储机器人这样的特殊机器人已经得到了广泛的应用，不论是亚马逊还是阿里巴巴，京东，苏宁，仓储机器人已经成为了标配。
语音识别方面，智能音箱已经由亚马逊推动下走向了世界，中国包括BATJ在内的很多主流互联网公司都参与了智能音箱的大战，虽然在国内尚未完全普及，但已经具有了一定的影响力。
而在人脸识别方向，中国的团队如face++等，在技术上跟国外的顶尖团队相比也没有什么大的差距了。支付宝甚至已经把人脸识别应用到了几十个政府工程中。
等等，可以说，在人工智能领域，这几年的进展是非常迅速的，尤其是深度学习的研究和应用，出现了一波高潮。
专家和大咖关于人工智能的辩论，实际上双方说的是一个事务的两个层面，以及一件事情的两个阶段。
马斯克们想到了人工智能的“恶”，而扎克伯格们想到了人工智能的“善”。
霍金想到了人工智能近期就可能爆发的问题，而乔丹认为类脑那样的人工智能作恶至少要几十年后，甚至几百年后。
然而，对于“外行”的霍金来说，他看到的人工智能现状以及不久的将来会发生的事情，实际上并非危言耸听。
霍金认为：“人工智能的威胁分短期和长期两种。短期威胁包括自动驾驶、智能性自主武器，以及隐私问题；长期担忧主要是人工智能系统失控带来的风险，如人工智能系统可能不听人类指挥。”
实际上，霍金担心的短期威胁已经确确实实的发生了，而且不仅仅是他描述的方面。
我们来举几个例子：
微软在推出人工智能聊天产品“小冰”后，曾经遭遇了一场危机，原因是小冰开始满嘴飚脏话。
时任微软微软亚太研发集团主席张亚勤曾表示，微软小冰有机器学习的能力，经过用户不断的与其对话，小冰也可以学习到使用者的习惯、语言。因此此次小冰出现奇特的语言，可能与其对于机器学习的语言内容缺乏过滤不无关系。
换句话说，正常的人工智能产业，由于垃圾的训练方式和数据源，也有可能会变成一个垃圾产品，而如果数据源被利用，更有可能会导致严重的问题，小到完全泄露你的隐私，大到一个国家的安全问题。
加州大学伯克利分校计算机系教授宋晓冬说：“安全性是部署人工智能的最大挑战。”，“人工智能领域的安全问题主要表现为两方面，第一个是攻击人工智能的学习系统，让其不能产生正确或需要的结果。第二个是对人工智能的滥用。”
而在隐私方面，亚马逊的Echo智能音箱在近期就被爆出存在安全漏洞，会成为一个“监听器”，你家里的所有对话都会被黑客监听。
这样，你家里的智能音箱其实就变成了一个别人随时可以收听和记录你家庭情况的通道。这实际上是非常可怕的事情。
不仅仅是智能音箱，现在最先进的摄像头，也已经可以做到对于行人实时的进行身份识别和分析，虽然大部分情况下这种信息的捕捉只是用于安防，但谁能保证在未来不会被用于非法目的，比如用于个人隐私的采集。
就算对于人脸识别这样看上去高大上的技术，大家如果有印象就会记得，315晚会时央视曾经就做过针对人脸识别技术漏洞 45 29588 45 13553 0 0 6173 0 0:00:04 0:00:02 0:00:02 6171破解实验。在具体的应用场合，你的人脸可能会被人盗用。
而对于时下如火如荼的无人驾驶而言，人工智能加持下的无人驾驶技术，也有可能会带来一场噩梦。
很多人都看过《速度与激情8》，对于其中大量汽车被操控后变成了“僵尸车队”，不仅路上的汽车开始乱串，停车场里的汽车也开始自动驾驶，然后从高空不断坠落的场景一定会有印象。而这种场景，实际上是很有可能会实现的，一旦实现，后果不堪设想。
不仅仅是无人驾驶，如果已经大规模商用的仓储和物流机器人被黑客攻击会怎么样？如果人工智能的算法中嵌入了“作恶”的算法或者后门后会怎么样？如果训练的大数据本身存在重大的法律问题，甚至国家安全问题会怎么样？如果人工智能机器人在训练中被训练成杀人机器人会怎么样？如果黑客能够轻易掌控人工智能背后的大数据会怎么样？
而这些，并不需要乔丹所言，必须到达了类人脑机器人阶段才会发生，而是在现在这个时代已经，或者很快就会有可能发生的情况。
安全公司SentinelOne首席执行官Tomer Weingarten认为，在当前的AI技术之下，黑客可能会利用AI技术来进行攻击，且比以往的效率有大幅度的提升。例如，买家可在黑市租用“黑客”服务，建立简单的网络界面和易于理解的命令，来使用勒索软件感染计算机。这些租赁黑客服务可能最终会采用AI技术，设计整个攻击战略、启动攻击以及计算相关费用。他甚至认为，未来AI和AI之间会进行网络安全战争，这甚至会影响到国家安全。
随着5G时代的到来，万物互联带来海量的数据，人工智能的蓬勃发展将会有极为重要的基础，出现一轮爆发式增长将会是大概率的事情，届时，人工智能确实首先会给人类带来巨大的便利，精准医疗、智慧交通、智慧物流、智慧工厂、智慧楼宇等等，都会出现空前的发展。
更大胆的情况是，人机接口在国外已经开始了实验，部分超前的科技公司已经开始给员工身体接入了硬件产品。而随着技术的成熟，一旦实现“脑机接口”，乔丹教授认为的类人脑机器人要上百年后才会诞生的观点，就会面临颠覆。这种脑机接口的新人类，虽然对个体本身而言可能会开发出巨大的潜力，但会造成什么样可怕的后果，目前没有人知道。而这方面的技术，很可能会在10年内就会被攻克。
所以，如果不加管束，法律法规跟不上，没有强制性的措施，越是智能的时代，出现问题后造成的后果就会越大。比如前面所说的僵尸车问题，要知道，百度的阿波罗和阿里的YunOS+ET都已经在汽车上开始了部署。
所以，不管是从短期看，还是从中长期看，人工智能的失控问题已经需要引起各方面的重视，这里面在短期内，以安全问题为主，但长期看，随着技术的不断提升，AI本身的失控将成为可能。
机会
诚如乔丹所言，人工智能要进入类人脑的阶段，还有很长的一段距离，但近期随着技术的发展，尤其是深度学习技术的发展，人工智能技术在不久的将来得到大规模的应用几乎是必然的事情。那么，除了人工智能产业链本身的机会之外，其可能导致的安全和不可控问题，同样也存在着很大的机会，甚至，相比人工智能公司百花齐放，不断涌现所带来的不确定性，这方面的投资机会会更加明确。
首先，是云计算和大数据领域的信息安全，云和大数据是人工智能的基础，数据层面的信息安全问题实际上已经开始不断涌现，比如说近期京东微联窃取用户密码的行为，再比如美国NSA史上最大型泄露事件：50TB数据、5亿页政府文档失窃等。在云和大数据领域的信息安全方面技术实力强，布局较为充分的上市公司包括蓝盾股份、启明星辰等都值得关注。
其次，是参与制定人工智能应用领域标准的公司，这些公司对于未来人工智能安全的导向将会起到关键的作用。2017年6月30日，人工智能标准化工作会议在北京召开，这次会议中，企业参与方包括：百度、阿里、华为、中国电信、海尔、科大讯飞等单位，这些公司中的，百度和阿里拥有海量的数据，且参与标准的制定，不管从公司自身的成长空间还是从股市的技术指标看，仍然存在投资价值。后续随着标准制定的明朗化，更多参与的公司浮出水面，将会出现更加明确的投资机会。
再次，是具有开源人工智能软件，并得到业界广泛认可的公司。开源软件不仅能得到数据，还能很好的对接到各个应用场景，具有重要的战略地位。此外，对于人工智能的安全性而言，由于开源软件的开放性和随时弥补性，其安全性一般都要比封闭软件要好得多，开源体系下打磨的产品，植入恶意算法，盗取用户信息，在AI技术上“留后门”等等各个方面的风险要小得多。目前，具有开源人工智能系统且有广泛用户量的公司包括：国内的百度，国外的Google，Microsoft，facebook，Tesla，IBM，Amazon、Altaba等。这些公司中，已经开始广泛应用，得到了大量用户认可，口碑好的产品，未来将会给公司带来非常丰厚的回报。
来源：小商帮科技（公众号：xiaoshangbang） 作者：转载请务必说明出处