人工智能神经网络，如何更好的应用到移动设备？
戳蓝色字关注IntelligentThings
你的目的是什么？工程师们展示了一个应用在汽车上的神经网络芯片，可以预知汽车撞人的风险。
(图片来源：韩国科学技术院KAIST)
导言
Alpha狗战胜围棋世界冠军，让神经网络的人工智能系统，重新成为大家关注的焦点。但是，将这些复杂而且功耗很大的系统，带入进现实世界的应用中，安装在便携式的系统上，这并不容易。
今年二月，在旧金山的国际固态线路研讨会上，来自麻省理工大学，英伟达，和韩国科学技术院的科学家团队，让这个遥远的目标离我们更近了。他们展示了几种低功耗芯片的原型，可以运行人工智能网络，让智能手机判断他们看到的东西，让自动驾驶汽车能够预见行人的走动趋向。这篇文章在2016年3月的“Neural Networks on the Go.”的期刊上发表。
神经网络系统应用问题和瓶颈
目前的神经网络学习系统，之所以没有在移动设备上大规模应用，是因为以下的关键瓶颈。
对于处理器性能要求高
智能手机处理器，在运行一些神经网络软件的时候，往往会处于崩溃的边缘。
功耗大
但是，在具有移动设备例如智能手机，小机器人和无人机上运行时，功耗一直较大。移动人工智能芯片，需要提高无人驾驶汽车的智能，而不能增加耗电或者耗油量。
如何突破处理器性能限制？
高通的正在发布下一代骁龙智能手机处理器给手机厂商，带有使用神经网络来进行自动图像标注的软件开发包。这种专注于用软件突破问题的方式是一个里程碑性质的进展，但是也有它的局限性。因为，手机的应用程序不能自学习，而只能被训练成为更加强大的计算机。神经网络专家认为，如果可以将神经网络的功能加入自己的硬件电路中，这可以实现复杂的功能。
MIT的电气工程教授Viviennne Sze说，神经网络越大，就需要更多的计算层，并且更多的功耗。无论如何应用，主要的功耗来自数据和处理器之间的传输。这是传统神经网络的一个特殊问题，可以用来图片分析。（“卷积”这个名字暗示了许多步骤。）
于人类的大脑来讲，记忆的功能是天生的。3岁小孩都可以简单告诉你那个图片展示了床上有一只猫。传统的神经网络也可以标记图片中所有的物体。首先，一个类似图像识别的AlexNet系统，可能找到图片中物体的边缘，开始一个一个的识别你物体，猫，床，被子，最后推断出这个场景发生在室内。目前甚至着这样的简单标记，也是功耗十分大的。
神经网络，特别是用于图像分析，会专门地在图形处理单元（GPU）上。骁龙使用在他的场景侦测功能上的将是这种单元。Sze说，GPU已经能够做图形处理，但是更多的工作是让电路能够在高效率的状态下运行神经网络。
如何解决功耗问题？
Eyeriss状态机算法
Sze和另外一个MIT的计算机科学教授Joel Emer以及英伟达杰出的高级研究科学家，开发了第一个传统神经网络的状态机Eyeriss。他们展示他们如何运行AlexNet，一个特殊的要求算法，使用少于一个典型的移动GPU十分之一的功耗，Eyeriss功耗0.3瓦，不是5到10瓦。
缩短内存和处理器之间距离
MIT的设计
Sze和Emer的芯片在每个168处理引擎附近，放置一个专用的内存条来降低功耗。芯片尽可能很少的从一个更大的主内存单元获取数据。Eyeriss也压缩了发送的数据，并且使用统计学技巧，跳过了GPU通常需要做的步骤。
KAIST的设计
，韩国科学技术院的教授，多媒体超大规模集成电路实验室的负责人，在会议上展示一个芯片设计，应用于普通的物联网视觉处理。
像Eyeriss的研究一样，韩国科学技术院的设计，通过将内存和处理器的距离缩短，最小化了数据运动。它只消耗45毫瓦特，因为设计相对简单，所以相对Eyperiss的网络来说，显得很公平。通过减少数据运动，和减轻计算负担，来降低功耗。
Kim的小组观察到了99%的数字，在核心的计算上，只需要8个比特位，所以他们能够限制资源的使用。这些用来作为神经网络图片分析的电路，也会对于机场的人脸识别系统和机器人导航有用。
英伟达的Emer说，“在普遍性与效率之间的做决定是一个挑战。”Sze, Emer, 和Kim正在尝试使用通用神经网络芯片，进行图像分析。
复发性神经网络算法
韩国科学技术院的另外一个教授，系统设计创新和应用研究中心的Hoi-Jun Yoo，开发了一种更专业，应用驱动的神经网络硬件设计方法。
Yoo的一个系统是对于自动驾驶汽车来说。它运行传统神经网络，通过运行神经网络区分可视区域中的物体，并且使用一个不同类型的算法，叫做复发性神经网络。这个“复发性”和系统的暂时技能相关，他们擅长分析视频，语音，和其他随时变化的信息。
Yoo的小组想设计一个芯片，可以运行复发性神经网络，跟踪运动物体，来预测它的意图。一个在人行道上行走，还是进入机动车道?系统消耗330毫瓦，可以一次性预测20物体，几乎达到实时，延时只有1.24毫秒。
Yoo的系统MIT系统之间的区别
Yoo的系统和MIT的芯片另外一个区别就是它的硬件，他成为一个意图预测处理器，可以在路上不断的被训练。Yoo的设计集成了他称为深度学习的内核，一个电路设计被添加到神经网络的训练中。
对于传统的神经网络，这种深度学习是只有在功能强大的电脑上才可以完成。但是Yoo说，我们的设备应该适应我们并且学会运行。“不可能与预见所有事件。实际世界是多样化的，并且完全没法预测。”Yoo说到。
结语
以上，是科学家们对于人工智能神经网络的应用到移动领域的一些研究。希望看到更多这方面的研究突破，让我们终端设备，不仅具有计算能力，还具有学习能力，形成一个更加智能的系统。
如果大家有什么关于物联网，智能硬件，创新方向的技术或者产品问题想了解，请写评论告诉IntelligentThings，我会定期参看大家的问题，并选择一些来回答。