吴韧谈异构智能芯片：比谷歌能耗低，比华为寒武纪计算力高
安妮 发自 空巢咖啡
量子位 出品 | 公众号 QbitAI
昨天的媒体交流会上，吴韧全程带笑。
和气、稳重是吴韧给人留下的第一印象。自2015年百度离职创立异构智能以来，这位CEO很少出来发声，异构智能也因此被打上了“神秘”的标签。
与其说这场名为《异构智能拥抱人工智能大势》的分享是场媒体交流会，倒不如说是场吴韧揭秘他与异构智能近况的恳谈。
“异构智能有芯片、模型，有超级计算机，希望将模型脱离云端，带到本地和终端，让终端变得智能。”吴韧一开始就表达了公司愿景。
智能终端
“（云端）物联网是个伪命题，是难以实现的。”吴韧说。
目前的现状是，看似魔术般连接起来的物联网，实际需要通过很多海底和底下光缆从分支道路连接到主干道。接入的分支道路呈指数级增长，已经远远超出主干道增长的速度。
因为传统的物联网的云端架构难以处理未来的海量数据，异构智能开始考虑将人工智能的能力从云端拿到终端，让边缘设备学会“思考”。将边缘设备思考的结果通过网络与世界连接，就是实现了吴韧口中的智联网（I2oT）。
“在本地做人工智能是未来的方向，异构智能将为这个方向的公司赋能。”吴韧说。
将AI放于终端对芯片提出了一高一低两点挑战。“高”在于，AI芯片主要有足够强大的高性能支持复杂的人工智能计算，“低”是指芯片需足够低功耗才能置于边缘的小物体上。
“是挑战，也是机会，”吴韧的声音中带着坚定，“异构智能的决定是take the challenge and seize the opportunity（接受挑战，抓住机遇）。”
高性能-低能耗
在此情境下，异构智能选择放弃芯片的通用性，为AI场景设计一款专用芯片，以追求最高的性能功耗比。
吴韧表示，目前的人工智能芯片真正起效需要10TOPS（万亿次运算/秒）的计算力，谷歌等公司的顶级芯片计算力高但能耗也高，不满足本地落地的条件，而高通、寒武纪麒麟970等芯片虽然低能耗，但计算力却达不到。
相比之下，NovuTensor V1仅用5W的用电量，就能实现15TOPS的性能。能耗低，且满足计算需求。
5W是什么概念呢？吴韧现场形象化地表示，5W是USB可以提供的电量。
“这就是从云端突破到终端的能力。”吴韧说。
专利后的全栈解决方案
“人工智能的核心计算是三维张量的卷积计算，小立方体和大立方体重合的部分做点乘，”吴韧开始谈到芯片背后的技术，“异构智能的芯片在三维层面做操作，并且有四项专利保护。”
这四项专利包括三维张量卷积用硬件的直接实现，对数据的调度与分配、归并和处理器间的协作。
只看到机会还不够，异构智能最早找到办法把芯片和算法设计出来并加以实现，辅之以专利保护。这样看来，异构智能走得早，也走得稳。
“想为其他公司赋能。”吴韧不止一次提到这句话。
赋能，也就是帮助其他公司训练出更聪明的模型、更复杂的网络结构，让数据集发挥更大的作用。
通过为人工智能定制的超级计算机进行训练，异构智能的芯片能用最高的性能功耗比实现设计模型，为不同行业，提供全栈式的服务。甚至可以为非AI公司提供计算和智能的能力，帮助人工智能落地。
未来
异构智能的本地智慧模块NovuBrain主要落地方向包括安防、制造、家居、医疗器械、智慧城市和智能驾驶，目前已经与HP、KUKA合作。
“通过把技术能力赋给顶级的大公司，这些公司把这些能力赋予给他们的用户，异构智能就不需要在每一个行业、对每一个用户、每一个应用来做这些事情。”吴韧说。
据量子位了解，目前28nm的ASIC芯片已经进入流片阶段，16nm和7nm芯片同步推进，预计明年生产。
当被问及明年推出16nm芯片是否时间紧张时，吴韧表示公司团队人才积累丰厚，对最新技术的把控很有信心。技术团队的李淼（Mike Li）之前在Inphi负责过两款16nm的芯片，对它的制程基本有100%的信心。
“未来的世界一定是智能物联网领先。异构智能的定位是让万物互联转到万物智能，为转折提供所有的技术，随着智联网的长大，公司也将长大，成为伟大的公司。”吴韧说。
— 完 —
活动报名
△点击图片或阅读原文即可报名参赛和获取更多详情
联想全国高校AI精英挑战赛，面向全国征集优秀AI相关领域技术与应用。此次将在全国8大赛区、260所高校开启项目收集和沟通评判，最终入围总决赛的8支参赛队伍，将获得联想创投投资。
加入社群
量子位AI社群10群开始招募啦，欢迎对AI感兴趣的同学，加小助手微信qbitbot4入群；
此外，量子位专业细分群(自动驾驶、CV、NLP、机器学习等)正在招募，面向正在从事相关领域的工程师及研究人员。
进群请加小助手微信号qbitbot4，并务必备注相应群的关键词~通过审核后我们将邀请进群。（专业群审核较严，敬请谅解）
诚挚招聘
量子位正在招募编辑/记者，工作地点在北京中关村。期待有才气、有热情的同学加入我们！相关细节，请在量子位公众号(QbitAI)对话界面，回复“招聘”两个字。
量子位 QbitAI
վ'ᴗ' ի 追踪AI技术和产品新动态