中天微劳懋元:AIoT 颠覆传统芯片行业,市场需要专用方案丨WARE 2018
「大家是一条绳上的,我们希望尽量把产业链压短。」
- shenzhenware -
「智能语音本身是一种交互方式的升级。这种交互方式出来之后,就产生了很多的新的技术难题。」
作为一家老牌 CPU IP 公司,中天微比大多数人更加早察觉 AIoT 对传统芯片行业的巨大冲击。2018 年 4 月,中天微被阿里巴巴全资收购,同年 6 月,中天微发布了云端一体的智能语音平台「云音」。在由深圳湾出品的 WARE 2018 AI 芯片与应用峰会上,中天微劳懋元从产业最上游,与我们分享了 AIoT 时代下芯片公司的进击与思考。
中天微劳懋元表示,智能语音本身是一种交互方式的升级。这种交互方式出来之后,就产生了很多的新的技术难题,比如麦克风阵列、识别和唤醒背后的神经网络技术、多样化的应用场景以及云端一体的服务。
「我们需要的是专用的解决方案。」劳懋元表示,从核端来看,以前大家都采用通用的芯片方案,只需要将算法移植到 AP 上即可;但面对品类多样、场景复杂的 AIoT 市场,一颗芯片走天下已经不可能了。市场需要的是专用的解决方案,基于应用、算法来完成芯片架构设计,然后芯片架构在针对算法进行优化和增强,只有这样设计出来的芯片方案才可能真正的解决问题。
同时,AIoT 时代下,算法的迭代速度在加快,产品的话语权在增大,单独的芯片公司已经无法应对市场的变化,需要芯片公司、算法公司和互联网公司的配合。上游企业提供芯片架构、算法公司提供参考设计,互联网公司提供云服务和产品的商业落地。
以下是中天微劳懋元在「WARE 2018 AI 芯片与应用峰会」的演讲实录,经深圳湾整理和发布。
# 现场回放 #
演讲:从核思考 AI,芯片公司的 AIoT 战略
嘉宾:劳懋元 / 中天微智能语音平台负责人
从「核」思考,这既是一个问题,也是一个答案,从什么地方思考?我们中天微的答案是从「核」。
什么是核?做产品的上面是做方案,做方案的上面是芯片,芯片的上游是 IP 核,我们其实是做其中最重要的一个核,也就是 CPU 核。
中天微是一家老企业,2001 年就成立了,到现在为止已经十七年历史。一直在做一件事情:做中国人自己的嵌入式 CPU 核。
中兴事件发生之后,我们就说什么是「中国芯」。如果这个「中国芯」里面用的最重要的核还是来自于国外企业的技术,那这个「中国芯」的含金量到底有多少?我们一直在执着的做这件事情,希望有更多中国芯片企业内部真正使用到中国人自己的核芯。
中天微在 2018 年 4 月的时候正式被阿里巴巴集团收购。目前为止,我们的 CPU 核已经在差不多 100 家企业中使用,累计出货已经到 7 亿颗了。
我们有几个系列产品,有 S 系列的核、C 系列的核、K 系列的核和 Y 系列的核。一般做产品的时候,往往先把功能做出来,首先就是安全,中天微有十几年安全的积累,如果你的产品要考虑安全,可以跟我们联系。Y 系列的平台我们称之为云音平台。
接下来讲一下中天微的「云音」平台。智能语音算是 AI 运用比较早的,所以我们希望把核的技术和这一热点结合起来,作为生态进一步的延展,最后给合作伙伴提供一个完整的云端一体解决方案。
「云音」平台有几个特点:低成本、低功耗、支持自由剪裁组合。现阶段,我们做了自己的测试芯片,实测出来,整个运行功耗可以做到现在已知芯片的 1/10,如果使用我们这个平台的技术做,芯片成本可以做到现阶段的 1/2。
语音是一种新交互方式,它带来了许多前所未有的技术难题
智能语音是什么?智能语音需要解决什么问题? 很多人说智能语音是 AI,我认为不是,不能因为里面使用深度学习的技术就说是 AI,它本身是交互方式的一种升级。刚才在茹忆的 PPT 也讲到,从 PC 时代的键盘到手机时代的触摸屏,到现在的 AI 或者 AIoT 的时代,我们希望更自然的交互方式。
这个交互方式出来之后,有新的技术上的问题:
首先是麦克风阵列,这是很多产品没有遇到的问题;
其次,识别和唤醒会用到非常流行的神经网络技术,这些技术的出现对做核的人来说提出非常多的挑战,传统嵌入式的核对处理这样的计算不是非常擅长的,这也是为什么我们要从核最基本的地方去思考怎么来应对这样的挑战;
第三,场景化的差异。语音这种事情看起来很简单,但是评判标准来自每个人的感官,我觉得这个交互方式体验很好,并不代表换一个人体验也很好。我把这个设备放在自己家安静的环境效果很好,但是扔到车上或者街上嘈杂环境中效果就差很多,这也是这个产品之所以难做的地方。
第四,云端一体。现在特别是一些家电类的产品,目前只是端上控制的能力,但是放眼未来,真正的智能语音其实是为了连上云,通过语音的交互能够拿到想要的服务。归根到底,我们是要做云端一体的方案。
面对这些新问题,市场需要专用化的芯片方案
要解决这些问题,在技术路径上要怎么做呢?
现在很多家做产品和方案的都是从图片上下面的路来走。目前智能语音是热点市场,并且主要面向消费类市场,(供技术研发)的时间非常非常短。所以,芯片厂商只能拿之前芯片的解决方案,通常是基于多核、AP 形态或者多媒体处理的形态,直接往上跑算法,只要算法能跑起来,效果能达到,就可以用。这一波促成了 2017 年国内百箱大战的热点。
但是接下来怎么做?智能语音这个市场非常大,智能音箱不代表整个智能语音市场,只是整个冰山的一角。未来 IoT 是万物互联,意味着多种形态、多种品相的产品都需要升级。有没有可能拿一颗芯片打所有市场?绝对不可能。现在智能音箱的芯片能够用于可穿戴设备吗?显然不可能。
中天微一开始把发展路线定在走专用化的路线。正如周军博士提到的,我们需要的是专用的解决方案。
专用的解决方案怎么做?以智能语音为例,我们要以应用、以算法来驱动整个架构的定义。从本质上来讲,一开始我们要把算法本身吃透,然后再去定义出架构,让这个架构的所有优化、增强都是为了算法服务的,这样做出来的东西才是真正的解决方案。也只有这样的方案,才能更好地去面对即将爆发的万物语音的时代。
从另外一个维度上考虑,这件事牵扯的公司非常多,需要芯片公司、算法公司、互联网公司。往往的情况是,芯片公司缺算法,算法公司缺芯片,两个解决了,就要看谁云上的服务更满足他的需求,同时商业模式又特别好。
云音平台:一站式的智能语音的解决方案
现在很多人都很焦急,我们没有找到一个完完整整的方案。中天微被阿里巴巴收购之后,我们认为我们其实是代表着阿里巴巴能够做这样一件事情,全套从算法、芯片、互联网、内容都可以做,希望带给大家一站式的智能语音的解决方案。
△ 云音参考芯片设计
云音平台里面包含的东西挺多,不是一个芯片或者一个软件本身。我们有一个非常适合智能语音应用的 CPU 内核。其次,我们有一个非常轻量级的,同时能够兼具功耗、性能的芯片设计参考架构。另外,我们还有一个算法——来自阿里达摩院的先进算法。同时,我们对操作系统支持非常完善——包括常用的实时操作系统、嵌入式版本的 OS。最后,上云,我们是最早一家把阿里上云全套打通的企业。
# 开发者对话芯片商 #
劳懋元 / 中天微智能语音平台负责人
廖泽立 / 酷博创新 技术总监
从核看,芯片架构的形态
廖泽立:今天我们都在聊 AI 芯片,大家可以看到传统基于 CPU 架构的,也有混合型的 GPU 等等的,而且现在很多传统的 DSP 厂商也在往 AI 芯片整合,包括国外的巨头也在往 AI 语音的前端做所谓的方案。您觉得 AI 语音的应用中,从最上游来看,芯片架构应该是什么样的形态?
劳懋元:目前整个产业都还处在 AI 的早期,很多家都在构建自己的技术路线,以自己的方式,基于自己的积累构建 AI 解决方案。我们看到的方案非常多,五花八门的。现在也不能说谁家最后能胜出或者活下来,现阶段不是互相撕杀的过程,更多是共同打造这个市场。
我们中天微是做嵌入式核的,我们只能基于已有的技术做嵌入式解决方案。我们现在很多使用的芯片里面都有国外公司的方案,这更促使我们思考,既然是中国自己的核,我们不仅要优化指令,索性把硬件架构也做升级。
如果大家熟悉计算机体系结构,中天是做 RISC 架构的嵌入式核,但我们也参考 DSP,融入了很多并行计算的技术。CPU,DSP 这两者在诞生初期是有非常清晰的界定,CPU 比较适合做事务性处理,DSP 是数字信号处理,更适合偏运算性的应用场景。
我们念书的时候有一个很明显的区分标准,看里面有没有硬件乘法器。一般 CPU 只有加减,没有乘法式的。DSP 里面先天就有硬件的乘法,所以它的计算效率非常高。从存储架构来说,DSP 严格意义上说是用哈佛存储结构,指令和数据是分开存放。而 RISC CPU 通常是冯诺依曼存储价格,指令数据统一存放。现在时间过了至少几十年了,到现在为止,再回头看,这两个东西的界限越来越模糊。
从我看到的情况,做核的人开始加 DSP 指令集,DSP 企业为了增加控制,也往我们架构里面添一些他的技术,这两个都往中间靠,未来有一个处理器,有很强的控制性能,同时又兼具很强的计算性能,我认为这才是未来人工智能时代真正需要的核。我们这里不简单的说到底是 CPU 好还是 DSP 好,我们主要看未来,只要能解决这个问题的核就是好的。
AI 芯片与算法的集成路线
廖泽立:我们刚才聊的基本上集中在语音交互的芯片上面,我们看到 Google、百度都有定义基于算法型的专用 AI 芯片。您认为作为内核厂商来说,您认为从内核这一端来看,未来 AI 这一块是什么样的架构,中天微有没有跟算法集成的路线?
劳懋元:算法迭代速度太快了,可能每半年都要迭代,促生我们做核的也要不停的迭代,所以我们基于算法做了升级。包括我们对于神经网络里面的全相连,在核里面业绩做了架构的调整和提升。可以预见,接下来还会有新的算法出来,这些新的算法可能需要新的计算。现在有两个方法,一个是除了核本身的优化,另一个是在平台里面系统层面的加速。 未来,我们相信作为中天微本土的 CPU 核企业,只要企业提出新的算法需求,我们会不遗余力,从算法层面和指令集层面给大家服务。
传统芯片周期长,需要通过平台压缩产业链
廖泽立:从芯片的架构设计、内核设计,最后到芯片厂商能用,可能要经历一年甚至更长时间,可能算法就迭代过去了,从内核来看,您认为怎样的架构更适合终端的算法公司或者 AI 公司使用?
劳懋元:前几天看到一个观点:AIoT 时代,对传统做芯片设计的公司有非常大的冲击,这个冲击来自传统链条太长,我们作为上游企业,最缺的是来源于产品端的直接需求导入。 刚才我既讲了我们的核,同时又讲了我们的平台。
我们为什么研究平台?这个平台本来应该是芯片企业研究的。大家是一条绳上的,我们希望尽量把产业链压短,做核的人要提前替芯片公司思考。
芯片公司的强项是对于芯片成本的把控非常到位,因此,当新的技术和应用出来,从芯片应用架构上面,做核的企业可以有能力帮助他们分担。光有核,没有人有办法用起来,所以必须有芯片架构,所以我们也做芯片架构,希望把这个参考设计给到芯片设计企业,同时把他们非常专业的对于成本的把控和量产的把控能力融入其中,从我们这两个环节上面把开发周期压缩到最短。这是从我们这个角色上面能够带给产业的贡献。
中天微是否站队?这个问题交给马云回答
廖泽立:这是很好的趋势,从阿里巴巴收购你们这个事情开始,包括国外 Google 去做芯片,整个芯片产业带来比较大的变革。AI 芯片可以说是算法公司在驱动着芯片架构往前走。
目前,中天微已经被阿里收购了,在使用架构的时候会不会有站队的问题?百度也有一些算法,使用到其他平台上,中天微会不会有站队的问题?
劳懋元:我更愿意把这个问题留给马总,我相信马总很快会说阿里收购中天微之后的发展方式。我们认为阿里巴巴不会做破坏者,阿里巴巴这么多年做了这么多革命性的事情,实际上是为了给大家带来更多便利,包括做产业生态的升级。未来我们的合作伙伴,我们只会团结的更紧密,真正打造出用户需要的产品,所以大家还是共赢。■
微信号:shenzhenware
编辑:大树
快到「湾」里来
深圳湾正在招聘:
真知灼见的科技记者
四通八达的运营编辑
才华横溢的市场策划
技能爆表的活动运营
热情四射的社区达人
简历传送门:
Lynn@shenzhenware.com
● ● ●
深圳湾(公众号 ID:shenzhenware)连接全球硬件创新者,连接硬件生态链上下游,连接跨界产品的设计、技术、生产、渠道、商业、创新。深圳湾持续关注「AI+硬件」带来的场景和交互创新,以及与平台和应用相连的全产业链升级,欢迎相关团队与我们联系,微信私人客服:小炫(ID:warexx)。