AI芯片,撑得过明年吗?
The following article is from 技术大院 Author 技术大院
“是说芯语”已陪伴您1184天
【导读】前几年的“人工智能热”让大小厂商陆续跳入AI芯片的研发大军中,当潮水褪去,AI芯片的风口已然不再,当初的大多数初创公司们都黯然退出历史舞台,如今谁在潮头卖芯片?
繁荣背后的一地鸡毛
AI芯片的火爆,与其说是AI技术发展的果实,不如说是资本的产物。
资本如酒,能壮创业胆。
忽如一夜春风来,千树万树梨花开。随着AI产业的迅速发展,越来越多的企业都投身到了AI淘金这股浪潮中,而其中最为耀眼的便是AI芯片。
为什么好像一夜之间大家都在造AI芯片?
虽然从AI芯片相对偏长的投资回报周期来看,芯片与资本的逐利本性来看是相冲突的,但是它可以包装成为一个好故事。
早前就有业内人士提出质疑:人工智能芯片概念比较怪,定义也非常宽泛。AI市场的第一颗芯片是包括现成的CPU,GPU,FPGA和DSP的各种组合。在国外巨头眼中的AI芯片更多是基于传统的通用芯片架构中去升级或者拼装组合。
OneSpin Solutions总裁兼首席执行官Raik Brinkmann也在质疑并提出了以下问题:在AI芯片中,你有三个问题需要解决:
首先,需要处理大量的数据
其次,构建用于并行处理的互连
第三,功率,这是移动数据量的直接结果
所以亟须从冯诺依曼架构转变到数据流架构。然而,AI芯片究竟是什么样子,以及该如何定义还没有统一的标准。在国内市场来看,更多是一个缺乏严格定义的伪概念。
这种令外界心跳业内窃喜的概念,更多是为了商机而制造出来的“新技术”。
而正是因为缺乏定义与标准,所以它有了将概念包装讲故事的空间。
当然对于很多人来说,有一个好的故事来圈钱已经足够。
随着各行各业的企业都开始进入IC行业,人才需求量猛增。但是人才培养的速度完全跟不上需求的增长。因此,新进入的企业高薪挖人,高薪抢人已经成为常态,应届生的薪资水涨船高。能够拿出高薪的企业有两种:
其一,拿到大笔融资的初创企业
其二,入局IC的互联网巨头
对于初创公司来说,要对得起投资人的大笔投资,技术团队必须建立起来。往往投资人的压力也比较大,一般需要在一定时间之内,建立多少人的队伍。时间一到,是需要向投资人汇报的。因此,技术团队建设,往往比较急。而恰恰这类企业,由于知名度不够,招人还不太容易招到。正所谓,重赏之下必有勇夫,那就用更高的薪水来吸引人才。如果50%不够,那就双倍。反正投资人的钱是必须要花的。
其实,也不是所有的初创企业都有实力不计代价的砸钱。如果没钱怎么办?可以许诺股份。由于没有上市,估值就有很大的随意性。因此,招人的时候,可以许诺价值数百万的股份,一样可以吸引很多人加入。当然,到变现的时候,就要看造化了。
另外一种企业,就是大名鼎鼎的互联网巨头。财富,声望都完全吊打创业公司。无论是老BAT(百度,阿里,腾讯)还是新三巨头(字节,阿里,腾讯),都已经入局。这类企业,资金雄厚,认准一个行业,重金投入,然后将整个行业洗牌。
共享单车、滴滴快滴大战、外卖,这些企业以及代理,凭借雄厚实力,砸入重金,疯狂补贴。一般企业哪里见过这样的世面?要么被收购,要么就得倒闭。
如今,这些企业进入到芯片行业。传统芯片行业,凭借搞芯片赚取的微薄利润,如何和这些互联网企业竞争?这些企业的海量资金,不是来自于芯片,而是流量。他们可以拿出传统芯片企业难以拿出的薪水,再加上初创公司难以企及的名气,成为了吸引人才无往不利的大招。
芯片行业并不是暴利行业。要不是中美科技战,芯片行业可能根本不会吸引众多人才的注意。
传统芯片公司,像海思这样背后有着实力雄厚靠山的企业少之又少。长期以来,更多的企业一直在欧美等芯片巨头的阴影之下发展。芯片火热的大背景下,这些企业,原本以为自己有了机会,有了出头之日。但可悲的是他们还没来得及高兴,互联网公司来了。
这就出现了非常吊诡的现象:芯片行业受到了前所未有的重视,很多芯片公司也打开了市场,结果赫然发现,自己的团队,或被挖空,或集体出走。以往,芯片公司往往会死于没有市场,如今,他们的死亡的可能又多了两样:
死于没有产能
死于没有员工
互联网企业,赚的是快钱,芯片,却是需要长期的投入,却往往看不到什么利润。互联网企业现在可以重金砸向芯片,如果不见什么利润的话,会不会始乱终弃,最后搞得一地鸡毛?那就真的是历史的罪人了。
被低估的软件复杂度
AI 芯片的快速发展,其中一个回避不了的问题就是软件复杂度的指数级提升。很多公司花了两年甚至更短的时间做出一款芯片,却发现需要更长的时间支持繁多的框架、紧跟算法的进步,适配从终端到数据中心的各类平台。当错过了部署和量产的窗口期,即便做出了芯片也会很快落伍。
与设计通用架构不同,设计 AI 芯片这样的专用架构需要同时考虑到软件设计和优化。芯片公司往往乐观估计了软件适配和优化的成本,指望通过中间件和编译器来解决所有问题。事实上,从 Intel 到 Google 再到 Nvidia,大量的软件工程师正被投入到适配各种平台,手动优化网络性能当中。而对于初创公司,芯片早已 tapeout 却一再延期交付的问题比比皆是。
从本质来看,当我们开始不断挖掘芯片架构的潜力时,软件层的抽象也会变的越来越困难,因为其不得不在上层抽象中引入底层的架构的模型或参数。现在的通常做法是做底层芯片架构与上层软件之间的中间件,然而开发这些中间件的代价也往往被低估。
AI是一个全新领域,AI芯片需要支撑的不仅是AI计算,更要面向场景,实现完整的功能。芯片公司多年的积累不是主要矛盾,其主要矛盾是如何将软硬件结合起来,开发出一个高效能、低功耗、低成本,同时能够又快又准的完成自主机器人的任务。
AI芯片的成功不止于将ISP调的好,能够看清楚;也不是将传统的语音算法做的更精进,更不是说一个传统的车规芯片公司把CPU和DSP升级成一个NPU,AI芯片没有那么简单。
碎片化严重
只需要编写一套代码即可运行在不同平台,是软件工程师们的长久诉求。不同架构的 AI 芯片带来的碎片化会极大的打击他们在实际软件产品中应用 AI 的积极性。
与以往的经验不同,深度学习糟糕的解释性会带来许多意想不到的缺陷。
比如这样一个常见的困扰:一个私有的模型可以在本地 CPU 上得到满意的结果,然而却在部署到某款设备后性能大幅下降。如何调试这些问题,谁来负责调试,通过怎样的工具来调试,甚至调试的工程师能否拿到私有的模型?这些问题都难以回答。
碎片化还表现在,专有架构为了挖掘绝对性能往往会放弃向前兼容性。如上文提到的中间件,它的一端是碎片化的 AI 软件框架,另一端则是一代又一代的芯片架构。如何同时维护多个部分不兼容的指令集架构,并保证每一次软件更新都能完整的覆盖所有的设备?
除了投入更多的人力,别无他法。一个常见的论调是像当下的消费级芯片一样只保持一个短期的(2-3年的)软件支持,然而当下 AI 芯片的常见应用领域,如智能摄像头、工业智能、以及自动驾驶,一款芯片的生命周期可能长达十年。
很难想象一家公司需要多大的量级才能提供持久的技术支持,如果预估一家初创公司活不过两三年,如何才能放心的部署其产品到一款面向消费者的量产车上?
同质化严重,深陷价格战
对Foundry体系不了解:缺乏工艺选型的经验,对流程不熟悉、交期变化、产能波动等都将大大增加初创公司与晶圆代工厂的沟通成本,降低效率
缺乏系统的供应链管理能力:尤其在ramp up阶段,对产能、交期、质量过于乐观,影响TTM
缺乏备货机制:恐慌性下单或有了订单再下单导致产能跟不上市场需求
短短几年时间,AI芯片经历了概念炒作、泡沫破灭、修正预期和改进问题。多位AI芯片公司的CEO都表示,AI芯片一直在持续发展,落地的速度确实比他们预期的慢。
云端AI芯片:部署在大型服务器中,可支持图像、语音等不同类别的AI 应用
终端AI 芯片:部署在自动驾驶、安防、零售、智能硬件等音设备中
两者对比,云端芯片的门槛更高,无论是对半导体工艺、封装技术和配套软件都有很高要求,一旦成型,其他企业亦很难进入,可以形成竞争壁垒。同时,这个领域更为通用,前景更广,是让企业真正有希望成为“中国英伟达”的方向。
但云端芯片也需要更多的资金和生态支持,高门槛使得大多数创业公司几乎加入无望。尤其是在华为与阿里巴巴两大巨头下场,并先后推出云端芯片之后,如今,寒武纪几乎是唯一一家仍在坚持云端芯片方向的AI创业公司。(然而寒武纪当下的生存状态依然阴云笼罩,充满了太多不确定性,参见:寒冬里的寒武纪)
可这个方向同样困难重重。做云端服务器的条件是拥有生态资源。比如你需要有数据库资源,要训练自己的芯片,这对于大厂是天然的,可是创业公司没有,要花巨资去购买。
与寒武纪相对,大多国内的AI芯片企业则集中在进入门槛较低的终端AI芯片方面,如云天励飞、肇观电子等企业,均以研发智能视觉芯片为主,也有一些企业在集中研究智能语音芯片。
芯片研发比AI语言的更迭速度慢,当芯片面市时,其采用的AI语言可能已经过时了。这种问题首先体现在量产,但归根结底,缺乏杀手级应用场景才是最致命的。AI芯片厂商高投入研发过后,却不知道自己的产品要卖给哪些客户或者说应用到哪些产品上,无法找到可持续性的落地场景。
缺乏杀手级应用使得现有的AI 芯片大多没有清晰的定位,无法高度优化PPA。做半导体的都知道PPA有多么重要,尤其是Performance。AI芯片需要针对应用场景进行设计,以此来指导研发调整优化方向,引导客户进行正确选择,同时能够促进行业有序协同向前发展。
加速去AI化,决胜2023
AI芯片初创成立之初都以AI为核心,提供基于AI芯片的解决方案。然而,经过这几年的探索,跨过亏损和量产的两大障碍之后,AI芯片公司的AI标签不再那么突出,呈现去AI化趋势,AI芯片公司间的分水岭也即将出现。
在多个从业者看来,AI芯片并非一个独立的存在,“只是场景中的一部分”,如果想让产品真正落地,创业者们需要掌握的是“场景理解能力”。
旷视把目标定在了AIoT上,所有业务都要带上“物联网”。基于此,还打造了“算法+软件+硬件”的一体化产品体系,推出物联网时代的AIoT操作系统。目前,在招股书中,其主要业务分为物联网解决方案、城市物联网解决方案、供应链物联网解决方案
依图则在探索应用场景过程中发现了产业链上的“芯片”一环,于是打开了“算力提供商”的新世界,以人工智能芯片技术和算法技术为核心
商汤招股书中,其主营业务分类为智慧商业、智慧城市、智慧生活和智慧汽车。将自身定位成人工智能软件平台型公司,打出了“1(基础研究)+1(产业结合)+X(行业伙伴)”战略,AI+“所有”,没有给自己限定场景,什么行业都做
云从则是涉及智慧金融、智慧治理、智慧出行、智慧商业四个领域
作为CV领域的“小弟”,格灵深瞳的业务分类为城市管理产品及解决方案、智慧金融产品及解决方案、商业零售产品及解决方案
市场对AI企业们正在提出新的要求。与过去以技术单点为发力方向、抓住某一场景持续烧钱获取、处理、训练数据的方式不一样,如今业界更多地开始强调AI技术在向工业场景迁移过程中的落地能力。
在这一过程中,人工智能作为一种底层技术,当深入具体的产业及行业深处时,它们面临的便不再仅仅是技术层面的挑战,甚至之前它们所依赖的技术优势,正在逐步被削弱。
无论从技术门槛、落地场景和市场竞争来看,如今AI创业的窗口期已过,理解一个场景,深挖和精准研发,甚至整合这个场景的解决方案,企业还是有机会活下去。不过,如若能做到,这些企业也许已转型为某个场景方案解决商,而不再是“AI 芯片企业”。
写在最后
AI芯片市场进入一个洗牌的时刻。回到笔者在开头提到的问题:AI芯片在中国的这场狂欢如何收场?
当无数的巨头和初创公司设计出一块又一块大同小异的 AI 芯片,我们需要回答这样一个问题:真的需要这么多 AI 芯片吗?
从一个软件工程师的角度,我个人坚信定制化的 AI 处理器只会是一个过渡期产物。一个统一的、可编程的、高并发的架构才应该是我们追求的方向。回想过去的二十年,我们见证了专用架构的小型机市场的萎缩,图形处理器到通用向量处理器的发展,甚至连我们的手机和电脑的平台都将趋于统一。
任何事物一旦进入泡沫期,就不免让人担心什么时候会崩盘,而当下的 AI 芯片已经进入公认的泡沫期。据艾瑞咨询发布的《AI芯片行业研究报告》指出,目前AI芯片行业接近Gartner技术曲线泡沫顶端,只有通过市场检验和筛选的优质团队才能够继续获得产业、政策和资本的青睐与支持。
----------------------- END-----------------------
推荐阅读:
芯片在8年后还会像现在这样火吗?
流片失败故事
台积电多人离职:老婆受不了
是说芯语转载,欢迎关注分享