其他
Wintel联盟忙着定义AI PC,但各做了一半
大模型与生成式AI已经炫技一年多,吊足了普通消费者的胃口,一千个用户心中有一千个AI PC。在不同厂商数次“发布”AI PC这款全新形态的个人计算平台之后,上一代PC行业的主导者,决定收敛对AI PC的定义——更多的是从自己的能力出发,而不是从用户体验的。微软与英特尔是传统的Wintel联盟的核心,这几天在中国台湾举办的一场AI PC峰会上,联合宣布了AI PC至少要满足如下特征:带有NPU(神经处理单元)、CPU与GPU,Copilot及其物理按键。但英特尔此前又有自己的定义,非常简洁,只要带有NPU即可。它们正在做的事,正好印证了未尽研究上周发布的《从工具到平台AI PC:AI普惠第一终端》核心观点之一:AI PC的两大杀手级应用,一个是基于大模型和智能体技术的AIOS,另一个是基于混合算力的推理引擎。只不过,微软更强调让Windows与Copilot融合起来,构建自然交互的AIOS;英特尔则侧重NPU+CPU+GPU的异构算力组合,让本地承担更多AI加速任务,打造云端混合的推理引擎。Wintel联盟是PC行业从垂直整合走向分工合作的产物。而AI PC则是大模型的小型化与个人化所催生的一次产品革命,仍处于早期,需要有人完成整合,将AIOS与混合推理引擎完整有序地塞进PC里。苹果有机会在自己的封闭系统中这么做,那么,苹果之外的更大的市场呢?Chat with Chips芯片厂商对AI PC的定义普遍较为简洁,在传统的CPU与GPU(包括集成显卡)之外,搭载了自家AI加速的芯片即可。三类芯片都具有一定AI处理能力,可根据不同算力需求,来调用最合适的AI工作负载。不同来源的本地算力的异构组合,加上云端算力支持,构成了AI PC混合推理引擎。目前,在本地消费级设备上,英特尔主要是Meteor Lake的Ultra芯片,AMD主要是Phoenix的Ryzen 70系列与Hawk Point的80系列,高通主要是骁龙8与X Elite。研究机构Canalys将2020年苹果的M1视为最早的AI芯片,但英伟达表示2018年起的GeForce RTX已经称得上专为AI打造。英伟达已经吃下了几乎所有的大模型训练市场,还计划将成功复制到推理市场。推理目前占它业务构成的40%,但主要在云上。用户手上的终端,芯片厂商都还有机会。但先要把用户与开发者生态吸引到自己周围。英伟达的GTC刚过去不久,英特尔与AMD就马不停蹄地在世界各地宣讲自己的AI PC蓝图。上周,AMD的CEO苏妈现身北京,表示将为用户提供从云到PC的无缝 AI 体验,还展示了一把阿里的Qwen 1.5(通义千问1.5版)跑在本地的样子。英特尔则在中国台北宣布新的开发者计划,还发布了适用它NPU芯片的开发套件,预装软件堆栈、编程工具、编译器和启动所需驱动程序。它们也都希望直面用户。今年年初,英伟达推出Chat with RTX(简称 ChatRTX)是一个信号,这款程序允许用户加载Llama2、Mistral与Gemma等当前主流高性能开源模型,帮助分析文档其他文件,但只能在英伟达指定性能的GPU上运行。未来,中国用户可以选择加载ChatGLM。英特尔、AMD与高通,也都在跟进推广本地部署大模型,它们给出的解决方案,基本只适用于自家的芯片。
40TOPS,AI算力
70亿,模型参数
16G, 内存
20 tokens/s,推理速度
4k tokens,上下文长度
报告下载:1)在后台发送 AIPC2)或扫码下图二维码