一家边缘AI芯片初创公司，提出同时支持训练和推理的通用可编程处理器

不同于云端AI芯片是英特尔、英伟达、AMD独霸的寡占生态，边缘AI芯片因为承袭了物联网具碎片化、应用广、多样化的特质，无法由特定的科技巨头通吃边缘AI商机。因此，在边缘AI芯片领域，巨头长期寡占的局面将注定被打破，众多新创公司商机浮现。

在AI芯片的协助下，边缘与终端装置上的运算能力，可以藉由机器学习或深度学习等技术，加速边缘芯片AI化。同时，因为强化低延迟、低功耗、低成本、高传输等特性，边缘AI芯片在未来世界的价值与角色大幅提升。

与传统的边缘运算相比较，边缘AI在数据处理、过滤与边缘智慧分析等层面上，显著强化。

根据调研机构统计，2022年边缘AI芯片市场规模不到400亿美元，预计2025年将达到500亿美元。再者，TrendForce也预估，全球AI芯片产值至2025年可望达到720亿美元。

微软也看好到2026年，全球AI芯片有3/4会是边缘运算。边缘运算＋AI芯片的结合，已经是全球科技巨头与新创公司趋之若鹜投入的产业重大趋势。

一家成立于2017年的美国边缘AI处理器芯片公司Ambient Scientific，日前开发出一款业界功耗最低的AI 通用可编程处理器 GPX-10，旨在为电池供电和其他快速增长的低功耗设备启用 AI，具有独特“永远在线”的AmbiLogic 技术。再者，GPX-10 也是一款可以同时支持推理和训练功能的可编程 AI 处理器。

Ambient Scientific 成立的宗旨在于开发用在边缘设备上推理和训练的软件定义 AI 处理器。Ambient Scientific是首席执行官 Gajendra Prasad Singh 创立，他的早期职业生涯是在 Sun Microsystems 的 SPARC 开发团队; 在创立 Ambient 之前是 Wave Computing 的工程副总裁。

根据Ambient网站上的介绍，2017年成立后，该公司的技术团队从零开始构建了自己的处理器 DigAn AI 架构，该架构可以从 5 核扩展到 8,000 核，从 40nm 技术扩展到 7nm、 5nm甚至是更小制程的技术，而这些处理器的每个内核都是软件定义和可编程的。

Ambient 的“永远在线”功能消耗不到 100 微瓦的功率。对大多数的语音应用来说，在 100MHz 下，完全运行时的功率不到 300 微瓦。

在物联网时代下，边缘运算已经被谈论多年，但对于不同应用领域和托管的工作目标，边缘运算的目的和定义也不尽相同。边缘运算的应用可以从设备/数据产生地的距离来区分为三种：

厚边缘（Thick Edge）：处理高数据流量的计算资源，通常适配高端 CPU、GPU、FGPA 来执行计算密集型任务/工作负载，例如数据中心的数据储存与分析。厚边缘计算节点由于其强大的计算和存储能力，经常可以独立运行大型算法。

薄边缘（Thin Edge）：通常数据不会在传感器数据收集站点上即时处理，而是发送到集中系统上处理并分析，这包括网络设备、工业电脑等，除了配有中间处理器外，也常需要GPU、ASIC等AI芯片。

微边缘（Micro Edge）：非常贴近数据源，数据生成设备本身就是微边缘AI计算机。有时薄边缘与微边缘并没有明显区分。由于缺乏可在微边缘运行AI所需的高效且可负担的足够算力的芯片，长期以来微边缘AI一直无法实现。

Ambient 的边缘AI芯片解决了这个问题，它使在位处微边缘的传感器近端进行AI计算成为可能。GPX-10 非常适合各类AI应用，例如：视觉类应用（如手势识别、图像识别、计算机视觉）；语音类应用（如自定义唤醒词、语音识别、身份验证）；以及需要多种传感器的智能应用，如各领域设备（包括医疗保健、汽车、游戏、白色家电、物联网和工业产品等），尤其是那些对功率敏感的连接和独立未连接的设备和电器。

通过在边缘启用AI，Ambient 的技术可以大幅减少跨网络的数据流量，以及减少对云数据中心的需求。

Ambient 的GPX-10 处理器配有十个名为MX8的神经网络处理内核和 Arm Cortex-M4F主机控制器，提供 400KB 的板载 SRAM 和数个外接口（包括一个外部闪存接口）。凭借其独特的传感模数转换器和传感融合架构，该SoC可供连接八个模拟传感器、两个独立的数字麦克风、一个独立的视觉传感器（即摄像头）及大量其他的I2C数字传感器。

Ambient Scientific已经释出测试版本（beta-release）的GPX-10处理器软件堆栈，内含其独特的AI编译器。

Ambient Scientific提供两款软件编译器：一款是专用于特定应用的垂直编译器，适用于快速部署AI应用; 另一款是通用编译器，其可更加灵活地执行各种AI算法和应用。

开发者可以在履行完必要的程序后下载Ambient的软件开发套件（SDK），该SDK包括一个基于TensorFlow的训练工具链以用于生成AI模型，以及一个利用GPX-10来执行AI应用的完整的的开发环境。垂直编译器或是通用编译器的建构都是为了在 GPX-10的AI核心中最佳化性能和功耗。

垂直编译器允许开发者利用预先确定的神经网络，来创造特殊应用像是声音、计算机视觉、传感融合等。

当垂直编译器用于语言辨识领域，可以支持基于语音的AI应用程序，例如创建唤醒词、指令短语菜单、语音 ID、意图探测和其他自然语言处理应用。SDK还可以使得终端用户去多次创造或是改变他们的唤醒词、短语或是语音ID。

再者，通用编译器可以让开发人员使用他们自己选择的 AI 框架，例如 TensorFlow、PyTorch、Caffe、CNTK、Python，C及C++，来创建神经网络模型，并将他们的模型部署在 GPX-10 AI 处理器上。

目前Ambient的客户有若干一线和二线OEM厂商。GPX-10 处理器已开始提供样品，并附SDK和硬件参考设计板。