“一次编写，运行各端”，高通重磅发布 AI 软件栈！

CSDN 2022-07-14

整理 | 苏宓

出品 | CSDN（ID：CSDNnews）

“一次编程，到处运行”的这个梦想，我们从编程语言 Java 讲到了跨平台工具 Flutter ，又探究到了操作系统 HarmonyOS 和 Fuchsia，如今放眼逐渐走上规模化的 AI 领域，又是否有一套这样的方案，能够将所有智能网联边缘设备串起来？

6 月 22 日，高通宣布推出一套全新 AI 软件栈（Qualcomm AI Stack），旨在帮助开发者和企业实现“一次开发，各端运行”的愿景。该软件栈是面向 OEM 厂商和开发者的一套完整的 AI 解决方案，这也是高通首次通过单一的 AI 软件组合，实现跨高通技术广泛产品组合和层级间的自由迁移。

覆盖硬件、软件和工具三大维度，高通 AI 软件栈发布！

如今数字化经济时代的到来，开发者所使用的底层工具在潜移默化间发生了巨大的改变，传统的一些跨平台工具不足以支撑整个领域的迭代。

之所以开发这套软件栈，高通技术公司产品管理副总裁 Ziad Asghar 在接受 CSDN 采访时表示，原因很简单。“从外部来看，很多合作伙伴的产品不仅会在云端运行，也会在边缘侧运行。对于一些投入了大量工作来进行开发的模型，我们希望能确保将这些模型的作用发挥到极致，让其适用于不同类型的产品，而这显然可以带来巨大优势。对于高通内部而言，推出高通 AI 软件栈的出发点其实很简单，那就是让我们的开发工作变得更加轻松、简单。”

具体来看，围绕 AI 技术，当市场不断地从移动领域向其他领域拓展时，诸多企业也正面临着诸多的挑战。譬如，过去火爆的智能手机应用开发相比当下物联网、汽车业务领域存在诸多差异，在不同场景下，功耗需求分析、模型类型、模型部署方式不同，不同业务对于准确性、功耗以及时延等方面的平衡要求也各不相同。此外，不同业务领域所使用的 AI 模型和神经网络模型也不同。

在软硬一体的趋势下，今天，高通用 AI 软件栈这款方案交上了一份答卷。根据官方介绍，高通 AI 软件栈主要包括三大关键组成部分：硬件、软件和工具。

在硬件上，我们很惊喜地看见，这套方案几乎能够在所有高通技术支持的终端产品上运行，覆盖了广泛的智能网联边缘产品，包括智能手机、汽车、XR、计算、物联网和云平台，以此实现在某一业务线的投入能够轻松扩展到其他不同领域中。

从下图中可以清晰地看出，由底层向前端开发的过程中，高通 AI 软件栈还支持不同产品使用的不同操作系统，包括 Android、Windows、Linux 以及面向网联汽车的 QNX 等。在系统软件层面，该方案能够完整支持系统接口、加速器驱动、仿真支持等。

在更上一层的开发者库与服务层面，高通 AI 软件栈还支持数学库、编译器和虚拟平台，以及分析器和调试器，它可以帮助开发者知晓开发过程中使用了哪部分神经网络处理，这部分神经网络处理使用的是哪种模型，以及在硬件端应该采用怎样的权重进行分析。

此外，该方案还能够支持编程语言和核心库。前面提到的编译器，它可以针对特定内容进行定制化处理，用 Python 只要几行代码就可以完成更多工作，为开发者提供很多便利。

除了以上，这套 AI 软件栈方案还集成了高通在 AI 领域十余年来的研发成果，如支持高通 AI 模型增效工具包（AIMET），它提供模型量化和模型压缩技术，能够进行量化感知训练（Quantization Aware Training）和无数据训练，将浮点运算模型转化为整数运算模型，比如将 32 位浮点模型转换为 8 位整数模型，使模型能效提升达 4 倍之多；其也提供了开源的 AI 模型增效工具包模型库，方便业界开发者可以自行评估模型的能效和准确性，找到最适合的方案；同时，高通 AI 软件栈还提供神经网络架构搜索（NAS）能力，保障低时延和高精度AI计算，同时确保低内存和高能效。

在基础设施上，我们常用的 Prometheus、Kubernetes 和 Docker 均在支持的范围内。

在使用上，OEM 厂商和开发者将获得高通 AI 软件栈访问权限，通过单个 AI 软件包即可实现更高性能，解锁智能手机、物联网、汽车、XR、云和移动 PC 等智能网联边缘产品的 AI 能力。基于此，无论是企业，还是个人开发者，都可以将自身的工作重点放在探索创新的 AI 用例上，而无须关注模型的重复开发。

如何实现一次开发，各端运行？

与此同时，高通也提供了诸多统一的 SDK，如面向汽车 ADAS 解决方案的 Snapdragon Ride SDK、面向物联网的高通智能多媒体 SDK，以及 Snapdragon Spaces XR 开发者平台。

真正想要实现一次开发的愿景，高通将所有的相关技术整合在一起，由此提供的统一模型可以在无论是音频设备、可穿戴设备还是云端，都能够实现跨平台和跨产品线的自由迁移。

现在，开发者只需要开发一次，开发成果就可以在其他产品线上加以使用。此外，基于高通 AI 软件栈，诸多企业也能够实现在不同产品、不同平台之间的扩展，比如正如上文所述的把最初在移动端的相关开发经验运用到汽车等其他平台的软件开发中，也能将如今汽车、XR 等平台的复杂模型开发经验带回移动端。

对此，高通技术公司产品管理副总裁 Ziad Asghar 表示：“完整的高通 AI 软件栈产品组合无疑是一项巨大突破，它将推动 OEM 厂商和开发者的 AI 开发，为高通技术公司的广泛产品组合带来高性能表现。我们很高兴借助这一全新产品组合进一步扩展公司的统一技术路线图，并扩大在智能网联边缘的领先优势。”