靖安司黑科技介绍之「牍术」全结构 AI 编排计算引擎

Original 靖安司靖安科技

收录于合集

引擎整体概述

靖安科技「牍术」是一个全结构 AI 编排计算引擎，集传感设备接入、数据统一集成、智能算法集成、模型动态编排、任意环境部署、异构计算池化、持续任务交付于一体的基础设施，为用户提供云边一体的感知、决策、行动的核心能力。「牍术」同时也是「旌旗」智能指挥操作系统的底层核心支撑引擎，在各类复杂危险的现场环境中，支撑「旌旗」稳定流畅地完成每一次行动任务。

行动指挥是一个极限技术挑战的业务场景，一方面是大规模的各类现场异构数据需要融合进行 AI 计算，另一方面是行动现场往往可能是网络受干扰、弱网、甚至是断网无网的极端环境下，这对牍术引擎提出了更高的性能与稳定性要求。

传感设备接入

牍术引擎能够并发接入近百万级几乎市面上所有类型的传感设备，无论是监控摄像头、雷达设备、无线电侦测装置、环境传感、气象感知等固定 AIoT 设施，还是智能眼镜、执法记录仪、智能头盔等移动式智能单兵作战装备，或者是无人机、四足机器人、无人船、无人潜艇、机械臂等智能自主装备等等。

同时，牍术兼容 GB/T 28181、GA/T 1400、RTSP、RTMP 等各类常见的公有协议或私有协议，极大简化了设备接入过程，用户只需简单配置，即可批量完成设备注册与接入。

受益于重写了许多底层传输协议与传输机制，使得牍术在通信受干扰的行动环境中，甚至一些极端弱网情况下（网络丢包80%的情况），依旧能稳定流畅传输各类现场数据，同时延迟保持在500毫秒以内。

数据统一集成

不仅仅是各类传感设备的数据，牍术也支持从各类已有的数据基础设施中批式或流式数据同步与数据集成，包括各类数据库、数据仓库、数据湖、消息队列等，无论是结构化数据或非结构化数据。

智能算法集成

不同与其他引擎，牍术采用了容器化 AI 算法、开放式模型管理的架构，无论是自有算法、第三方厂商算法、开源算法、本地算法……均可快速集成至牍术。可选用镜像集成、API 集成，也可以直接进行模型集成，并支持常见的开源框架，如 Pytorch、TensorFlow、PaddlePaddle，或 ONNX 模型文件。

牍术提供了完整的 AI/ML 基础设施，以及独立版本、测试、发布、部署等能力。用户可以选用任何供应商的算法，并横向比较不同厂商之间算发的性能差异，从而避免被一家供应商所绑定。

模型动态编排

牍术内置了丰富的算子仓库，包括编码、解码、合并、拆分、跟踪、检测、分类、结构化、多路输出等通用型操作。同时，也支持用户自定义算子。数据源、算子与模型之间可通过可视化拖拽的方式进行动态编排，不同节点之间可以串联或并联运行，并可以自由利用上下游节点产出的信息，用户可以无代码、分钟级快速编排形成 AI 场景应用的 PIPELINE。

任意环境部署

创建完 PIPELINE 在牍术里面即可形成一个 AI 应用，用户可根据实际需要在任意的边云环境进行部署。复杂的一次行动指挥过程，往往需要在不同的时间节点不同的环境即时部署计算任务。在中心侧，牍术原生支持各类公共云、私有云、混合云以及传统 IDC 架构，无需指定专有硬件。

大部分平台只能将数据集中到一个中心平台来计算，而面对越来越复杂的一些行动指挥场景，仅有中心计算越来越力不从心。许多重要行动都直接取决于时间，而将大规模的数据来回传回云端进行处理和分析，意味着还在传输的过程中，目标可能就已经改变了位置，或者机器就发生了操作故障。这使得我们要具备能直接在边缘设备上决策的能力。

牍术引擎支持将 AI 应用以及依赖的库和驱动等打包一起下发至边缘侧，无需依赖任何第三方，同时支持在断网环境下直接在边缘进行计算。包括无人机、四足机器人、机械臂、指挥车、边缘一体机、轮船、潜艇、卫星等各类设备。同时，不同设备的独立的 AI 实例不光能让传感器自主工作，还可以用 MESH 自组网进行跨设备的相互通信，实现传感器融合以及边缘设备之间的任务协作。

异构资源池化

无论是中心侧还是边缘侧，牍术都能够对底层异构得计算资源进行池化，适配 X86、ARM、NVIDIA、海思、寒武纪……等各类主流芯片。上层算法只需专注业务逻辑，无需关心底层芯片以及运行环境，同时牍术在引擎层面能根据输入的数据量以及计算资源的大小，对 AI 模型尽可能小的损失精度的情况下进行优化与裁剪，使模型能在在轨卫星、潜艇等极限计算环境、极限低功耗环境、极限低带宽等情况下，依旧能稳定运行。

持续任务交付

边缘侧部署的 AI 应用能根据限制情况选择不同的数据回传至中心侧牍术引擎。在网络较好的情况，可直接传输所有原始数据、元数据、推理结果数据等，在受限的情况下，可配置仅传输元数据与推理结果数据。回流数据可用于下一版本的模型重训练和持续集成、持续交付。

同时，AI 应用能够在实时数据流上进行热更新和热部署，无需停机或中断传感器数据流。如果应用崩溃，也不会影响到依赖该节点的其他下游应用。

牍术应用场景

牍术是一个基础设施，能够为复杂的上层应用提供端到端、全结构化数据的接入、编排、计算、部署等，为用户提供云边一体的感知、决策、行动的核心能力。结合「旌旗」智能指挥操作系统以及「望楼」智能哨兵感知平台，可应用在各类不同场景，包括但不局限于公共安全、峰会安保、应急管理（应急处置、消防、灾害救援、公共卫生防控）、基础设施（工业园区、机场、油田、电站、地铁等）、边防海防、森林防火等。

联系我们

靖安科技是一家先进防务技术提供商，致力于利用前沿科技解决城市安全和国家安全中最复杂和最具挑战性的难题。公司成立于二〇二一年，创始团队均来自阿里云、达摩院、百度、宇视等，过去曾多次主导过国家最高政治规格、最高安保等级的峰会核心指挥系统。

成立不到一年，靖安科技当前已有各领域数十个客户，并与多家行业领导者进行深度战略合作。同时，还入选了 2021 年杭州未来科技城人工智能板块政府重点扶持项目，入选 AI 中国 2021 年度 AI 趋势先锋。

生态合作、渠道合作、代理合作、研究合作、商务合作等市场相关事宜，请联系黄先生 18042452777。

全文完，关注公众号回复「牍术引擎资料」，可下载本文 PDF 版本。