把AI推到边缘设备——容器化认知服务

（本文阅读时间：5分钟）

微软作为公有云服务的平台提供商一直在倡导“智能云，智能边缘”的技术理念， 致力于为客户与伙伴构造便捷，高效的智能服务。近些年随着IOT与人工智能的发展，我们也看到由智能云和智能边缘推动的未来趋势在不断落地。由公有云的大规模计算支撑的物联网与AI服务，为客户提供高性能和高质量的计算与智能服务，而由本地低成本设备构建的智能边缘设备，帮助企业实现数据采集与本地分析的分布式互联架构，正在帮助企业在物联网与人工智能落地的方面实现突破性的成果。

微软的认知服务是微软Azure在人工智能的重要平台服务，它包括：视觉，语音，语言，决策与搜索五大分类26个API服务。Azure 认知服务允许开发人员轻松地将认知功能（如对象检测、视觉识别，语言理解和翻译等）添加到其应用程序中，而无需直接具备 AI 或数据科学技能或知识。目前已有超过120万的开发者在使微软公有云上认知服务开发自己的智能应用。同时，我们也收到很多开发者希望认知服务本地化边缘化的需求，2018年11月微软针对认知服务推出了容器化版本，以帮助更多的开发者在本地和边缘设备中实现人工智能应用的开发。通过容器支持，无论数据位于何处，用户和伙伴都可以使用 Azure 的智能认知服务功能。这意味着无需将内容发送到云即可执行面部识别、OCR 或文本分析，语音识别等操作。容器化的认知服务

目前已在Azure认知服务中支持容器化的服务主要包括：

容器化认知服务特点和优势容器化认知服务解决客户和伙伴在本地架构中使用认知服务的根本需求，具体的优势和特点如下：• 数据的安全管控：容器化认知服务可以部署在用户本地设备或者服务器中，服务调用时无须将其请求数据发送至云端。支持不能将数据发送到云，但需要访问认知服务技术的客户。同时，开发者可以根据业务需要灵活控制调用本地容器化认知服务或者公有云上的认知服务，实现混合架构。• 可控的模型更新：容器化认知服务支持开发者选择部署在本地容器中的认知服务模型版本，和根据业务需求实现客户化的模型更新• 可移植的部署架构：支持创建可在 Azure、本地和边缘部署的可移植应用程序体系结构。可直接将容器部署到Azure Kubernetes服务或部署到Azure Stack的Kubernetes 群集。• 高吞吐量/低延迟：通过使以物理方式运行的认知服务更深入了解其应用程序逻辑和数据，为客户提供缩放功能，以满足高吞吐量和低延迟扩展要求。容器不限制每秒综合事务数 (TPS)，如果提供了必要的硬件资源，它还可进行纵向或横向扩展，来应对需求。容器化认知服务的使用

目前，全球或中国区的Azure官网提供了完整的容器化认知服务的使用指南与开发示例，帮助开发者快速上手容器化认知服务的开发。容器化认知服务开发的基本步骤包括：

• 本地容器部署环境的准备：无论是在客户端设备或者服务器设备上，确认可以部署Docker的服务；

• 申请容器化服务镜像的下载权限（这个是针对预览版的服务，GA后的服务不需要申请直接可以从Azure门户下载）

• 启动本地容器化认知服务

• 开发或者修改原有应用程序，集成容器化认知服务的调用即可完成。

相关参考文档可见

安装与配置：https://docs.microsoft.com/en-us/azure/cognitive-services/cognitive-services-container-support#container-availability-in-azure-cognitive-services

参考示例：https://github.com/Azure-Samples/cognitive-services-containers-samples

部分中文参考示例：

https://github.com/Azure/OCPOpenHack/blob/master/Cognitive_Service_Face_on_Container/README.md

https://github.com/Azure/OCPOpenHack/blob/master/Cognitive_Service_Luis_on_Container/README.md 

以上是对微软容器化认知服务的简单介绍，希望对大家有所帮助，欢迎关注微软Azure官网了解具体的容器化认知服务的开发的后续更新。近期我们也有Azure OpenSource + Serverless的线下会议。对于所有渴望领驭趋势、创新成就的行业人士而言，本次会议将是一次不容错失的学习与交流机会。诚邀大家莅临参加。

立即报名

席位有限，先到先得，扫描二维码或者点击原文链接赶紧报名啦！
2019 Microsoft Ignite The Tour即将到来！微软将把这场汇聚世界前沿科技的开发者盛宴带到你的身边，本着“求知、求同、求索”的原则，为广大开发者、IT专业人士以及数据分析师提供为期两天的专属免费深度交流培训。

本次活动将在2019年12月10-11日落地北京国家会议中心，并陆续在2020年1月13-14日深圳会展中心，2020年3月18-19日上海世博中心举办，开启难忘的 Ignite 中国之旅。除了一如既往的专业技术交流指导 —— 350+专家现场零距离互动与100+深度技术研讨会及培训之外，更是首次实现了免费尊享，技术专家和开发者们将全程免费参与，符合要求的参会者，更可获赠超值技术认证大礼包。

Ignite the Tour·北京站 已开启报名即刻扫码注册，尊享超值礼遇！Ignite the Tour·深圳站、上海站 正在火热筹备中即刻扫码预约，资讯捷足先登！

推荐阅读

最新活动