查看原文
其他

Google 对战微软阿里,AIoT 进入“战国时代”!

马智 CSDN 2019-03-31


作者 | 马智

责编 | 沭七

出品 | CSDN(ID:CSDNnews)

几天前,TensorFlow 开发者峰会在加利福尼亚州桑尼维尔的 Google 活动中心如期举行。Google 针对开发社区发布了 2 款开源机器学习框架和 3 款硬件开发设备,以扩大其 AI 产品和服务范围。

在软件方面,新发布的 4 款开源机器学习框架是:

  • TensorFlow(2.0 Alpha)

  • TensorFlow Lite(1.0)

TensorFlow 是全球最受欢迎的开源机器学习框架,最初由谷歌大脑团队开发,用于机器学习和深度神经网络方面的研究,但这个系统的通用性使其也可广泛用于其他计算领域。2015 年 11 月 9 日在 Apache 2.0 开源许可证下发布。

TensorFlow 可以理解为跑在云端服务器上的机器学习软件。TensorFlow 2.0 Alpha 提升了 TensorFlow 的易用性、灵活性和可扩展性,旨在为开发者提供“开箱即用”的使用体验。



如今 AIoT(AI+IoT)火遍大江南北,国内各大公司竞相采用为各自的战略口号。过去跑在云端服务器的机器学习能力逐渐下沉到边缘设备上(如手机、汽车等移动设备),这种现象逐渐成为 AIoT 的一种流行趋势,Google 也不能免俗。要想将 AI 从云端打通到终端,实现端云协同,在设计算法模型时,需要考虑这些设备有没有足够的算力,也就是说设备能提供多少计算资源、存储资源和电池容量等。TensorFlow Lite 则专为移动和物联网设备而设计,是 TensorFlow 的轻量级版本,它是开发人员在移动和物联网设备上部署 AI 模型的框架。

TensorFlow Lite 将 TensorFlow 训练的 AI 模型转换为在移动设备上执行的 Lite 模型。TensorFlow Lite(1.0)的改进包括使用各种技术以减小 AI 模型的大小,在不同硬件中提高模型推理速度。

TensorFlow Lite 可以运行在 Raspberry Pi 和 Coral Dev Board 等设备上,并支持 Android 和 iOS 操作系统。

目前 TensorFlow Lite 部署在超过 20 亿台设备上,许多原生 Google 应用和服务都使用 TensorFlow Lite,包括谷歌助手 Google Assistant、GBoard、Google Photos、AutoML 和 Nest。

对于一款优秀的人工智能产品而言,不仅在实时运行时能够保持极短的延迟时间,还能够在离线情况下高速地进行模型推理并响应用户操作。应用于 10 亿设备的谷歌助手 Google Assistant 在响应用户离线查询时,所有的 CPU 模型计算都由 TensorFlow Lite 执行。另外,累计拥有 8 亿用户的网易有道词典,其图片离线翻译功能也采用了 TensorFlow Lite,使 OCR 识别速度提升了 30%-40%。

在硬件方面,Google 新发布的 3 款硬件开发设备是:

  • Coral Dev Board 开发板

  • Coral USB AI 推理加速器

  • 500 万像素相机配件

这 3 款设备是以 Google Coral 品牌推出的,Coral Dev Board 开发板售价 149.99 美元,Coral USB AI 推理加速器售价 74.99 美元,500 万像素相机配件售价 24.99 美元。

开发板和加速器均采用谷歌自家的 Edge TPU 芯片,Edge TPU 仅有指甲盖大小,专为运行 AI 模型而设计。500 万像素的相机配件是开发板的附加组件。

Edge TPU 于 2018 年 7 月发布,它是 Google 专用的 ASIC 芯片,旨在物联网设备和边缘设备上运行 TensorFlow Lite 模型,即使设备没有互联网连接且电池容量有限。

当然,开发板和加速器适用于 AI 推理,即在边缘设备上执行机器学习的算法模型,而机器学习算法模型的训练仍然需要 GPU 和云端服务器去完成。


国际巨头的 AIoT 布局


Google 在物联网领域的起步相对较晚,当亚马逊、微软、IBM 等公司的物联网进展地风风火火时,“物联网”一开始只存在于 Google 云平台(Google Cloud Platform)的解决方案列表中,基于自身原有的云平台组件,Google 仅从技术角度拼凑出一套简易的物联网解决方案,并没有提出独立的物联网品牌。

直到 2017 年,Google 才推出了 Google IoT Core 服务作为物联网云平台。2018 年 Next 大会上,Google 发布了抢攻物联网边缘计算的武器 Cloud IoT Edge 产品,其包括 Edge IoT Core 和 Edge ML 两个 Runtime 组件。在硬件方面,Google 也同时推出了边缘计算专用 AI 芯片 Edge TPU。

反观亚马逊,早在 2015 下半年就率先发布亚马逊 AWS IoT 平台。2016 年底亚马逊又推出 Greengrass 以提升边缘运算能力,Greengrass 由 Greengrass Core、Greengrass SDK 与 IoT Device SDK 组成,便于物联网设备在本地执行运算、传输、数据同步等操作。亚马逊紧接着于 2017 年底推出 Amazon FreeRTOS 操作系统,适用于小型低功耗的边缘设备进行编程、部署、连接与管理。最新一代的亚马逊 Greengrass 也加入了机器学习推理功能,在云端训练的模型可在边缘设备进行执行。

微软在 2015 年 10 月的 Azure Con 技术大会上正式发布了 Azure 物联网套件——Azure IoT Suite,其功能组件包括 IoT Hub,Event Hub(事件中心),Stream Analytics(数据流分析),Azure ML(机器学习),Azure Functions,Document DB 和 Power BI,另外微软还推出了 Windows 10 IoT Core 操作系统、Azure IoT Edge 边缘计算托管服务和 Azure Sphere 物联网安全解决方案。

阿里巴巴于 2018 年 3 月底举行的深圳云栖大会间,宣布物联网成为电商、物流、金融与云计算后的第五赛道,同时设定未来 5 年将连接 100 亿台设备的目标。阿里云紧接亚马逊的脚步,于 2016 年发布协助物联网开发者进行客制化物联网解决方案的物联网套件,主要功能包括设备接入阿里云、设备管理、设备安全、储存数据与规则引擎导入。2017 下半年阿里云再次推出 Link 物联网云平台和 AliOS Things 物联网操作系统。Link 物联网平台最主要目标是将物联网平台、物联网市场与物联网标准紧密结合,让物联网基础建设更全面,并朝向垂直应用领域发展。


AIoT 在端云协同方面的趋势逐渐显现


纵观国内外巨头在物联网领域的实践,可以看出,AIoT 的落地需要经历两个阶段。第一个阶段发生在云端,通过收集大量数据进行训练模型和推理,以智能音响为例,其远场语音识别和语义理解均在云端进行。随着 AI 算力在边缘设备上逐渐增强,AI 应用开始从云端向边缘下沉,因此第二个阶段发生在终端,AI 应用会逐渐从云端走向终端,形成云端进行模型训练、终端进行模型推理的模式,最典型的案例就是手机的 AI 拍照。

Google 此次发布的开发板和加速器都支持其轻量级版本 AI 框架 TensorFlow Lite。Google 同时推出互相搭配的 AI 软件开发框架和 AI 硬件开发工具,这些产品使 Google 成为唯一一家拥有集成软件和定制硬件堆栈的云服务提供商。

从服务器、边缘设备、终端设备再到芯片,通过 TensorFlow 标准化的交换格式和开放 API,实现平台和组件间的兼容性和一致性,以支持更多的运行平台和开发语言,显然,Google 是采用了软硬一体化的策略,继续发力边缘计算,将其强大的计算能力从云端贯通到终端,期望在 AIoT 的道路上走得更远。

【End】


 热 文 推 荐 

☞ “5G 将是一个彻底的失败通信技术” 

☞13 岁少女因几行 JS 代码被逮了!

☞ 埃航黑匣子已找到;移动 3G 开始退网;首条智能高铁今年开通 | 极客头条

☞ Java 跌落神坛!Python 正式登顶世界第一编程语言

☞ diss一时爽, 打脸啪啪响! "05年互联网不如传真机", 如今区块链也是一种肮脏的...

☞ 7行Python代码,搭建一个可以识花的机器学习APP | 视频教程

☞ 权威预测:未来一年,企业云服务将会如何发展?

☞ 没有一个人,能躲过程序员的诱惑!

☞ 12 岁学编程,18 岁拿下斯坦福和剑桥双 Offer,这个 00 后学霸做对了这件事!

System.out.println("点个好看吧!");
console.log("点个好看吧!");
print("点个好看吧!");
printf("点个好看吧!\n");
cout << "点个好看吧!" << endl;
Console.WriteLine("点个好看吧!");
Response.Write("点个好看吧!");
alert("点个好看吧!")
echo "点个好看吧!"

点击阅读原文,输入关键词,即可搜索您想要的 CSDN 文章。

喜欢就点击“好看”吧!

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存