查看原文
其他

如何在必应与智能云 Azure 中使用人工智能超级计算机——一次成功的大胆尝试

2017-01-09 Allison Linn 微软丹棱街5号




在我们输入关键词搜索信息,通过云访问电子邮箱,或在网络视频平台上观看流行的视频时,我们可能根本就不会去想技术在这背后所发挥的作用。

 

当然,这并不包括 Sitaram Lanka 和 Derek Chiou。作为工程师,他们的工作就是要不断提升使用体验,让你只要动一动指头,你想要的信息就唾手可得。

 

现在,他们有了一个新的超级神器来帮助他们实现目标。

 

微软的一组工程师和研究员,共同创建了一个使用可重复编程的计算机芯片,即现场可编程门阵列(FPGA,Field Programmable Gate Array)系统,来提高必应和 Azure 的表现。

 

看 Twitter 上的评论怎么说:

 


 
 “这是一个非常成功且大胆的尝试。” – Sitaram Lanka


“我想很多人都还没有认识到 FPGA 的能力到底有多大。” – Derek Chiou


通过使用 FPGA 芯片,Lanka 和 Chiou 的团队可以将算法不用通过软件就在硬件上直接部署。更重要的是,一个 FPGA 能在片刻间完成重新编程,以响应人工智能或数据中心意想不到的需要。

 

“这是一个成功的大胆的尝试。” Lanka 表示。Lanka 是必应排名平台的主管,也是这个被称为 Project Catapult 的参与者。


Sitaram Lanka 


摩尔定律的终结与 Project Catapult 的诞生


FPGA 并不是什么新鲜事物。但是,直到最近,才有人尝试将其大规模应用于云计算,他们就是来自微软研发的工程师 Doug Burger 与他的团队 James Larus 和 Andrew Putnam。

 

长期以来,根据摩尔定律,计算能力将会变得更快并越来越便宜,这也让无论是计算机厂商还是数据中心管理者,都相信他们能够以更低成本提供更好的产品和服务。

 

传统上,工程师可能要花上 24 个月甚至更长的时间等待新硬件的诞生。而 Burger 对于这种基于硅芯片的渐进改善方式并不感兴趣。他一直在寻找着一种能够实现根本性改变的方法,这就是 FPGA。

 

“这将是一个行业的转变。”他说。

 

目前,Project Catapult 已被应用在必应搜索引擎以更快更准确地处理搜索请求。此外,它还被应用于微软公有云 Azure 之中,以打造最快的云平台。这将意味着更少的服务器和更好的结果。

 

到 2016 年底,Project Catapult 上还将部署深层神经网络,帮助必应提升搜索表现。这一在云中的人工智能超级计算机,将提高微软数据中心的速度与效率,对于必应的用户而言也将会感受到与以往不同的体验。


新的搜索收获



Project Catapult 团队在 2016 年 10 月初发表的学术论文中提供了关于 FPGA 如何部署在微软数据中心,包括对公有云的支持,提升处理和网络速度的详细信息。

 

为了让数据传输更快,他们将 FPGA 插在网络和服务器之间,管理信息在网络和服务器之间的往复传输,与其他的 FPGA 或服务器直接沟通,或提高本地服务器的计算速度。

 

前必应 FPGA 团队主管、现任微软 Azure 云硅团队主管的 Chiou 表示,FPGA 以前通常在后端,处理所分派的任务。如今,FPGA 第一次走到前台,直接对进入到服务器的每一条信息进行处理,甚至不需要处理器的参与。



Derek Chiou


Azure 团队将 FPGA 作为提高云计算效率和提供更好服务的首选途径。

 

“微软是在云计算领域实现这一创新的唯一公司。” Azure 首席技术官 Mark Russinovich 说,“正是由于必应和研发团队所奠定的基础,我们才更有信心加入到微软 FPGA 的行列。”

 

“我们要在每台服务器中都部署 FPGA。”他说。

 

一切的努力和尝试都是值得的。微软 Azure 实现了速度与效率的双提升,推动了云计算的跨越式发展。


现实世界中的应用


从一开始,FPGA 团队希望研制的就不是单纯停留在实验室中的概念,而是应用于现实世界中的产品。

 

Burger 对于有 Lanka 这样的合作伙伴感到很幸运。他不但拥有远见,而且还愿意脚踏实地为理想一搏。


Doug Burger


Lanka 说六年前还没有人能预见深度学习会在关键词搜索中扮演多重要的角色。随着人工智能的日益发展,他们开始研究 FPGA,因为 FPGA 拥有高效的并行计算能力,可以满足多线程计算。

 

通过在云计算中利用人工智能超级计算机可以更快地进行深度学习。这样的能力将具有广泛的应用前景。它可以极大地提升自动翻译能力,加速实现医学突破,创造可以预知我们需求并解决我们日常工作中问题的自动化生产力工具。

 

Burger 表示,使用 FPGA 的另一重要优点是可以快速地适应任何未来技术突破。这是因为 FPGA 可以被轻松地重新编程,而不是依靠软件或等待数年之后的新硬件。

 

“即使是现在,我认为很多人还没有认识到 FPGA 的能力到底有多大。” Chiou 表示。


了解更多:




后台入驻微软小冰

如果你很萌,请跟她一决高下!


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存