其他

【学习】教AI“自己构建AI”,谷歌AI编写机器学习程序效率超人类工程师

2017-10-18 新智元 天大神经工程

最近,thenextweb一篇题为“谷歌的AI写的机器学习代码比创造它的研究人员写的更好”的文章引起讨论,“让AI自己编程”这件事进展到什么程度,有哪些影响?今年5月,谷歌在 I/O大会公布AutoML项目:让神经网络自己设计神经网络,帮助机器“学习如何学习”的工具。现在,AutoML已经实现这一目的,并且它创造的机器学习系统比人类工程师做的更加强大和高效。


在有关计算机能力日益增加的讨论中,白领的工作被自动化已经成为一个热门话题,例如软件已经显示出替代会计师和律师工作的潜力。谷歌的人工智能研究人员正在试图自动化的高薪工作,更可能是穿连帽衫的程序员而非西装领带的白领——他们自己。


在一个名为 AutoML 的项目中,谷歌的研究员实现了教机器学习软件来构建机器学习软件。在某些情况下,它所产生的结果比研究人员自己设计的最好的系统更加强大和高效。研究人员表示,该系统最近在一个图像分类任务中实现了破纪录的82%的正确率。在另一个难度更大的在图像中标记多个对象位置的任务中,自动生成的系统达到43%的正确率,而人类构建的最优的系统正确率只有39%。


这样的结果意义重大,因为构建先进的AI系统所需的专业知识即使在谷歌也非常稀缺。谷歌CEO Sundar Pichai 最近在其硬件发布会上表示:“今天发布的产品是由机器学习科学家们打造的,可以说世界上只有几千名科学家能够做到。”“我们想让更多的、无数的开发者能够做到。”



AutoML仍然只是一个研究项目。有点讽刺的是,它所试图自动化的正是驱动它工作的AI技术。在谷歌之外,也有越来越多的研究人员在研究这项技术。如果AI制造AI(AI-made AI)变得切实可行,机器学习可能会更快地在技术行业之外传播,例如医疗和金融行业。


在谷歌,AutoML 能够加速 Pichai 的“AI First”战略,在这一战略下,谷歌正在使用机器学习使公司更高效地运作,以及创造新产品。谷歌大脑团队以及2014年被谷歌收购的DeepMind的研究人员已经帮助公司大幅减少了数据中心的电费,加快了谷歌地图绘制新城市地图的能力。AutoML可以让这些专家更有成效,或帮助不太熟练的工程师自己构建强大的AI系统。


谷歌在其研究网站上列有1300多人,但不是所有人都专注于AI研究。它还有成千上万的软件工程师。根据最新的年度财务报告,谷歌母公司Alphabet拥有27169名从事研发工作的员工。


谷歌拒绝公司内人士评论AutoML。公司外的研究人员表示,自动化AI专家的一部分工作已经成为一项新的研究热点,随着AI系统变得越来越复杂,这一想法也变得越来越必要。


大部分工作属于“元学习”(metalearning)或“学习如何学习”(learning to learn),包括谷歌的研究在内,这些工作旨在加速部署人工神经网络的过程。这项技术涉及为数学运算的网络提供数据,启发自大脑神经元的研究。


这听起来可能很复杂,但是让神经网络执行一些有用的技巧,例如处理音频,这是一种很好的方法。专家们必须利用直觉和试错来找到神经网络的正确架构。加州大学伯克利分校的研究人员 Roberto Calandra 说:“工程师的大部分工作基本上都是非常无聊的任务,不停地尝试各种配置,看看哪个更好。”他说,现在这样的工作挑战越来越大,因为研究人员正在构建更大的网络来解决更棘手的问题。


2013年,Calandra在他的博士研究中花了2个月时间试图让一个机器人学会走路,结果令人沮丧,然后他开始研究元学习(metalearning)。他尝试了一种可以自动微调软件的实验技术,该技术基于一种比神经网络稍不复杂的机器学习技术。然后,原先不听话的机器在一天之内就学会了走路。


从头开始生成一个神经网络设计比微调已有的神经网络要困难得多。但是,纽约大学教授 Mehryar Mohri 说,最近的研究结果表明,这正在变得越来越实用。


Mohri 正在研究一个名为 AdaNet 的系统,与谷歌纽约办公室的研究人员合作。当给定一组已经标记好的数据时,该系统会逐层地构建一个神经网络,并测试添加到设计中的每个参数,以确保它能提高性能。AdaNet 已经显示出能够生成神经网络的能力,生成的网络能够与标准的、人工构建的而且两倍之于它的规模的网络同样好地完成一项任务。Mohri 说,这项技术大有前景,因为许多公司都在试图将更强大的AI软件部署到资源有限的移动设备上。


虽然这使生成和部署复杂的AI系统变得更容易,但也可能带来一些缺陷。最近的一项研究表明,使系统对世界产生偏见太过容易,例如倾向于将女性与家务联系在一起。Mohri 认为,减少繁琐的人工调优可以更容易地发现和预防这些问题。他说:“这将解放研究人员的双手,让他们有更多时间处理其他方面的问题。”


如果谷歌能够让AutoML工作得足够好,成为程序员的一个实用工具,那么它的影响将会超出公司之外。Pichai暗示他希望在谷歌之外提供这一工具。他说:“我们想让这民主化。”他的这一说法与谷歌云计算部门推广AI服务的言辞相呼应。




您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存