查看原文
其他

【一张图看疯狂的NIPS 2017】十年数据盘点今年NIPS多项“历史之最”

2017-09-17 新智元

1新智元报道  

作者:文强,熊笑


【新智元导读】要说今年的NIPS有多火?Facebook的Alex LeBurn做了一张图,展示了从2012年到今年NIPS售票情况,今年的门票抢购速度惊人,距离开会还有两个月就已经抢购一空,创下历史之最。不止如此,今年的NIPS还创下了很多“第一”:第一次拒绝赞助(因为名额满了),第一次邀请媒体。相信在NIPS正式开幕后,还将爆出更多“之最”和“第一”。然而,狂热之下,看NIPS相关数据,中国大陆机构仍然有很长的路要走。



先上图,大家感受一下。



这张图展示了从 2002 年到今年 NIPS 的售票情况,来自 Facebook AI Research 的 Alex LeBurn 的推特。可以看到,今年的门票抢购速度惊人,那根代表 2017 年注册情况的蓝色曲线如火箭般飙升。Alex LeBurn 用了 “Deep learning hype in one picture”形容这张图。


NIPS 究竟何许会议也?


NIPS(Conference and Workshop on Neural Information Processing Systems)于1986 年在由加州理工学院和贝尔实验室组织的Snowbird 神经网络计算年度闭门论坛上首次提出。NIPS 最初被设计为研究探索生物和人工神经网络的互补性开放跨学科会议。作为这种多学科方法的体现,NIPS始于1987 年,当时由信息论学者Ed Posner 担任大会主席,学习理论学家Yaser Abu-Mostafa 和计算神经生物学家JamesBower 担任联合程序主席。


早期NIPS 会议中提出的研究报告涵盖主题范围很广,包括从解决纯工程问题到使用计算机模型作为了解生物神经系统的工具等等。之后,生物和人工系统的研究发生了分化,近年来的NIPS 大会一直以机器学习、人工智能和统计学论文为主。


从1987 年到2000 年,NIPS在美国丹佛举行。此后,会议在加拿大温哥华(2001-2010年),西班牙格拉纳达(2011)和美国太浩湖(2012-2013)举行。2014 年和2015年,会议在加拿大蒙特利尔举行;2016年在巴塞罗那举行。作为对会议在犹他州Snowbird 起源的纪念,该大会在2013 年前一直选择在滑雪胜地举行。直到2013 年,它的影响力完全超过了那些滑雪胜地。


2016 年的NIPS 有6000 多名注册参与者。除机器学习和神经科学外,NIPS 也涵盖认知科学、心理学、计算机视觉、统计语言学和信息论等领域。虽然NIPS首字母缩略词中的“神经”本来是历史的遗迹,但由于计算机和大数据的快速发展,自2012 年以来,神经网络深度学习再度兴起,体现在语音识别、图像中的对象识别、图像文字描述、机器翻译、围棋AI 等多个方面。这些研究是以视觉皮层(ConvNet)区域层次结构的神经架构为基础的。


NIPS 2017 现参会狂潮,换成其他会议组织者,估计做梦都要笑醒


今年的 NIPS太火热了。实际上,除了刚刚的 Alex,还有很多学者都注意到了今年大会的狂热。


用杜克大学陈怡然教授在微博上的话说:“文章收录结果发出后 10 天,距离开会还有 81 天,NIPS 2017 注册已满。除报告者外不再接受新的注册!这要是换在别的领域估计组织者晚上做梦都要笑醒了吧?”



NIPS 是机器学习和计算神经科学的国际顶级会议,会议固定在每年的12月举行。今年是第 31 届,将于 12 月 4 日到 9 日在美国西岸加州南部的城市长滩市(Long Beach)举办。



推特上,有人评论说,今年 NIPS 门票抢购一空,是因为去年在巴塞罗那举办的NIPS 2016 票就早早卖光了。这一“前车之鉴”引发了今年的“疯抢”。而且地点因素也不能不考虑,毕竟长滩市就在硅谷“家门口”。


也有人抱怨说,估计今年的加州又要被希望从深度学习热潮中分一杯羹的投资人填满了。


有评论说,与其说这是深度学习的 hype,不如说是博弈论在作祟——每个人都怕别人在抢票,所以自己早早把票订了。


有人调侃说,“没有什么比和 6000个满脑子都是深度学习的人一起开会更糟的了!”“所以,NIPS 已经成了和 INFORMS、JSM 一样的泛领域会议了吗??”


“哪里能买 NIPS 2017 和 NIPS 2019 的票?!”


推特上更有人惊呼“奇点来临”。此前就有人在推特上“搞事情”,做了一张图,认为从 NIPS 的售票情况判断,机器学习奇点将于 2048 年到来。



但是,看今年 NIPS 的售票情况,这位仁兄预估的时间明显晚了。


创下多个“历史第一”:主论坛、赞助商、展示位全部提前售罄,首次接受媒体参会


登录 NIPS 官网,更是满眼的“SOLD OUT”。



赞助商席位暂时关闭。所有席位售空。所有展位售空。


只剩期刊展位似乎还有位置,但是,不,已经不能申请了。



2000 美元一个的学术期刊和专著展位业已售罄。



8 万美元的钻石赞助商、4 万美元的铂金赞助商、2 万美元的金牌赞助商、1 万美元的银牌赞助商、5 千美元的铜牌赞助商,所有级别的赞助商席位售罄。



官网首页的公告上,赫然写着“主论坛已售罄”,只有 Tutorial 和 Workshop 还有票。除非你是 tutorial、talk 或是 poster 上的讲者,那么还可以申请来主论坛,组委会还为你留了一些票......


值得一提,今年的 NIPS 还首次邀请媒体参会。不用担心研究成果推广的问题了。



“这还只是2015年的会议,2016年已经挤得没有空间拍照啦……”来源:Twitter


投稿和录用论文数量也在激增:2006-2017 录用数据


我们根据2006年到2017年的NIPS论文录取数量做了一个表,曲线与参会人数“交相辉映”:


被誉为神经计算和机器学习最最顶级的会议,NIPS一直保有相对较低的录取率。今年的NIPS一共录取了678篇论文,录取率约为20.9%。相比之下,


  • CVPR 2017审稿2620篇,接收783篇,录取率29%

  • ICML 2017审稿1676篇论文,接收434篇,录取率为 25.89%

  • ACL 2017审稿1318篇,接收302篇,录取率22.91%


但是,录取率或许并不能说明什么问题。


NIPS 2014 做了一个实验,将投稿的10%(共166篇论文)同时交给两个不同的评审委员会评审,每个委员会由大会组委会的一半成员构成。结果评审令人吃惊:两个评审委员会对其中42篇论文(约25%)的评审意见相左。由于两个委员会都把论文录用率控制在22.5%左右,委员会一录用的21篇论文会被组委会二拒稿,而组委会二录用的22篇论文被组委会一拒稿。


也就是说,被其中一个评审委员会录用的论文,其中大约57%会被另一个评审委员会拒稿。这样,从理论上讲,如果重新审稿,NIPS2014年录用的一半以上的文章将被拒稿!


上述实验表明,当录用率很低时,质量居中的论文录用的随机性将大大提高。比如在上述例子中,约7.5%肯定被录用,50%以上的文章肯定被拒稿,其余中间47%左右的论文是否被录用则有很强的随机性。


狂热之下,中国大陆机构还有很长的路要走


Deep Learning Indaba的研究人员使用NIPS 2006 - 2016年论文接收数据做了统计,他们的初衷是想了解那些“没有参与”NIPS的国家和地区(比如非洲)。但是,这同样也为我们展示了那些在NIPS上有强劲表现的国家。


下面这张图展示了从2006年到2016年,美国以外的国家和地区参与NIPS的规模以及整体趋势。纵轴是GDP(以美元为单位),横轴是接受的论文数量。



可以看出,英国、德国、加拿大、法国处于领先地位。中国(正红色圆圈)也表现不俗,紧随这些发达国家之后,有相对稳定地在增长。值得注意的是印度(蓝色圆圈),2013年后增长趋势迅猛。


你可能会问,为什么要看美国以外国家和地区?加上了美国以后,情况是这样的:



可以看出,至少在NIPS,美国仍然保有绝对优势地位。例如,在NIPS 2016,接收论文中有150多名作者来自英国,但有超过1000名作者都隶属于美国机构。



在这些隶属美国机构的论文作者中,无疑有很多是华人乃至中国学生。但这仍然意味着,中国大陆的高校和研究所还有很长的路要走。





【号外】新智元正在进行新一轮招聘,飞往智能宇宙的最美飞船,还有N个座位

点击阅读原文可查看职位详情,期待你的加入~

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存