其他

AI大事件 | 人类理解行为数据集推出,Uber发布自家分布式深度学习框架

2017-10-24 大数据文摘

呜啦啦啦啦啦大家好呀,又到了本周的AI大事件时间了。过去的一周中AI圈都发生了什么?大佬们互撕了哪些问题?研究者们发布了哪些值得一读的论文?又有哪些开源的代码和数据库可以使用了?文摘菌带你盘点过去一周AI大事件!



新闻



AlphaGo Zero: 从零开始的学习

来源:DEEPMIND.COM:

链接:https://deepmind.com/blog/alphago-zero-learning-scratch/?utm_campaign=Revue%20newsletter&utm_medium=Newsletter&utm_source=The%20Wild%20Week%20in%20AI

上周乃至最近一段时间人工智能领域最大的新闻莫过于AlphaGo Zero的诞生。它比AlphaGo更加强大,可以说是历史上最强的围棋运动员。与AlphaGo不同,AlphaGo Zero跳过了学习人类棋手的对弈,而直接从完全随机的自我对弈开始学习。结果是,AlphaGo超越了人类的水平,并在100场比赛中全部击败了此前的冠军AlphaGo。


英特尔推出了一组针对NVIDIA GPU的新型AI芯片

来源:WWW.THEVERGE.COM

链接:https://www.theverge.com/circuitbreaker/2017/10/17/16488414/intel-ai-chips-nervana-neural-network-processor-nnp

英特尔Nervana神经网络处理器系列(简称NNP)是为了响应机器学习和数据中心的需要而设计的。 NNP芯片是英特尔收购Nervana的直接结果。 目前还没有对该芯片进行过基准测试的报道,芯片的确切细节还不得而知。




准备好和机器人亲密接触了吗

来源:WW.WIRED.COM

链接:https://www.wired.com/2017/10/hiroshi-ishiguro-when-robots-act-just-like-humans/?utm_campaign=Revue%20newsletter&utm_medium=Newsletter&utm_source=The%20Wild%20Week%20in%20AI

Hiroshi Ishiguro构建了一个美丽、现实到接近人类的机器人。 在学术上,他正在用他们来理解人与人之间互动的机制。 但他的真正任务是解开互动的本质。



文章&教程



AMA:DeepMind的AlphaGo团队

来源:WWW.REDDIT.COM

链接: https://www.reddit.com/r/MachineLearning/comments/76xjb5/ama_we_are_david_silver_and_julian_schrittwieser/

DeepMind AlphaGo团队的David Silver和Julian Schrittwieser在十月十九号在Reddit上回答了各路网友提出的问题,点击链接即可查看他们对AlphaGo Zero你的新见解和对团队未来目标的计划。


Word Embeddings : 趋势和未来发展方向

来源:RUDER.IO

链接:http://ruder.io/word-embeddings-2017/?utm_campaign=Revue%20newsletter&utm_medium=Newsletter&utm_source=The%20Wild%20Week%20in%20AI

Word Embeddings技术(类似word2vec)对NLP领域有很大的影响。 这篇文章解决了他们的一些缺陷,并讨论了最近尝试解决它们的方法。


《The Deep Learning Book》伴读视频

来源:WWW.YOUTUBE.COM

链接:如果你还能翻墙的话,去YouTube找吧!:)

《The Deep Learning Book》这本深度学习巨著搭配的视频集合。 视频的各个章节由深度学习领域的各个大佬发表,其中包括作者之一,Ian Goodfellow。 如果你正在阅读这本书,这是一个很好的辅助学习资源。


从仿真进行推广(OpenAI)

来源:BLOG.OPENAI.COM

链接:https://blog.openai.com/generalizing-from-simulation/?utm_campaign=Revue%20newsletter&utm_medium=Newsletter&utm_source=The%20Wild%20Week%20in%20AI

这项新技术允许机器人控制器完全在仿真环境中进行训练并将结果部署在物理机器人上,以便在解决简单任务时对环境中的计划外变化做出反应。



代码,项目&数据



AVA:人类理解行为的数据集

来源:RESEARCH.GOOGLEBLOG.COM

链接:如果你还能翻墙的话,去google blog里找吧!

数据集由YouTube的公开提供的视频组成,在空间和时间维度对80个原子动作(例如步行,踢手握手)进行了注释和标签,形成了57.6k的视频片段,96k标记的执行动作,以及210k个动作标签。


Nervana Coach:强化学习框架

来源:COACH.NERVANASYS.COM

链接:http://coach.nervanasys.com/?utm_campaign=Revue%20newsletter&utm_medium=Newsletter&utm_source=The%20Wild%20Week%20in%20AI

Nervana Coach是一个 37 28655 37 10769 0 0 4033 0 0:00:07 0:00:02 0:00:05 4033于python的强化学习研究框架,包含许多最先进算法的实现。 该文档还包含各种优秀算法的摘要。


Horovod:Uber的分布式深度学习框架

来源:ENG.UBER.COM

链接:https://eng.uber.com/horovod/?utm_campaign=Revue%20newsletter&utm_medium=Newsletter&utm_source=The%20Wild%20Week%20in%20AI

Horovod是一个分布式的TensorFlow训练框架。Horovod的目标是使分布式深度学习能够更快运行并且易于使用。




爆款论文



AlphaGo Zero 的论文(Mastering the game of Go without human knowledge)

来源:WWW.NATURE.COM

链接:https://www.nature.com/articles/nature24270.epdf?author_access_token=VJXbVjaSHxFoctQQ4p2k4tRgN0jAjWel9jnR3ZoTv0PVW4gB86EEpGqTRDtpIz-2rmo8-KG06gqVobU5NSCFeHILHcVFUeMsbvwS-lxjqQGg98faovwjxeTUgZAUMnRQ&utm_campaign=Revue%20newsletter&utm_medium=Newsletter&utm_source=The%20Wild%20Week%20in%20AI

一种完全基于强化学习的算法,没有除了游戏规则之外的人类的数据,引导或领域知识。 AlphaGo成为了它自己的老师:神经网络被训练来用作预测AlphaGo自己的选择。这种神经网络提高了树搜索的强度,实现了更高质量的移动选择和更有效的自我对弈。AlphaGo Zero不但超越了人类的表现,并且在与之前赢得柯洁的AlphaGo版本的对弈中以100-0碾压了对手。


卷积神经网络中类不平衡问题的系统研究

来源:ARXIV.ORG

链接:https://arxiv.org/abs/1710.05381?utm_campaign=Revue%20newsletter&utm_medium=Newsletter&utm_source=The%20Wild%20Week%20in%20AI

作者系统地研究了类不平衡对卷积神经网络分类性能的影响。他们使用了三个基准数据集,MNIST,CIFAR-10和ImageNet,并比较了几种方法来解决这个问题:过采样,欠采样,两阶段训练以及对类概率进行阈值补偿。


深度学习的泛化

来源:ARXIV.ORG

链接:https://arxiv.org/abs/1710.05468?utm_campaign=Revue%20newsletter&utm_medium=Newsletter&utm_source=The%20Wild%20Week%20in%20AI

本文解释了为什么深度学习在可能出现大容量、算法不稳定、非鲁棒性的情况下还可以很好地泛化,有效地解决了之前文献中的一个开放问题。基于新的理论观点,本文还提出了一系列新的正则化方法。


多代理沟通中的紧急翻译

来源:ARXIV.ORG– Share

链接:https://arxiv.org/abs/1710.06922?utm_campaign=Revue%20newsletter&utm_medium=Newsletter&utm_source=The%20Wild%20Week%20in%20AI

本篇论文设置了这样一个游戏,游戏由以两种不同的语言作为母语的代理参加,他们需要相互沟通来解决一个视觉参考任务,只有能够翻译对方的语言并理解

A communication game where two agents, native speakers of their own respective languages, jointly learn to solve a visual referential task. The ability to understand and translate a foreign language emerges as a means to achieve shared goals.



优质课程推荐:《人工智能的数学基础》

助教答疑摘抄(by 郑林峰 10月22日)


不要期望一门课可以学到所有的数学知识。

大家需要学的是机器学习(深度学习)的最小必要数学知识,例如概率、矩阵、凸优化......

花最短的时间,学习最必要的知识;在之后的使用过程中,再通过其他资料,不断地进行知识的完善和优化。


推荐大家上课前先将自己的知识放空,追随老师进行内容的学习。

程博士之前的课程,上过的学员都知道,老师知识层面的见解和讲述远超国内很多数学领域的研究者。听得我如痴如醉~



志愿者介绍


回复“志愿者”加入我们



往期精彩文章

点击图片阅读

PayPal创始人《从0到1》作者彼得•蒂尔,上周宣布与他的同性男友结婚了




您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存