查看原文
其他

【知识星球】千奇百怪的网络结构板块更新到哪里了?

言有三 有三AI 2020-09-07


《网络结构》是有三AI知识星球的一个板块,在这里,我们会覆盖几乎所有有意义的网络结构,每日一更,配以图文阅读+论文下载,下面请看当前更新状态。


有三AI知识星球-网络结构

目前已经超过30篇文章了,内容覆盖了这些。


(1) CNN起源网络。


从什么时候开始,才算是卷积神经网络的诞生呢?图像和语音又是如何受益于卷积神经网络,为什么网络要采用分层的设计,是谁开始使用最大池化?LeNet5为什么要加个5呢?难道还有1,2,3,4吗?除了分类数字,上个世纪的CNN还有其他用吗?


Neocognitron,TDNN,HMAX,Cresceptron等网络可以了解一下。


(2) 经典网络的发展。


为什么深度学习崛起从RBM开始?AlexNet诞生之前Alex同学在干什么?VGG怎么就想起来使用小卷积了呢?1*1卷积如何大发神通?


(3) 残差网络结构及其变种。


ResNet文章引用量已经过万了,但是你知道几十年前的shortcut connection早就已经在网络结构中使用了吗?LeCun大神们早就系统性研究过shortcut connection了吗?早在resnet之前的highway network已经训练过上1000层的深层模型了吗?残差网络的高度和宽度谁更加重要,残差的极致是什么?残差网络结构还有多少种玩法?


(4) 分组网络及其变种。


随着网络的能力越来越强,大家开始追求性价比了,研究表明分组卷积不仅强大,而且高效!分组卷积的起源到底是什么?卷积拆分和分组有什么相似和区别之处?从Xception到MobileNet真的有变化吗?多分辨率卷积核通道分组网络,多尺度通道分组网络,多精度通道分组网络,如何各自大显神通?这里还有很多很多的故事要讲。


(5) 非正常卷积。


谁说卷积核一定要方方正正,能不能从结构上设计出具有各种不变性的网络,且看大神们将来如何玩坏卷积方式,你不想了解一下吗?

(6) 其他。


网络宽度更加重要还是深度更加重要,图像分割模型都有哪些变种?这里只有想不到,没有看不到!


不多说了,需要的朋友快来吧!


转载文章请后台联系

侵权必究

往期精选


    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存