22 款神经网络的设计和可视化工具,让你的论文更酷炫
加入极市专业CV交流群,与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度 等名校名企视觉开发者互动交流!
同时提供每月大咖直播分享、真实项目需求对接、干货资讯汇总,行业技术交流。关注 极市平台 公众号 ,回复 加群,立刻申请入群~
前言
深度学习领域,最常见的就是各种网络模型,那么在写论文或者文章,介绍网络模型的时候,最好的办法当然就是展示代码画图,今天介绍的 Github 项目,就是整理了 22 个设计和可视化网络结构的工具,其地址如下:
https://github.com/ashishpatel26/Tools-to-Design-or-Visualize-Architecture-of-Neural-Network
22 款工具名称分别是,其中我用的文章封面图就是第 16 款工具实现的结果,非常的炫酷和让人眼前一亮:
draw_convnet NNSVG PlotNeuralNet TensorBoard Caffe Matlab Keras.js Keras-sequential-ascii Netron DotNet Graphviz Keras Visualization Conx ENNUI NNet GraphCore Neataptic TensorSpace Netscope CNN Analyzer Monial Texample Quiver
工具
1. draw_convnet
Github: https://github.com/gwding/draw_convnet
star 数量:1.7k+
这个工具最后一次更新是 2018 年的时候,一个 python 脚本来绘制卷积神经网络的工具,效果如下所示:
2. NNSVG
网址:http://alexlenail.me/NN-SVG/LeNet.html
这个工具有 3 种网络结构风格,分别如下所示:
LeNet 类型:
AlexNet 类型
FCNN 类型
3. PlotNeuralNet
GitHub 地址:https://github.com/HarisIqbal88/PlotNeuralNet
star 数量:8.2k+
这个工具是基于 Latex 代码实现的用于绘制网络结构,可以看看使用例子看看这些网络结构图是如何绘制出来的。
效果如下所示:
安装
这里给出在 Ubuntu 和 windows 两个系统的安装方式:
ubuntu 16.04
sudo apt-get install texlive-latex-extra
Ubuntu 18.04.2 是基于这个网站:https://gist.github.com/rain1024/98dd5e2c6c8c28f9ea9d,安装命令如下:
sudo apt-get install texlive-latex-base
sudo apt-get install texlive-fonts-recommended
sudo apt-get install texlive-fonts-extra
sudo apt-get install texlive-latex-extra
Windows
首先下载并安装 MikTex,下载网站:https://miktex.org/download 其次,下载并安装 windows 的 bash 运行器,推荐这两个:
Git:https://git-scm.com/download/win Cygwin:https://www.cygwin.com/
使用例子
安装完后就是使用,按照如下所示即可:
cd pyexamples/
bash ../tikzmake.sh test_simple
Python 的用法如下:
先创建新的文件夹,并生成一个新的 python 代码文件:
$ mkdir my_project
$ cd my_project
vim my_arch.py
然后在新的代码文件 my_arch.py
中添加这段代码,用于定义你的网络结构,主要是不同类型网络层的参数,包括输入输出数量、卷积核数量等
import sys
sys.path.append('../')
from pycore.tikzeng import *
# defined your arch
arch = [
to_head( '..' ),
to_cor(),
to_begin(),
to_Conv("conv1", 512, 64, offset="(0,0,0)", to="(0,0,0)", height=64, depth=64, width=2 ),
to_Pool("pool1", offset="(0,0,0)", to="(conv1-east)"),
to_Conv("conv2", 128, 64, offset="(1,0,0)", to="(pool1-east)", height=32, depth=32, width=2 ),
to_connection( "pool1", "conv2"),
to_Pool("pool2", offset="(0,0,0)", to="(conv2-east)", height=28, depth=28, width=1),
to_SoftMax("soft1", 10 ,"(3,0,0)", "(pool1-east)", caption="SOFT" ),
to_connection("pool2", "soft1"),
to_end()
]
def main():
namefile = str(sys.argv[0]).split('.')[0]
to_generate(arch, namefile + '.tex' )
if __name__ == '__main__':
main()
bash ../tikzmake.sh my_arch
4. TensorBoard
https://www.tensorflow.org/tensorboard/graphs
使用过 TensorFlow 的都应该知道这个绘图工具,TensorFlow 的可视化工具,查看网络结构、损失的变化、准确率等指标的变化情况等。
网络结构的效果如下图所示:
5. Caffe
https://github.com/BVLC/caffe/blob/master/python/caffe/draw.py
Caffe 的绘图工具,效果如下所示:
6. Matlab
http://www.mathworks.com/help/nnet/ref/view.html
Matlab 的绘图工具,效果如下所示:
7. Keras.js
https://transcranial.github.io/keras-js/#/inception-v3
Keras 的可视化工具,效果如下所示:
8. keras-sequential-ascii
https://github.com/stared/keras-sequential-ascii/
Keras 的一个第三方库,用于对序列模型的网络结构和参数进行检查,直接打印出来结果,比如,VGG 16 的网络结构如下所示,每层网络的参数维度,参数的数量以及占整个网络参数的比例都会展示出来:
安装
通过 PyPI:
pip install keras_sequential_ascii
直接通过 github 仓库:
pip install git+git://github.com/stared/keras-sequential-ascii.git
使用例子
在代码中添加:
from keras_sequential_ascii import keras2ascii
keras2ascii(model)
9. Netron
https://github.com/lutzroeder/Netron
Star 数量:9.7k+
简介
Netron 可以可视化神经网络,深度学习和机器学习模型,目前支持的网络框架包括:
ONNX: .onnx, .pb, .pbtxt
文件Keras: .h5,.keras
文件Core ML: .mlmodel
Caffe: .caffemodel, .prototxt
Caffe2: predict_net.pb, predict_net.pbtxt
Darknet: .cfg
MXNet: .model, -symbol.json
ncnn: .param
TensorFlow Lite: .tflite
另外,Netron 也有实验支持这些框架:
TorchScript: .pt, .pth
PyTorch: .pt, .pth
Torch: .t7
Arm NN: .armnn
Barracuda: .nn
BigDL .bigdl
,.model
Chainer : .npz
,.h5
CNTK : .model
,.cntk
Deeplearning4j: .zip
MediaPipe: .pbtxt
http://ML.NET: .zip
MNN: .mnn
OpenVINO : .xml
PaddlePaddle : .zip
,__model__
scikit-learn : .pkl
Tengine : .tmfile
TensorFlow.js : model.json
,.pb
TensorFlow : .pb
,.meta
,.pbtxt
,.ckpt
,.index
其效果如下所示:
安装
安装方式,根据不同系统,有所不一样:
macOS
两种方式,任选一种:
下载 .dmg
文件,地址:https://github.com/lutzroeder/netron/releases/latest运行命令 brew cask install netron
Linux
也是两种方式,任选其中一种:
下载 .AppImage
文件,下载地址:https://github.com/lutzroeder/netron/releases/latest运行命令 snap install netron
Windows
也是两种方式,任选其中一种:
下载 .exe
文件,下载地址:https://github.com/lutzroeder/netron/releases/latest运行命令 winget install netron
浏览器:浏览器运行地址:https://www.lutzroeder.com/ai/netron
Python 服务器:
首先,运行安装命令 pip install netron
,然后使用方法有两种:
命令行,运行 netron [文件路径]
.py
代码中加入
import netron;
netron.start('文件路径')
10. DotNet
https://github.com/martisak/dotnets
这个工具是一个简单的 python 脚本,利用 Graphviz
生成神经网络的图片。主要参考了文章:https://tgmstat.wordpress.com/2013/06/12/draw-neural-network-diagrams-graphviz/
用法如下:
在 MaxOS 上:
python dotnets.py | dot -Tpng | open -f -a /Applications/Preview.app
或者生成 PDF 文件
python dotnets.py | dot -Tpdf > test.pdf
其效果如下所示:
11. Graphviz
http://www.graphviz.org/
教程:https://tgmstat.wordpress.com/2013/06/12/draw-neural-network-diagrams-graphviz/
Graphviz
是一个开源的图可视化软件,它可以用抽象的图形和网络图来表示结构化信息。
其效果如下所示:
12. Keras Visualization
https://keras.io/api/utils/model_plotting_utils/
这是 Keras 库中的一个功能模块-- keras.utils.vis_utils
提供的绘制 Keras 网络模型(使用的是 graphviz
)
其效果如下所示:
13. Conx
https://conx.readthedocs.io/en/latest/index.html
Python 的一个第三方库 conx
可以通过函数net.picture()
来实现对带有激活函数网络的可视化,可以输出图片格式包括 SVG, PNG 或者是 PIL。
其效果如下所示:
14. ENNUI
https://math.mit.edu/ennui/
通过拖和拽相应的图形框来实现一个网络结构的可视化,下面是一个可视化 LeNet 的例子:
15. NNet
教程:https://beckmw.wordpress.com/2013/03/04/visualizing-neural-networks-from-the-nnet-package/
R 工具包,简单的使用例子如下:
data(infert, package="datasets")
plot(neuralnet(case~parity+induced+spontaneous, infert))
效果如下所示:
16. GraphCore
https://www.graphcore.ai/posts/what-does-machine-learning-look-like
GraphCore 主要是展示神经网络中操作的可视化结果,但也包括了网络结构的内容,比如每层的网络参数等。
下面展示了两个网络结构的可视化效果--AlexNet 和 ResNet50.
AlexNet
ResNet50
17. Neataptic
https://wagenaartje.github.io/neataptic/
Neataptic 提供了非常灵活的神经网络可视化形式
神经元和突触可以通过一行代码进行删除; 没有规定神经网络的结构必须包含哪些内容
这种灵活性允许通过神经进化(neuro-evolution)的方式为数据集调整网络结构的形状,并通过多线程来实现。
其效果如下图所示:
18. TensorSpace
https://tensorspace.org/
教程:https://www.freecodecamp.org/news/tensorspace-js-a-way-to-3d-visualize-neural-networks-in-browsers-2c0afd7648a8/
TensorSpace 是通过 TensorFlow.js,Three.js 和 Tween.js 构建的一个神经网络三维可视化框架。它提供了 APIs 来构建深度学习网络层,加载预训练模型以及在浏览器中就可以生成三维的可视化结构。通过应用它的 API 接口,可以更直观地可视化和理解通过 TensorFlow、Keras 和 TensorFlow.js 等构建的任何预训练模型。
效果如下图所示:
19. Netscope CNN Analyzer
http://dgschwend.github.io/netscope/quickstart.html
一款基于 web 端的可视化和分析卷积神经网络结构(或者是任意有向无环图),当前支持使用 Caffe 的 prototxt 形式。
效果如下图所示:
20. Monial
https://github.com/mlajtos/moniel
计算图的交互式表示法,展示例子如下所示,左边是输入,右侧就是对应结构的可视化结果。
21. Texample
http://www.texample.net/tikz/examples/neural-network/
这个工具也可以通过 LaTex 来实现一个神经网络结构的可视化,比如,一个 LaTex 的例子:
其可视化结果如下所示:
22. Quiver
github: https://github.com/keplr-io/quiver
Star 数量:1.5k
Keras 的一款交互式可视化卷积特征的一个工具
展示例子如下所示:
安装方式
两种方式,直接用 pip
pip install quiver_engine
或者通过 GitHub 仓库的方式:
pip install git+git://github.com/keplr-io/quiver.git
使用例子
首先构建你的 keras 模型:
model = Model(...)
接着通过一行代码来发布可视化的展示板:
quiver_engine.server.launch(model, classes=['cat','dog'], input_folder='./imgs')
最后在刚刚设置的文件夹中就可以看到每个网络层的可视化结果。
如果是想在浏览器中查看,代码如下:
from quiver_engine import server
server.launch(model)
默认的地址是 localhost:5000
参考文章:
https://datascience.stackexchange.com/questions/12851/how-do-you-visualize-neural-network-architectures https://datascience.stackexchange.com/questions/2670/visualizing-deep-neural-network-training
小结
这 22 款工具的输出结果既有直接打印的,也有黑白图、彩色图、炫酷的球体可视化结果,以及三维可视化结果,基本都可以支持目前主流的深度学习框架,当然也有的是基于特定框架,比如 keras,实现的对应第三方库。
可以根据需求和使用的框架来进行选择,相信应该能够满足大部分人对可视化网络结构的需求。
推荐阅读
添加极市小助手微信(ID : cv-mart),备注:研究方向-姓名-学校/公司-城市(如:目标检测-小极-北大-深圳),即可申请加入极市技术交流群,更有每月大咖直播分享、真实项目需求对接、求职内推、算法竞赛、干货资讯汇总、行业技术交流,一起来让思想之光照的更远吧~
△长按添加极市小助手
△长按关注极市平台,获取最新CV干货
觉得有用麻烦给个在看啦~