查看原文
其他

逆天啦!OpenCV4.1.2 CPU上人脸检测居然能跑到700+ FPS

gloomyfish OpenCV学堂 2020-02-04

点击上方蓝字关注我们

微信公众号:OpenCV学堂
关注获取更多计算机视觉与深度学习知识

Debug与Release编译之争

初学OpenCV开发,配置开发环境,大家都一般都是配置为debug模式,其实时间一长就会给大家带来很多困扰,就是发现OpenCV速度比较慢,感觉有点不真实。其实这个时候只要切换到Release模式下,一行代码都不用改,程序重新编译生成一下,速度都会得到明显的提升。这个就是Debug与Release模式的不同。但是我还一直没有尝试过OpenCV DNN模块在Release模式的表现如何,今天我在编译OpenCV4.1.2时候,一时兴起在Debug与Release模式下都测试了一下DNN模块的人脸检测功能,结果我自己惊讶到下巴掉下来了。没想到差距如此之大,详细看下面的对比试验。

对比测试

以人脸检测OpenCV DNN代码为例,计算后台设置为OpenCV,设备为CPU,代码如下:        

net.setPreferableBackend(DNN_BACKEND_OPENCV); net.setPreferableTarget(DNN_TARGET_CPU);

我刚开始在OpenCV4.1.2 DEBUG模式下跑OpenCV DNN的人脸检测:

实时人脸检测看上去是个梦,OpenCV DNN真相扎心,其实不用这么悲观,继续往下看。


切换到release模式下,同样的代码,运行速度如下:

没想到,居然可以对DNN模块十倍以上加速,我好喜欢Release模式,实时无压力。

OpenCV4.1.2+IE加速

修改IE加速为计算后台,其余代码跟上述保持不,变如下:

face_detector.setPreferableBackend(DNN_BACKEND_INFERENCE_ENGINE);face_detector.setPreferableTarget(DNN_TARGET_CPU);

运行结果如下:


重写代码,使用OpenCV4.1.2最新的DetectionModel方式运行:

什么,CPU人脸检测居然跑到700 FPS,如果不是事实摆在我的眼前,我自己都不敢相信,这个就是在最新OpenCV4.1.2 Release模式下使用IE加速加持之后的真实结果。真实测试1280x720的同样可以达到同等水平FPS。以后千万别跟我说OpenCV DNN速度有点慢!


最后说一下我的系统环境与硬件配置

CORE i7 8th
Windows 10 64bit
VS2015 + OpenCV4.1.2
OpenVINO2019R03

OpenCV是我自己编译的release版本!

测试视频Frame大小为632x360

什么,不知道如何编译OpenCV

什么还不支持如何编译OpenCV,去看这里吧:

https://space.bilibili.com/365916694/#/

推荐阅读

OpenCV加速与优化,让代码执行速度飞起来

OpenCV4 | 如何一行代码搞定SSD模型推理与结果解析

CPU上跑深度学习模型,FPS也可以达100帧

网络模型量化与推理加速框架OpenVINO最新版本SDK演示

如何编译OpenCV4.1.0支持OpenVINO推断引擎加速支持

10分钟学会 OpenCV CUDA编程

OpenVINO深度学习推理框架 开发技术系列文章汇总

首发 | OpenVINO开发配套视频教程发布了


善始者实繁

克终者盖寡

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存