【短波】韦安垒：人工智能筑起信息安全大坝

Original 2018-01-14 赛迪智库 赛迪智库

近日，百度发布了2017年度信息安全综合治理报告。报告显示，百度全年处置有害信息高达451亿余条。但是，值得关注的是，百度将AI技术应用于信息安全领域，在信息上线之前百度机器人就已能拦截超过99%的有害信息，让信息安全处置能力产生了质的飞跃。

百度内容安全中心基于百度AI能力，通过三层内容风控体系建设风险策略+模型、平台服务、服务应用，解决违法信息存在的风险威胁。具体来看，百度利用自然语言处理、深度学习、图像识别等多项AI技术在内容类别、网络架构及后续迭代上实现增量训练；基于百度深度学习，利用千万级业务训练学习有害样本。

百度内容安全中心采取“两拦一筛”手段综合治理违法有害信息，即：第一次拦截操作，利用已有机器策略针对未上线的海量数据进行高速甄别并将有害信息大量剔除；第二次拦截操作，对已上线信息，人工协同机器进行二次巡查；同时百度已在全产品范围内开放多类渠道接入来自个人、企业、政府职能部门等其他第三方的反馈。

通过“主动巡查”策略，主要拦截了淫秽色情、赌博、制假贩假等类别的有害信息；其余有害信息如危险物品类、毒品类及非法信息交易类等，需要进一步的评估、判断，因此需要机器+人工的“自主清理”操作。百度2017年全年利用自主清理共处置有害信息1.16亿条。此外，通过用户、企业和政府机构等各个渠道的第三方反馈收集处理，百度全年共清理有害信息高达421万条。

韦安垒，北京科技大学工学硕士，现就职于赛迪智库网络空间研究所，主要从事网络安全、区块链、网络可信、电子认证等产业研究工作。

赛迪智库网络空间研究所是赛迪智库专业从事网络安全、网络政策法规、网络数据应用等方面研究的咨询服务部门。网络空间研究所以提供网络空间领域专业化研究为目标，依托强大的政府资源优势，凭借雄厚的人力资源基础，以丰富的媒体资源为平台，以扎实的技术资源为支撑，致力于为政府部门和企业提供网络安全、网络数据应用等战略、规划、方案研究和风险评估服务，承担并完成了多项重大项目，取得了丰硕的研究成果。

延伸阅读：更多人工智能主题请点击

【快评】发展人工智能应注重数据保护

【快评】积极应对人工智能发展浪潮打造体系化创新新优势

【图解】《与机器人共舞——人工智能时代的大未来》（上）

【图解】《与机器人共舞——人工智能时代的大未来》（中）

【图解】《与机器人共舞——人工智能时代的大未来》（下）

【快评】人工智能对我国法律体系产生挑战

【快评】三问题可能导致我国人工智能产业落后于人

【短波】杨婉云：加快人工智能研发，抢抓新一代科技和产业革命先机

【快评】加快我国人工智能产业发展的三个举措

【图解】一图看懂《“互联网+”人工智能三年行动实施方案》

【快评】美启动“可解释人工智能”项目欲突破人机协作瓶颈