视频 直播撞“红线” “白泽”来抢险

中国互联网内容经历了两次大的变更，从文字到视频，最后到直播。不得不说，内容以及内容的创作者离用户更近了，实时性也更强。然而，另一个风险也随之出现。

直播、短视频内容风险高发，频踩红线

近几年，直播和短视频成了一个巨大的风口，迎来爆发式成长。直播平台高速发展的同时，也容易出现一些违规、违法的内容，比如涉恐、涉政、色情等敏感内容。

因内容审核出现问题，今年以来国家及各地网信办等有关部门约谈商业资讯客户端、自媒体平台的新闻时有发生。2021年，中国互联网监管机构处置账号13.4亿个，封禁主播7200余名，下架应用程序、小程序2160余款，关闭网站3200余家。

许多商家在视频直播的过程中，稍有不慎就会误踩了直播内容的红线而遭到违规处罚，最后导致费尽心血准备的直播功亏一篑。

2021年5月，爱奇艺、优酷等平台曾因提供含有禁止内容的互联网文化产品，被北京市文旅局依法分别予以行政处罚，罚款金额1.5万元和1万元。

此类事件的发生，并不仅仅是平台一方的责任。进行违法违规直播，制作并传播违法违规视频的个人或者媒体更应承担相应的责任。

因此，无论企业、媒体还是个人，如何做好内容审核，合规经营成生存红线。

短视频、直播内容审核难在哪里？

中国互联网络信息中心（CNNIC）发布的第49次《中国互联网络发展状况统计报告》显示：
截至2021年12月，中国网民规模为10.32亿。
短视频用户规模达9.34亿，较上增长6080万，占网民整体的90.5%；
网络直播用户规模达7.03亿，较上年增长8652万，占网民整体的68.2%。

翻译一下就是中国14.1亿人中，每10个人中有7.3人使用互联网络，每10个使用互联网络的人，有9人都会使用短视频产品。

近些年来，视频直播快速发展，大量的直播平台如雨后春笋一般出现，但是这同样给直播内容的监管带来了巨大的挑战，一方面国家对于直播内容监管的要求日益严格，另一方面相对于文字内容的审核，多媒体内容的审核复杂度更高，资源耗费也更大技术门槛相对也较高。

而目前，对于内容审核，一些平台还是采用人工审核的方法，雇佣大量的直播审核员，来从海量的直播视频中寻找那些不合规的视频，但是受限于人的精力，往往不能达到很好的效果，而且审核人员的紧缺导致薪水也相应的水涨船高。

再加上中国网络视听节目服务协会更新发布的2021年版《网络短视频内容审核标准细则》，内容多达21大项，100小条。依据该细则，其审核对象涵盖短视频节目及其标题、名称、评论、弹幕、表情包等，审核颗粒度细化到其语言、表演、字幕、画面、音乐、音效，这无疑对内容审核带来更大的难度。

除此之外，“舆论先锋，群众喉舌”。一直以来，媒体都是社会发展中重要的组成部分。在诸如培养大众价值观及推动社会文明等方面有着不可小觑的作用。

正因如此，准确、真实和正确的价值导向一直都是传媒工作最基本的要求。近年来，信息爆炸式增长，传播模式不断更新，对媒体而言，既要内容丰富，充满趣味性，满足大众对媒体各类属性的需求；又要严把关，杜绝一切低俗违法内容，媒体内容审核的工作量及工作难度都在加大。

内容审核需要AI助力

人工审核曾是唯一的解决方案，通过建立敏感词库作为初级机器审核系统也曾流行。但如今，包括图片与音视频在内海量的内容以及层出不穷的文本变体，使得机器审核成为高效解决方案的核心。而且机器审核能够降低这些劣质与敏感内容对人工审核者的身心影响。

有技术积累和人力的公司往往会自己组建自己的AI团队，根据自己的业务场景和海量的资源来训练自己的检测模型，这样优势是，能够对于自己的场景有更好的把控，但是也有一些缺点，比如：用户需要自己完成截帧的工作，这个简单的工作可能耗费大量的计算资源、海量的图片存储和传输成本。另外，受限于技术和人力的原因，审核算法精度不如人意。

另外，自研机器审核系统未尝不可，但自研意味着从0到1的“踩坑”。因此，视频、直播想要守好生命安全线，亟需一站式内容审核解决方案。

跨模态智能治理，“白泽”守护内容安全生命线

工欲善其事，必先利其器。

人民中科拥有世界领先的内容理解能力，并在国内率先实现亿级/秒的视频比对，对全网海量图文及音视频内容进行高通量感知、机器理解、智能检索、深度挖掘、全息展示等，提供面向政府和企业的内容安全服务、内容监测及版权保护、内容情报挖掘、内容安全测评和互联网内容审核、风控、巡检等系统。

“白泽”是人民中科跨模态智能搜索引擎，是对全网海量内容进行高通量感知、机器理解、智能检索并自主进化的计算平台。

“白泽”搜索引擎主页面

在使用上，“白泽”无需配置传统内容搜索所需的复杂匹配规则，通过自然语言描述即可快速检索出相同语义的视频，可有效应对新事件和突发事件，同时不需要依赖大规模算力，资源复用率高。

具体应用案例













面向内容安全，“白泽”结合对境内外多平台内容的检索，可跨平台实现文本搜图片、文本搜视频、图片搜视频、视频搜视频、图片搜文字、视频搜文字等功能。

此外，“白泽”不仅可以用于指定主题的自动推荐，也可以进行专题内容的高效采集，还能对融媒体矩阵内容进行巡检核查，实现智能风控。

观看视频了解“白泽”

基于人脸检测、Logo检测、OCR文本识别、场景识别、要素信息检测等技术手段对视频要素进行分析。在此基础上，拓展视频线索——实名拓展、文体变换、图像文本化、关系图谱生成，并利用自动化手段进行数据采集。在智能引擎审核的同时，人民中科还提供专业的人工复审服务，实现机器智能高效甄别与人工及时复审一体化，高效准确识别目标视频。

在当前2022年“清朗”系列专项行动的背景下，人民中科已面向政府以及其他合作者，提供互联网音视频风控系统、内容巡检平台、内容风险检测平台、版权监测平台、隐匿网络监测、党政智能文库等产品或服务，同时“白泽”作为核心能力为以上产品提供内容查询、识别、检索、关联等支撑，为数字世界安全治理贡献力量。

责编：岳青植
监制：李红梅

END

招优纳贤，职等你来

往期回顾

关于人民中科人民中科智能技术有限公司，是人民网与中科院自动化所共同发起设立的“人工智能技术引擎”和科技成果转化平台，拥有世界领先的内容理解技术，核心产品是跨模态智能搜索引擎“白泽”，初始应用场景是数字世界的安全，目标是成为全球内容科技领导企业。