查看原文
其他

安全专家剖析|信息安全的11不准与8大高风险雷区

安安 微信珊瑚安全 2022-05-16

2020年阳光媒体人首次培训已圆满落幕。本次培训所有课程回顾笔记将以「2020阳光媒体人课程回顾」为标签进行推送,帮助大家更快找到本次培训的课程笔记。(后台回复“阳光媒体人”可观看本期完整视频)





 课程主要内容 01互联网相关规则。微信是一个拥有12亿月活用户的生态,微信生态的开发者、运营者如果要跟随生态共同繁荣成长,也应履行好自己的责任。所以熟悉和掌握好相关的规则,才能对自己的帐号潜在风险有清晰的认识。
02哪些内容和行为属于高风险雷区。对自己的帐号潜在风险有清晰的认知后,我们需要据此制定内容把关和回查机制,规避可能危及帐号生命线的风险雷区。
03如何有效自查防控避开潜在雷区。我们用已经推出的以珊瑚为品牌的小程序、API接口、公众号,结合实际案例,为大家一一剖析运营中可能会遇到的高风险雷区,希望能更好地将安全能力和知识传递给大家,帮助运营者更好地防控安全风险。
△ 课 程 讲 师


互联网相关的法律法规

近几年国家出台的互联网相关的法律法规,都建议大家仔细认真研读,平台的运营规则,也由此延展和制定。

高风险雷区

案例1:无资质、泄密

△ 违规示例
        
左图案例,涉及国家大政方针、人事任命等内容,属于新闻信息范畴,该篇文章对机构改革进行了歪曲解读,在没有互联网新闻资质情况下属无资质运营。

右图案例,红头文件为政府机关内部流转文件,通常流出属泄露国家秘密。

案例2:不当使用国家机关工作人员营销/不当使用国家标志物

△ 违规示例

左图案例,属以国家机关领导人名义做营销的违规行为。

右图案例,属不当使用国家标志物

相关规范:游戏内容不得含有攻击、丑化、焚烧、毁损、玷污、亵渎以及其他以不庄重形式表现我国国旗、国歌、国徽、党旗、党徽、军旗、军歌、军徽、天安门、人民大会堂、长城、华表等象征中国国家、政权、军队和民族的标志物的内容。

案例3:侮辱英烈

下图中将董存瑞肖像用于轻蔑侮辱性场景,将红小兵描述为红小鬼侮辱性称谓,均属侮辱英烈违规

△ 违规示

相关规范:英雄烈士的姓名、肖像、名誉、荣誉受法律保护。任何组织和个人不得在公共场所、互联网或者利用广播电视、电影、出版物等,以侮辱、诽谤或者其他方式侵害英雄烈士的姓名、肖像、名誉、荣誉。任何组织和个人不得将英雄烈士的姓名、肖像用于或者变相用于商标、商业广告,损害英雄烈士的名誉、荣誉。

案例4:不当蹭时事热点

下图中小游戏映射香港反修例事件,属于不当蹭热点行为。

△ 违规示


相关规范:移动游戏不得含有“扰乱社会秩序、破坏社会稳定”的内容,包括但不限于:(一)以现实社会生活为游戏背景,设定相关功能或情节,宣扬各种扰乱社会秩序、破坏社会稳定的活动。(二)宣扬以暴力、威胁等手段抗拒、妨碍国家工作人员依法执行公务。

案例5:历史虚无

“历史虚无主义”,指不加具体分析而盲目否定人类社会的历史发展过程,甚至否定历史文化,否定民族文化、民族传统、民族精神,否定一切的历史观点和思想倾向。

△ 违规示

左图是一个促销活动素材。1948年,国民党政府摇摇欲坠,经济崩溃,物价飞涨,民不聊生,是近代史上通货膨胀最严重的年份之一,“让物价回归1948”,那是什么概念呢?策划“回到民国”素材的人,看来要补历史课呀。

右图是一款合成类游戏,由士兵可以一路合成成为将军,但细心的朋友可以发现,士兵全是红军形象,唯独将军是国军形象,也并不符合历史情况。

案例6:违反未成年保护

未成年保护是安全规范的重要组成部分,尤其在游戏制作、宣传素材中,如果涉及校园题材,特别要注意不能有暴力倾向,以及危险动作展示。如果一定有危险动作,建议特别注明。

△ 违规示

案例7:UGC内容违规

开发一款小程序、小游戏时,还可能会面临大量的用户发布内容,也就是UGC的处理,按照平台规则,开发者需要对内容安全负担主要责任。

开发运程测试小程序时,如果没有对用户输入的姓名做任何的识别过滤,将首先面临侵害他人权益的风险。

开发相册制作工具时,如果没对用户上传照片做审核把关,允许用户对英雄烈士甚至国家领导人做随意的P图,工具本身是没有承担好内容审核责任

如果你是做一款网盘空间类应用,是否会被煽动性维权人员恶意利用,也需要开发者的重视考虑。

△ 违规示

近期有些网络游戏,因涉黄问题自行全网下架整改。因为自由度太高,允许用户自行制作素材和关卡,且没做好把关,沦为黑灰产利用的工具,毒害青少年,值得业界惊醒!

△ 违规示例 
其他违反平台规则类型

诱导、侵权、洗稿/抄袭、标题党、过度营销、欺诈、类目不符等常见违规类型,就不一一开展介绍,详细情况请戳:

公众号运营规范:https://mp.weixin.qq.com/cgi-bin/readtemplate?t=business/faq_operation_tmpl&type=info&lang=zh_CN&token=

小程序运营规范:https://developers.weixin.qq.com/miniprogram/product/

*可长按复制网址至浏览器打开


自查防控避开潜在雷区

为避免潜在的风险雷区,我们建议开展风险自查防控,具体如下。

  • 产品风险评估

  • 制定内容审核策略

  • 跟进政策动态

  • 内容定期回查


除了自查防控机制,也建议大家使用官方的安全工具“珊瑚内容安全助手”,包含小程序和API接口,可以方便地开展安全自查

珊瑚内容安全助手小程序

“珊瑚内容安全助手”小程序的能力

扫码使用“珊瑚内容安全助手”小程序

微信珊瑚安全API

珊瑚安全API接口

  • 支持小程序/小游戏/公众号调用

  • 基于腾讯海量数据资源和深度学习技术

  • 可自选识别场景

  • 返回详细违规信息

  • 提供免费调用额度


珊瑚文本/图片安全API

做好内容安全,一个都不能少

做好内容安全,运营保障、技术保障、审核保障,缺一不可,每一环都很重要。

内容安全

运营保障,不懂政策法规的产品经理不是好运营。

技术保障,不会AI的系统无法解放生产力。

审核保障,不懂底线思维的审核员不是好的把关人。 



故事征集对象:

我们诚挚邀请各位开发者、运营者讲述自己建立内容安全体系的故事,通过、公众号对话框和推文留言的方式向小珊投稿。我们还将深入采访更多开发者,将你的故事和经验分享给大家。

征集目的:

关注和记录内容安全领域的故事为促进微信内容生态的更好发展,也供更多开发者、运营者学习内容安全体系建设的经验。

有奖征集

这是一个长期的活动,每次被采用发布的故事投稿人,将获得小珊精心准备的一份礼物,期待你的投稿。






点击「在看
让更多人看到微信内容安全第一手资讯

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存