“有图无真相”的时代怎么办？抖音新规AI生成内容需标注

问题的关键在于，找出技术的负面价值，将其规范化，治理好。

和迪丽热巴“接吻”、与刘亦菲“深情对视”、24小时AI主播带货、“赛博美女”、乘地铁的照片被“一键脱衣”……AI生成内容最近在网络中屡屡刷屏，似乎“有图有真相”的时代彻底结束了。

小红书博主“ 爱旅游的小多”

在某社交平台上，博主“爱旅游的小多”发布了多张“日常营业”照，凭借用AI生成的固定长相的女性图片，该账号已吸引了过万粉丝的关注。这样的AI网红博主账号并非个例，他们涌入社交平台，让“人类网红”也产生了危机感。     

运用AI程序，使用者可以制作出特定长相、服饰、造型和动作的虚拟人物形象，而如果这样的图片被用来诈骗，后果可能非常严重。

利用AI恶意P图的事件也不绝于耳。3月28日，广州一位穿搭博主，去年7月在社交平台发布的一张搭乘地铁时的随手拍，被人用AI技术“一键脱衣”，生成为地铁裸女图疯传。甚至有不法分子向受害者发送包含其脸部信息的色情内容作为勒索素材，以此来牟利。

当大量技术生成的图片和视频充斥社交平台，曾经的“有图有真相”，变成了“眼见也未必为实”，甚至人们还要担心被假图诬陷，莫名其妙地就成了丑闻的主角、黄谣的受害者。

人工生成内容在新闻领域的危害可能更大。据新甘肃客户端报道，近日，平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。洪某弟通过近期火爆的ChatGPT人工智能软件将搜集到的新闻要素修改编辑后散布在互联网上，被大量传播浏览，其行为已涉嫌寻衅滋事罪。目前，洪某弟已被采取刑事强制措施，案件正在进一步侦办之中。

当“无价值观”的人工智能被应用于恶意目标，其破坏力因效率的大幅提升也相应更大。

AI生成内容的风险，几乎已经成了全球共识。日前，有“人工智能（AI）教父”之称的杰弗里·辛顿（Geoffrey Hinton）警告称，AI对人类构成的威胁可能比气候变化“更为紧迫”。包括使人失业、散布虚假信息等问题，并称如果没有监管，科技巨头间的竞争将升级为全球性竞赛且难以停步。

当然，技术本身是中立的，在合理使用的情况下，AI合成技术无疑将极大加快人们的内容生产效率。问题的关键在于，找出技术的负面价值，将其规范化，治理好。

抖音先一步给出了答案。

继3月30日，抖音要求创作者对虚构剧情内容时进行标注，打击虚构摆拍行为，5月9日，抖音又发布《抖音关于人工智能生成内容的平台规范暨行业倡议》，针对人工智能生成的视频、图片，和衍生的虚拟人直播，首次明确其在平台内的行为规范。

公告中提及，发布者需对人工智能生成内容产生的相应后果负责。同时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。同时使用统一的人工智能生成内容数据标准或元数据标准，便于其他内容平台进行识别。

虚拟人也需在平台进行注册，虚拟人技术使用者需实名认证，使用已注册的虚拟人形象进行直播时，必须由真人驱动进行实时互动，不允许完全由人工智能驱动进行互动。

此外，抖音还规定禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。上述违规行为一经发现，平台将严格处罚。

为了便于上述倡议落地，抖音还承诺平台将提供统一的人工智能生成内容标识能力，帮助创作者打标，方便用户区分。平台还将提供虚拟人的注册能力，对已注册的虚拟人形象进行保护，并且提供用户反馈渠道，方便用户反馈违规生成内容。

事实上，随着ChatGPT迅速掀起了生成式人工智能的潮浪，相关监管也随之而至。

2023年1月10日起施行的《互联网信息服务深度合成管理规定》明确规定，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益等活动。

4月11日，国家网信办起草的《生成式人工智能服务管理办法（征求意见稿）》则对生成式人工智能服务进行了框架性规范。其中提到，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。《规定》第十六条、第十七条也提及，深度合成服务提供者提供服务中，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，且该标识应不影响用户使用。

《生成式人工智能服务管理办法（征求意见稿）》

这次的抖音新规，可以看做《规定》出台后的一次落地实践。

而在国际范围内看，无独有偶，5月10日，苹果联合创始人史蒂夫・沃兹尼亚克（Steve Wozniak）也表示生成式人工智能参与的骗局更有杀伤力，呼吁政府加强监管，标记所有人工智能生成的内容。

可以预见，各个国家、各个平台对于AI技术在内容创作中的应用，都将进一步给出明确的指引和规范，保证AI技术的健康发展。但就目前而言，生成式人工智能技术在内容创作领域的应用，还有许多待解决的问题。

例如，“真人驱动进行实时互动”的标准是什么？如何做好真人创作内容和人工智能创作内容的平衡？如何确保公众能够正确并理解AI生成的内容？平台又能否精准识别违规内容？都是不小的考验。

当然，这些努力都不能仅靠单个平台来实现，更需要全网平台和用户的合力。相信随着人工智能技术的不断发展和规范的不断完善，人们能得到一个公正、真实、清朗、充满创新的网络空间。

本文综合新京报、界面新闻、人民日报、北京商报、观察者网、浙江宣传等整理

本文编辑：徐彦琳 胡峻鹏

[e-mail]

- 阅 读 推 荐 -国家队出手“挖呀挖”！政务新媒体如何借势传播?

从月入2万到“没活干”，AI给原画师们带来了什么？