新华社：两人利用人工智能软件发布虚假火灾视频被批捕

日前，新华社发布报道《浙江上虞：两人利用人工智能软件发布虚假火灾视频被批捕》，关注绍兴市上虞区检察院办理的一起通过人工智能技术“无中生有”编造发布虚假信息的案件，全文如下：

★

近日，浙江省绍兴市上虞区检察院，对利用人工智能软件制作虚假视频的团伙成员张某、陈某批准逮捕。这一团伙此前利用人工智能软件拼凑热点要素自动生成视频，编造发布工业园区火灾等虚假信息，寻求流量变现，对网络空间和现实社会秩序产生负面影响。

假视频截图

2023年5月30日，一则“上虞工业园区发生火灾”的视频在部分视频平台发布。视频宣称“浙江工业园区现大火，浓烟滚滚，目击者称有爆炸声”，视频点击量在短时间内迅速攀升。经过公安机关核实，该视频系虚假杜撰，并于6月5日抓获了犯罪嫌疑人。

据了解，5月开始，假视频发布者所在公司决定使用人工智能软件，通过将多个热点要素拼接制作新视频的方式吸引流量并变现牟利。“上虞工业园区发生火灾”的视频便是通过人工智能技术“无中生有”拼接而成。

办案检察官提审犯罪嫌疑人

据犯罪嫌疑人交代，公司一般会通过网络寻找近期热点，再通过一些人工智能软件自动寻找匹配视频、图片等素材，最后自动配音、剪辑生成视频。这些发布的虚假信息很容易引发公众关注，并创造大量流量，通过平台的流量变现渠道，该团伙从中非法牟利。

6月12日，上虞区检察院侦查协作与配合办公室第一时间提前介入。

在与公安机关多次召开联席会议后，办案检察官发现本案中通过人工智能技术进行热点合成所编造的虚假信息，特别是虚假的险情、疫情、灾情、警情，涉及社会公众利益，可能引起社会恐慌，甚至造成社会秩序的混乱等。因此，检察机关提出了查清公司组织层级、调取平台后台数据、梳理虚假视频传播范围、影响力等方面的调查取证方向。

经审查发现，截至案发前，该网络科技公司已非法购买该平台账号2900余个，发布未经核实视频10000余个，涉及浙江、湖南、上海、四川、贵州、河北等多地。其中20条涉及警情、灾情、险情的虚假视频点击量就高达160余万次。

7月13日，上虞区检察院以编造、故意传播虚假信息罪对张某、陈某批准逮捕。

来源：新华社

编辑：鲁晓娇

推荐阅读