真刑！技术人员用AI“一键去衣”制造几千张淫秽图片卖了1万多块！网友热议：AI是把双刃剑...

‍

在科技飞速发展的当下，人工智能（AI）技术已广泛应用于各个领域，为人们的生活和工作带来了诸多便利与创新。然而，正如一把双刃剑，AI 技术在为社会发展注入强大动力的同时，也被一些不法分子利用，成为违法犯罪的工具。近日，一起利用 AI“一键去衣”技术伪造近 7000 张淫秽图片并进行贩卖的案件引起了社会的广泛关注，再度将 AI 技术被滥用的问题推到了公众视野之中。

据央视新闻报道，犯罪嫌疑人白某某，原本是一家互联网公司的技术员。2023 年，白某某在境外的社交媒体上接触到了所谓的“一键去衣”技术后，道德与法律的底线在其心中被利益的诱惑所冲破，萌生出了借此非法牟利的念头。

白某某通过在境外社交媒体上发布广告，以每张 1.5 元的价格，声称可以为客户提供“一键去衣”服务，内容涵盖“身边人、网红、明星皆可”。这一恶劣行径吸引了不少心怀不轨之人前来购买。短短几个月内，白某某利用 AI 技术深度伪造淫秽图片近 7000 张，并通过 QQ 向 351 人进行贩卖，非法获利近万元。这些被伪造的淫秽图片所涉及的女性人数众多，其中不乏学生、教师、同事等，其传播范围之广、影响之恶劣，给众多无辜受害者带来了极大的伤害和困扰。

目前，白某某已被提起公诉，等待他的将是法律的严厉制裁。这起案件不仅是对个人道德和法律底线的挑战，也为整个社会敲响了警钟，凸显了加强对 AI 技术监管和规范使用的紧迫性与必要性。

事实上，利用 AI 技术进行图片伪造的行为并非个例。随着 AI 技术的不断发展，特别是深度学习（Deep Learning）技术的广泛应用，深度伪造（Deep Fake）技术逐渐走进人们的视野。深度伪造技术是一种利用深度学习算法，对图像、音频和视频等内容进行合成、修改或替换的技术。通过该技术，可以将一个人的面部特征、表情、动作等无缝地移植到另一个人的身体上，或者生成完全虚构的人物形象和场景。

深度伪造技术最初是为了影视制作、虚拟现实、游戏开发等领域的应用而研发，但由于其强大的功能和易于操作的特点，很快就被一些不法分子所利用。近年来，利用深度伪造技术制作虚假新闻、伪造名人色情内容、进行网络诈骗等违法犯罪行为屡见不鲜。

例如，2017 年，国外社交平台上曾出现一段利用深度伪造技术制作的美国前总统奥巴马辱骂他人的视频，引起了轩然大波；2019 年，印度曾发生一起利用深度伪造技术制作的虚假政治演讲视频，试图干扰选举进程；此外，还有不少犯罪分子利用深度伪造技术制作虚假的名人色情视频，在网络上传播以获取非法利益。

这些利用深度伪造技术进行违法犯罪的行为，不仅严重侵犯了他人的肖像权、名誉权、隐私权等合法权益，也对社会秩序、国家安全和国际关系造成了严重的威胁。例如，虚假新闻的传播可能会误导公众舆论，干扰社会正常秩序；伪造的政治演讲视频可能会影响选举结果，破坏国家的政治稳定；而制作和传播虚假的色情内容，则会严重败坏社会风气，毒害青少年的心灵。

面对 AI 技术被滥用的严峻形势，各国政府和相关机构纷纷采取行动，加强对 AI 技术的监管和法律规制。例如，美国国会已经提出了多项法案，旨在加强对深度伪造技术的监管和打击利用该技术进行违法犯罪的行为；欧盟也在积极制定相关的法律法规，对 AI 技术的开发和应用进行规范和约束；我国也在不断完善相关法律法规，加大对利用网络技术进行违法犯罪的打击力度。

除了政府和相关机构的努力，科技企业和科研机构也应当承担起相应的社会责任，加强对 AI 技术的研发和应用管理。一方面，要加强技术研发，提高对深度伪造内容的检测和识别能力，为打击违法犯罪行为提供技术支持；另一方面，要加强对技术应用的伦理审查和自律管理，确保 AI 技术的开发和应用符合道德和法律的要求。

同时，广大公众也应当提高自身的媒介素养和网络安全意识，学会识别和防范深度伪造内容。在浏览网络信息时，要保持理性和批判性思维，不轻易相信和传播未经证实的内容；对于发现的利用深度伪造技术进行违法犯罪的行为，要及时向有关部门举报。

我的朋友三石曾经遇到了一件糟心事，深受AI换脸技术的困扰。

三石是一名小有名气的视频博主，平时会在网上分享自己的生活日常和一些知识讲解视频。然而，最近他发现网络上流传着一些奇怪的视频，视频中的人物虽然看起来是他，但内容却极其不堪。原来，是有人利用 AI 技术，将他的脸换到了一些不良视频的人物身上。

这些虚假视频快速传播，给他的生活带来了极大的影响。身边的朋友、粉丝对他投来异样的眼光，合作方也因为这些视频对他的形象产生质疑，纷纷取消合作。三石的名誉受到严重损害，事业也因此一落千丈。

尽管三石多次澄清那些视频是伪造的，但效果甚微。无奈之下，三石选择报警。公安机关接到报案后高度重视，迅速展开调查。经过一段时间的追踪和排查，警方最终锁定了犯罪嫌疑人，并将其成功抓获。

随着犯罪分子落网，真相大白，三石终于得以洗清冤屈，恢复了自己的名誉。之前取消合作的伙伴也重新向他递来了橄榄枝，生活逐渐回归到正常的轨道。

然而，经历过这段遭遇的三石仍然心有余悸。每次想到那段被污蔑和误解的日子，他都觉得后怕。现在的他更加注重网络信息安全，也希望大家都能重视 AI 技术被滥用带来的危害，共同营造一个健康、安全的网络环境。

确实，AI 技术的发展是人类社会进步的重要标志，但我们必须高度警惕其被滥用的风险。只有通过政府、企业、科研机构和公众的共同努力，加强监管、规范应用、提高防范意识，才能让 AI 技术更好地服务于人类社会的发展，而不是成为违法犯罪的工具。在科技发展的浪潮中，我们必须坚守道德和法律的底线，共同营造一个健康、和谐、安全的网络环境和社会秩序。

往期推荐