AI换脸被滥用：淫秽视频可定制女星，700部百元打包卖
关注并标星金角财经
聚焦财经热点，深读商业事件。
AI是什么？或许很多人还不太了解，或者只知道它是高科技。
从前，很多人只知道用软件Photoshop能够修改图片，如今，AI（人工智能）直接将“修图”技术进化成“换脸”。近日，新京报记者在调查时发现，互联网上大量出现通过“AI换脸”实现的由知名女艺人“主演”的淫秽视频，在百度贴吧、闲鱼等主要网络平台均有出售。
网上售卖AI换脸制作的淫秽视频信息
百度贴吧售卖通过AI换脸技术合成的视频，价格可4元一部，也可158元打包购买700部视频。而多位知名女明星频被提及。
此外，闲鱼上还有卖家提供“定制换脸”服务。买家提供明星或私人照片，卖家即可将淫秽视频中的主角“移花接木”。定制换脸视频1分钟20元－50元不等。
现在， “AI换脸”已经不仅仅是一门技术，一条依附于“AI换脸”的“黑色产业链”已经形成。
- 1 -
女星频被“换脸”售卖，158元700部视频
百度贴吧 “换脸”、“Deepfake”以及“FakeApp”等都存在售卖AI换脸淫秽视频的帖子。发帖用词隐晦，比如“国内外81部，诚信第一”。
记者联系到一位卖家，其随后发来“80部明星合成视频列表”的压缩包，包含多部淫秽视频的列表截图，文件名上标注出多位大众熟知的女明星。
AI换脸制作的淫秽视频报价
“（购买）低于15部算4元一部，超过15部算3元一部，80部全买只要68元。”这位卖家表示，视频文件将通过QQ文件发送，支持微信、支付宝、QQ红包等支付方式。记者4元随机购买了一个标题为某知名女明星的视频。视频中女主角脸部全部替换成了该女明星，尽管换脸效果粗糙，但仍能一眼识别出来。
随后，卖家还附赠了相关视频的剪辑版本，包含多个淫秽视频的部分内容，其中女主角的脸全被替换成了这一女星。
另一位发帖的卖家发送了网盘链接，网盘中除了视频目录、截图、试看视频等文件，还包括一个单独被命名为某知名女明星目录的文件。
卖家提供的网盘内容包括多个淫秽视频
“打包价158元，700部视频，买打包送截图。”其提供的压缩文件显示，多位女明星被换脸成主角的频率最高。
“有30分钟、40分钟的，也有5分钟的，有像的也有不像的，所以单买价格不可能一样。”卖家称，单个视频根据时长和制作效果定价。
而上述某知名女明星目录文件中包含35部视频，打包价69元，单卖约5-10元一部。时长10分钟以上的视频为每部20－28元。
第一位卖家还表示，这些视频并非自己制作，均来自国内某网络平台，充值会员可以下载，然后再分销。所以其他售卖相关视频的卖家并不是他，“他们肯定没这些，我这会更新”。
- 2 -
提供照片或视频可定制，“照片越多越像”
除了贴吧，二手闲置平台闲鱼同样存在相关售卖信息。在闲鱼上搜索“AI换脸”看到，“AI换脸 明星最全精品”、“AI换脸，合集，都懂！”等信息，实则在售卖“嫁接”了女明星脸部的淫秽视频。
闲鱼卖家一般会提供标有女明星姓名的目录截图，并以100部打包的形式售卖，价格从10元－38元不等。有卖家称，在他打包售卖的淫秽视频中，知名女性明星被恶意“嫁接”的最多。
此外，部分卖家还提供“定制换脸”服务，买家提供明星或私人照片，卖家可将照片中的脸“嫁接”到包括淫秽视频在内的任何视频之中，制作周期为1-2天，报价1分钟20元－50元不等。
买家提供明星或私人照片可实现定制换脸
一位卖家表示，视频素材和照片需要买家提供。“照片要多点，侧面等各个角度，至少需要提供二十张以上。照片越多越像，没照片发视频也行”。
另一卖家要求，如果是“换脸”淫秽视频，3分钟起做。该卖家的定制价为一分钟50元、二分钟95元、三分钟135元，也就是说，买家至少要花费135元才能定制换脸淫秽视频。
目前，闲鱼平台已将部分淫秽视频售卖链接删除。而在淘宝搜索“AI换脸”，20多家店铺有相关售卖信息。记者随机询问7家店铺，其中4家店铺提供定制服务。
- 3 -
卖家称398元包教会，学生打七折
在上述视频里，部分视频有“合成联盟”的字样及其QQ号水印。记者通过这一QQ号联系到昵称为“明星合成＋教学＋代做视频”的卖家，其称不仅售卖明星换脸视频和定制换脸服务，还提供教学服务。
“买教学送全套视频，600多部。”该卖家表示，他提供AI换脸视频的制作教学服务，售价398元，包教会并附赠淫秽视频600多部。“我们用的云电脑，做出来效果是Deepfake的几十倍。”该卖家称，“买云电脑送FakeApp和DeepNude。”
Deepfake指的是用人工智能软件制作的虚假视频，由FakeApp程序创建而成，FakeApp则可实现AI换脸。而DeepNude可通过人工智能将照片中穿着衣服的人物实现“一键脱衣”的效果。
卖家提供的教学内容显示，用户根据指引，完成“链接到云硬盘、提取脸部数据、训练模型、换脸输出视频”四个步骤就能实现AI换脸视频的制作。
“感谢你们的信任，（学员）昨天下午刚学的，不到3个小时全会，只要想学我都会尽心尽力的教你们。”该卖家的微信朋友圈显示，已有多位学员学习了相关AI换脸技术。
在卖家朋友圈还看到，“AI智能暑假期间所有学生凭学生证一律7折，一学就会，不费劲。”而卖家提供的截图显示已有学生提供学生证信息，并购买了该教学服务。
- 4 -
每个人都可能成为受害者
在国外，Deepfake和DeepNude已引起热议，随着越来越多的人利用FakeApp制作名人的色情视频，FakeApp正在引起恐慌。《卫报》提到人工智能未来可能造成的伦理问题。
当地7月2日，美国弗吉尼亚州已通过一条有关色情禁令的法律修正案。根据修正案，未经许可传播或出售以任何方式创作的某人处于裸体或脱衣状态的视频或静止图像都是违法的，包括虚假创作的视频或静止图像。
联合国网络安全与网络犯罪问题高级顾问吴沈括表示，售卖AI换脸淫秽视频，本身已经是传播淫秽物品牟利罪，同时也侵犯了肖像权。而买家购买之后加以传播或者以传播牟利，则可能构成违法甚至犯罪。
有人会觉得，明星艺人被美化也好、丑化也罢，都不关自己的事，自己也不会去购买此类视频，这种想法大错特错。
在“AI换脸”技术下，每个人都可能成为受害者。尤其是普通人，一旦被“AI换脸”成为“小电影”的主角，由于身边人的鉴别能力较弱，大多数人在转发信息时更注重内容的轰动性和刺激性，而非可靠性，就算是一个做工粗糙的视频，也可能会在“以讹传讹”中给无辜的当事人带来极大的精神伤害。
而且，“AI换脸”的应用场景不仅是色情视频，还可能被用于电信诈骗。如果有人通过“换脸”向“被换脸者”的亲友索要钱财，就算诈骗不成功，也可以造成损害当事人名誉的影响。
网络安全专家张百川表示，技术本身没有问题，是有人利用技术作恶。
文章综合自：新京报
•END•
编务日常 | 加微信：xiaobaitz666
商务合作 | 加微信：IronFanPC
联系入群 | 加微信：J-helper