AI和AI的“猫鼠游戏”

每天用AI批量生成4000-7000篇营销号文章，全程基本不需要人工参与，然后靠这些文章带来的流量，每天能收入上万元。有媒体日前曝光了这样的“产业模式”。

某App的AI写作功能

据报道，用AI生成文章的成本是0.00138元每篇，相当于1分钱能生成7篇文章，而每篇文章的平均收益均却是1.43元。

“有300%的利润，它（资本）就敢犯任何罪行，甚至冒绞首的危险。”现在有100000%的利润，却不用犯令人发指的罪行、不用冒多么可怕的危险，真是一门“好生意”。

可就是这样的生意，闭门造车造出了“某市突发爆炸”“某市限制外卖配送”“某女星含恨离世”等假新闻，引发了公众对信息传播与获取的担忧。

一

我们生活在一个信息爆炸的时代。据统计，目前人类每分钟制造的信息量，已经远超从人类直立行走到20世纪末的400万年时间里制造的信息量。

遗憾的是，在爆炸的信息里，99.99%是垃圾，如果你不嫌麻烦，可以把小数点后面9的位数任性增加，也基本不会影响结论的正确性。

把一颗钻石混进一个巨大的垃圾场，我们还能找到它吗？垃圾信息对有价值信息的稀释，会剥夺人对生命中最重要东西的感受，没有了这种感受，我们就无法深刻理解我们的生活和生命。

AI“文章批发机”只是人类制造信息垃圾的其中一种方式而已。只是，随着AI技术的不断提升，这台“批发机”的威力将会越来越大，我们该如何阻止它？

某App的功能介绍

技术是人类发明的，也是人类在使用。要阻止AI制造信息垃圾，需要针对的不是AI，而是使用AI的人。

我国2023年1月正式实施的《互联网信息服务深度合成管理规定》要求，如果运用了深度合成技术，应当在生成或者编辑信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

今年4月，中央网信办发布《关于开展“清朗·整治‘自媒体’无底线博流量”专项行动的通知》，也要求使用AI等技术生成信息的，必须明确标注系技术生成。

这些规定，针对的都是使用AI的人。

二

我们也生活在一个时间稀缺的时代。木心先生告诉我们，“从前慢”的前提是“大家诚诚恳恳，说一句，是一句”。如果太多人习惯了把一句说成一万句，又怎么能怪生活节奏变快了、时间变稀缺了呢。

AI“文章批发机”甚至是无中生有，没事都要编一万句，按照鲁迅先生的说法，如此发布垃圾信息就是“浪费别人的时间等于谋财害命”，同时，制造垃圾信息也是在“浪费自己的时间，等于慢性自杀”，毕竟，想搞钱还有那么多合法合规且有意义的方式。

除了批量生产垃圾信息，AI还被一些不法分子用来深度伪造：换脸伪造图片侵犯个人隐私，换脸换声合成视频实施诈骗，一键“去衣”绘制淫秽图片……

《2024人工智能安全报告》显示，2023年基于AI的深度伪造欺诈增长了3000%。今年上半年，AI诈骗案已经超过1.85亿元。

面对AI技术快速发展带来的挑战，想要依法依规予以规范，第一步是要完善法律法规。近年来，我国相继出台了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法律法规。前几天，国家网络安全宣传周主论坛上又正式发布了《人工智能安全治理框架》1.0版。

有了法规，接下来就是如何严格执行的问题了。

三

信息爆炸，时间稀缺，使得如何提取对个人有用的信息变得特别重要。只让自己筛选、同意过的信息进入自己的注意力，是当代人最重要、最紧迫的自律。

但是，在海量的信息面前，仅仅是筛选就已经非常困难。

刘慈欣写过一篇叫《诗云》的小说，小说中化身中国诗仙李白的神级文明个体，为了超越人类李白，写出了五言诗和七言诗的所有汉字组合，并存贮形成一片直径一百亿公里的“诗云”，这片诗云中必然包含着能够超越人类李白的诗篇，但神级李白最终却失败在了无法把那些卓越的诗篇精确提取出来。

人类与AI之间的关系微妙（AI制图）

不过，小说毕竟是小说，不一定就是现实的准确预言，更何况现实也还没有小说那么极端。

用魔法打败魔法，已经有了成功案例。一些APP推出的“猜你喜欢”“个性推荐”，其实就是利用AI来学习用户的思维和喜好，帮助个体筛选信息节省时间。在2024年国家网络安全宣传周网络安全博览会上，针对深度合成换脸，利用反向学习技术的实时鉴伪“黑科技”5秒就能辨别是不是“AI换脸”。

有人用武器欺凌侵略，就有人需要用武器防身卫国。同样，有人用AI制造垃圾信息，就有人需要用它来过滤垃圾信息；有人用AI进行深度伪造，就有人需要用它来深度识别。这，也是一个商机，一种产业模式，是真正的既能搞钱又有意义的好生意。

可以预见，像人类历史上所有的造假和打假故事一样，AI造假和AI打假也将是一个长期博弈的“猫鼠游戏”。

可以相信，在违法与执法之间，社会的主流将永远是“魔高一尺，道高一丈”。

（声明：稿件未经授权，不得转载）

---

撰稿：陈卫华

编辑：刘振   蒙国锐

—————   推荐阅读   —————

星标☆“安徽时评”

及时接收最新推文