高度警惕人工智能伪造技术对社会安全的现实威胁

作者：肖尧

来源： 全球技术地图 

人工智能的发展应用如火如荼，但其误用、错用、滥用甚至恶意使用所带来的安全问题不可小视！

近期，美欧多国开发出多种基于人工智能的新兴伪造技术。该技术伪装性强、欺骗性高、难以监管且相关成果正在不断涌现，可用于社会生产生活及国家治理等各个方面，或对我国家安全构成严峻威胁。

 “人工智能伪造技术”以假乱真

人工智能伪造技术是指利用人工智能在深度学习、大数据处理语言识别、图像识别、自然语言处理等方面的强大功能，伪造社会生活中人体指纹、语音等生理特征及合成虚假音频、视频等媒体文件的技术。现阶段的人工智能已经可以伪造个人笔迹、声音、动画以及视频等，且仿真度极高。

伪造笔迹方面，英国UCL大学研究人员开发出“My text in your hand writing”人工智能算法，能够分析一个人的字形及其特殊的书写方式，生成字形、字号、颜色、笔线纹理、垂直及水平间距等完全相同的笔迹，达到完美伪造。

伪造语音方面，谷歌Deepmind公司开发出 “WaveNet”软件，可利用其神经网络系统对原始音频波形进行建模，生成带有强调性音节、抑扬顿挫和体现情绪的目前世界上最接近人类自然语言的音频。加拿大Lyrebird公司正在开发一种深度学习算法，使任何人都可以使用任何其他人的声音伪造出令人惊讶的逼真演讲。目前该公司已利用该技术仿造出特朗普、奥巴马及克林顿等人的声音进行演讲。此外，Adobe公司的 Project VoCo软件可以识别出一段语音中的文字，之后针对语音中的文字进行编辑和修改，生成音色和音调与本人完全一样的语音。

伪造视频方面，美国华盛顿大学研究人员开发出“可伪造真人视频”的人工智能技术，成功将声音片段合成转化为对应的口型，并将该口型嫁接到视频中的人脸上，成功伪造出口型一致的虚假视频。研究人员演示了美国前总统奥巴马在多个场景下谈论恐怖主义的视频，其口型完全一致，难辨真假。此外，该技术还可以实现小幅时移，使神经网络预测说话者接下来所要表达的内容。

 引发严重的国家安全和社会稳定问题

“人工智能伪造技术”或扰乱正常的社会生活和管理秩序，引发严重的社会安全问题

“人工智能伪造技术”对社会秩序的各个层面构成了严重威胁。在社会生活层面，“人工智能伪造技术”使日常生活所用的合同、契约、证书及相关法律文本的防伪鉴定面临新的困难。在涉及公民、法人和组织切身利益和财产安全的重要问题上，该技术带来了诸多不确定性的挑战。在司法层面，“人工智能伪造技术”将可用于伪造证人证言、视听资料、电子数据及鉴定意见等虚假证据，为司法证据的鉴定采用和非法证据排除带来了新的困难，对社会公正和社会稳定带来极大的挑战。在公共安全层面，“人工智能伪造技术”为不法分子从事违法犯罪活动提供了便利条件。例如，不法分子出于扰乱社会治安或敲诈勒索等目的，可利用该技术制作高逼真度的杀人、绑架、爆炸等严重暴力犯罪的音频视频，将对社会稳定构成严重威胁。

“人工智能伪造技术”用于社交媒体或为国内外分裂、恐怖势力提供新的工具

社交媒体上的资讯传播速度快、范围广、成本风险低、易于聚拢共识等特点，其社会动员能力强大，已成为分裂、恐怖势力传播极端思想、煽动不安情绪甚至制造分裂、恐怖活动的重要媒介。香港“占中”事件中，“学运”分子在社交媒体上被塑造成“意识形态先遣队”和“觉醒的政治力量”，加剧了香港青少年的分裂思潮。Facebook中充满了“警察开枪、警察打人”等片面的消息以及很多血腥暴力的虚假图片，激发了观者的负面情绪，加剧了“占中”事件的扩大升级。与此同时，近年来“伊斯兰国”组织娴熟地利用社交媒体宣传“圣战”思想，招募我国新疆地区的“三股势力”活动分子，使其自发前往土耳其、叙利亚伊拉克等地参加暴恐培训，并企图回国开展暴恐活动。此外，卡塔尔近期的“外交危机”也是由社交媒体引起，黑客组织通过入侵卡塔尔通讯社网站并伪造国家元首埃米尔•塔米姆的讲话，声称支持伊朗和巴勒斯坦伊斯兰抵抗运动哈马斯，批评美国和沙特阿拉伯，并谴责对卡塔尔支持恐怖组织的有关指控，导致严重的外交危机。

 对我启示

“人工智能伪造技术”的出现，尤其是对笔迹、音频、视频的高逼真度伪造，为分裂、恐怖势力伪造领导人发布虚假声明、签署虚假命令、遭遇不测等虚假视频提供了便利条件。这些虚假视频一旦流入社交媒体，将在短时间内迅速扩散，煽动强烈的社会不安情绪。

“人工智能伪造技术”已引起美国的关注。新美国安全中心发布的《人工智能与国家安全》报告中，明确将人工智能伪造技术列为威胁国家安全的重点技术，建议美国防部和情报部门成立专门的人工智能安全组织，并由国家安全局牵头开发针对该技术的应对方法。我国同样面临人工智能伪造技术带来的现实威胁，应趁该威胁尚处萌芽阶段及早布局，通过政策管理和技术限制等途径积极应对其潜在风险。

感谢作者的辛苦付出与创作，版权归属原作者。如涉及版权等问题，可在本公号后台留言，我们将在第一时间处理，非常感谢！文章观点仅代表作者本人，不代表本公众号立场。

一网打尽系列文章，请回复以下关键词查看：

创新发展：习近平 | 创新中国 | 创新创业 | 科技体制改革 | 科技创新政策 | 协同创新 | 科研管理 | 成果转化 | 新科技革命 | 基础研究 | 产学研 | 供给侧

热点专题：军民融合 | 民参军 | 工业4.0 | 商业航天 | 智库 | 国家重点研发计划 | 基金 | 装备采办 | 博士 | 摩尔定律 | 诺贝尔奖 | 国家实验室 | 国防工业 | 十三五 | 创新教育 | 军工百强 | 试验鉴定 | 影响因子 | 双一流 | 净评估

预见未来：预见2016 | 预见2020  | 预见2025 | 预见2030  | 预见2035 | 预见2045  | 预见2050

前沿科技：颠覆性技术 | 生物 | 仿生 | 脑科学 | 精准医学 | 基因 |  基因编辑 | 虚拟现实 | 增强现实 | 纳米 | 人工智能 | 机器人 | 3D打印 | 4D打印 | 太赫兹 | 云计算 | 物联网 | 互联网+ | 大数据 | 石墨烯 | 能源 | 电池 | 量子 | 超材料 | 超级计算机 | 卫星 | 北斗 | 智能制造 | 不依赖GPS导航 | 通信 | 5G | MIT技术评论 | 航空发动机 | 可穿戴 | 氮化镓 | 隐身 | 半导体 | 脑机接口 | 传感器

先进武器：中国武器 | 无人机 | 轰炸机 | 预警机 | 运输机 | 直升机 | 战斗机 | 六代机 | 网络武器 | 激光武器 | 电磁炮 | 高超声速武器 | 反无人机 | 防空反导 | 潜航器

未来战争：未来战争 | 抵消战略 | 水下战 | 网络空间战 | 分布式杀伤 | 无人机蜂群 | 太空战 | 反卫星

领先国家：美国 | 俄罗斯 | 英国 | 德国 | 法国 | 日本 | 以色列 | 印度

前沿机构：战略能力办公室 | DARPA | 快响小组 | Gartner | 硅谷 | 谷歌 | 华为 | 阿里 | 俄先期研究基金会 | 军工百强

前沿人物：钱学森 | 马斯克 | 凯文凯利 | 任正非 | 马云 | 奥巴马 | 特朗普

专家专栏：黄志澄 | 许得君 | 施一公 | 王喜文 | 贺飞 | 李萍 | 刘锋 | 王煜全 | 易本胜 | 李德毅 | 游光荣 | 刘亚威 | 赵文银 | 廖孟豪 | 谭铁牛 | 于川信 | 邬贺铨

全文收录：2017文章全收录 | 2016文章全收录 | 2015文章全收录 | 2014文章全收录 

其他主题系列陆续整理中，敬请期待……