文/韦德
随着AI技术的不断发展，有不法分子已经将AI技术用在了犯罪的道路上。
近日，包头警方发布一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生10分钟内被骗430万元。
5月22日
#AI诈骗正在全国爆发#
的话题冲上热搜第一
引发网友热议
据“平安包头”微信公众号消息，近日，包头市公安局电信网络犯罪侦查局发布一起使用智能AI技术进行电信诈骗的案件，福州市某科技公司法人代表郭先生10分钟内被骗430万元。4月20日中午，郭先生的好友突然通过微信视频联系他，自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备”，郭先生说。幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元，但仍有93.16万元被转移，目前正在全力追缴中。
杨幂、迪丽热巴、angelababy、佟丽娅等女星，成为了AI换脸的重点对象。近日，有网友点开直播间，却发现正在卖货的竟是当红女星。然而这些带货“明星”身穿中式服装，其实只是使用了AI实时换脸技术的普通主播。有网站客服称，他们提供的AI实时换脸全套模型价格为3.5万元。.据某提供“换脸软件”的网站介绍，使用者自己从零开始训练模型，如果24小时挂机不停的训练模型，需要经过半个月到一个月的时间，才能达到可以合成视频的效果。日本3D艺术家Hirokazu Yokohara
测试了大叔变少女的效果
而比起自己花费大量时间训练模型，更多人选择购买现成的模型。“素材充足的话，你只要花费半个小时到几个小时的时间就可以直接合成视频。模型可以替换任意素材使用，不分张三李四。”该网站客服称，他们提供的全套模型购买价格为3.5万元，AI实时换脸可适用于各大直播平台。北京云嘉律师事务所律师赵占领表示，AI换脸主要涉及肖像权等问题。“如果说未经他人同意，用他人的肖像替换某一个主播的形象，这种情况下涉嫌侵犯肖像权；如果说还使用了他人的姓名，那还涉嫌侵犯姓名权。”在一些提供换脸软件的教程或网站上，提供者均提醒要警惕使用AI换脸进行诈骗或者侵权的行为。案例一：3月17日晚，某211大学男生赵某某多次将女性同学、好友发在朋友圈的照片，恶意p图后发到色情网站上，并造黄谣。
案例三：一位广州女生在地铁拍的美照，被一些别有用心的网友，用AI一键脱衣软件生成了裸体照片。浙江金道律师事务所顾问、互联网信息技术专业委员会副主任肖振华律师：《民法典》规定，任何组织或者个人不得以丑化、污损或利用信息技术手段伪造他人肖像，不得以侮辱、诽谤等方式侵害他人名誉。故赵某某以P图、虚构事实等方式造黄谣的行为，侵犯了女同学的肖像权和名誉权，应当承担相应民事责任。
《刑法》规定，以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人，情节严重的，处三年以下有期徒刑、拘役、管制或者剥夺政治权利。通过信息网络实施此类行为，被害人提起自诉的，法院可以要求公安机关提供协助。
所以，赵某某此类行为，不仅构成民事侵权，严重的还可能触犯刑法，被追究刑事责任。
浙江金道律师事务所周栋烨律师：“金鸡湖女仆之夜”活动的主办方，以“AI绘图形成的美艳女仆照片”为诱饵、吸引受众购买入场券并到场进行消费的行为，已经构成民事欺诈，情节严重的还可能涉嫌违反《中华人民共和国刑法》第二百六十六条，构成诈骗罪。
二：“AI”换脸技术
一个俄罗斯的程序员觉得在家开视频会议很无聊，就开发了这样一款软件，可以把自己的脸换成任何人进行视频聊天。
案例一：之前有网友在海外社交平台发布了一些特朗普“被警察围捕”的AI生成图片，即便仔细观察，也感觉这是一张“正常”的照片，还有网友称其为 “突发”新闻。
案例二：一名特效师利用影视剧片段合成了一个自己和演员明星迪丽热巴的亲吻视频。案例三：前不久，古风汉服模特楼某发现自己曾经发布在社交平台上的多段汉服造型视频，被一款“AI换脸”App当做收费模板使用。浙江金道律师事务所沈发玲律师：“AI”换脸技术是一把“双刃剑”，大家可能会担忧，自己的脸如果被不法分子利用怎么办，比如，刷脸支付、虚假宣传等。社会还可能充斥大量真假难辨的新闻事件，从而引发诸多信息网络方面的违法犯罪行为。
根据《民法典》《著作权法》相关规定，不当利用“AI”换脸技术侵害民事权益的行为应当承担侵权责任，民事权益包括肖像权、名誉权、著作权等，民事责任包括停止侵权、赔礼道歉、恢复名誉、消除影响、赔偿损失等。如果网友传播虚假信息属于普通违法行为，可以处五日以上十日以下拘留，并处五百元以下罚款，若编造或者故意传播虚假信息主观恶意明显、情节恶劣并严重扰乱社会秩序的，可能涉嫌构成编造、故意传播虚假信息罪，需承担相应刑事责任。
三、AI爬取个人数据获利
案例一：某地警方接到举报称一家人工智能公司违法采集大量公民个人信息，并对外提供价值不菲的“高精度查询”“信用自动评估”服务。
浙江金道律师事务所孙南梦頔律师：本案中的人工智能公司爬取了多个金融APP、政务网站数据中的个人信息并出售，可能涉及触犯多项法律规定，包括《民法典》《个人信息保护法》《网络安全法》《信息安全技术个人信息安全规范》《电信和互联网用户个人信息保护规定》等相关规定，例如《个人信息保护法》规定任何组织、个人不得非法收集、非法买卖他人个人信息。除上述规定外，此类行为还有可能触犯刑法。
根据《刑法（2020修正）》关于侵犯公民个人信息罪的规定，违反国家规定向他人出售或者提供公民个人信息，情节严重的（例如非法获取、出售或者提供行踪轨迹、通信内容、财产信息等50条以上的）处三年以下有期徒刑或者拘役，并处或者单处罚金；情节特别严重的（例如造成被害人死亡、重伤等严重后果的），处三年以上七年以下有期徒刑，并处罚金。
骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。案例一：某公司财务小王接到领导电话，要求立刻给供应商转款2万元，并将转账信息以邮件形式发送，转款理由是避免缴纳滞纳金。由于老板的口音十分逼真，小王信以为真，在1小时内转款完成，后发现被骗。案例二：加拿大一对夫妇接到一通电话，声称是他们的儿子，并且告诉他们自己因为驾车撞死一名外交官而面临入狱，因此需要付21000美元的法律相关费用。老夫妻在听这通电话时，因为声音实在太像儿子，所以几乎完全相信了。浙江金道律师事务所高文律师：“AI生成技术”或“生成式AI”是人工智能的一种应用技术，其本身不属于为实施违法犯罪活动所准备的“专门技术”，即“技术中立”。
所以，单纯的研发并推出AI语音生成软件的行为并不构成犯罪。但是，如果提供该软件技术的单位或个人，明知对方是利用该技术实施网络犯罪而仍旧提供的，提供者将构成帮助信息网络犯罪活动罪；如果提供者明知对方是用来实施电信诈骗的，提供者将构成诈骗罪共犯。
如果有人要求你分享个人身份信息，如你的地址、出生日期或名字，要小心；对突如其来的电话保持警惕，即使是来自你认识的人，因为来电显示的号码可能是伪造的；网络转账前要通过电话等多种沟通渠道核验对方身份，一旦发现风险，及时报警求助；如果有人自称“熟人”、“领导”通过社交软件、短信以各种理由诱导你汇款，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息；不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等；陌生链接不要点，陌生软件不要下载，陌生好友不要随便加，防止手机、电脑中病毒，微信、QQ等被盗号；公检法没有安全账户，警察不会网上办案，如果有网络警察说你犯事了，让他联系你当地的派出所，你也可以主动打110咨询；如不慎被骗或遇可疑情形，请注意保护证据立即拨打96110报警。
参考资料：人民日报、杭州网、每日商报
想了解更多动画资讯与有趣内容？点个“星标”吧~
另外添加wuhu小精灵5号企业微信(17778021721) 发送“动画新势力”即可在不久后被邀请进群。
Netflix版《美猴王》定档！周星驰担任执行制作人！
想了解更多后续的介绍要锁定wuhu哦，微博的小伙伴可以关注我们的新浪微博：wuhu动画人空间，对了！如果你想看更多动画作品，去b站搜索wuhu动画人空间看看？