什么？这也能被偷？
一键AI换脸
你以为只是修图软件的娱乐
发到朋友圈 发到微信群
却给了骗子可乘之机
作为一种高科技诈骗手段
AI诈骗近期引发广泛关注
暨南人务必擦亮双眼 仔细甄别
谨防上当受骗
@
AI诈骗常见手法
01｜声音合成
诈骗者通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。
02｜AI人脸合成
人脸效果更易取得信任，诈骗分子利用算法精准识别视频中的人脸图像，并提取如眼睛、鼻子、嘴巴等关键面部特征，其次将这些特征与目标人脸图像进行匹配、替换、融合，生成视频或照片来“以假乱真”，通过扰乱诈骗对象的视线进而实施诈骗。
03｜算法筛选受害人
诈骗者通过分析用户的在线行为数据，利用AI算法进行个性化的虚假广告推送，如高收益投资骗局、保健品欺诈等。
04｜自动化身份冒充
AI技术可以自动创建并维护假的社交媒体账户，模仿好友或名人动态，然后售卖演唱会门票、发起筹款请求、赠送礼品卡等虚假活动骗取钱财。
05｜网络钓鱼
犯罪分子使用AI驱动的聊天机器人模拟客服对话，引导用户在假冒网站上输入银行账号、密码等敏感信息，从而盗取财产。
@
AI诈骗真实案例
PAY ATTENTION
案例一：眼见为虚
昨天 15：00
我朋友骑车摔了，在医院急用钱
我微信被冻了转不了钱，所以把4000元转到了你的卡上，你用微信把钱转到我朋友的卡里吧！
钱还没到账，怕被骗啊，你给我打个视频我确认一下
没问题
QQ视频电话中：
行，现在给你转
今天 10：03
怎么钱还没到账？？？
我被盗号了。之前发生什么了？
2023年5月，咸安辖区一高校在校学生王某在QQ上收到同学何某丽的消息，何某丽称她的朋友骑车摔了，在医院急用钱，但是其微信被冻结转不了钱，于是何某丽便把4000元转账到了王某的建设银行卡中，并将转账截图发给了王某，请王某用微信把钱转给何某丽朋友的银行卡。
王某看到转账还没有到账，担心被骗，要求确认身份，何某丽欣然同意，于是给王某打了QQ视频电话，打通后，王某看到何某丽端正坐在宿舍桌子前。何某丽告诉王某，她的室友已经睡了，让王某别讲话。王某在确认身份后就向何某丽提供的银行卡转账了4000元。第二天凌晨，王某发现何某丽向其转账的钱一直没有到账，于是在QQ上追问，但是一直没有得到回复，直到上午10时许，何某丽才回复其QQ被盗，双方电话沟通后，王某才发现自己被诈骗。
PAY ATTENTION
案例二：夜半惊魂
日前，某位在外留学的中国学生在社交媒体上发帖表示，她的家人差一点就遭遇了电信诈骗。该同学早上5点左右醒来，发现30多个未接来电，全是她妈妈及其身边人打来的，于是她立马给妈妈回电。
原来她妈妈接到了一个屏幕显示着女儿备注和号码的电话，电话里的人说，她的女儿在国外被绑架了，想要救人，必须打款50万到指定账号，否则就撕票，电话里还传来女儿不断求救的声音。号码、备注一样，甚至连电话那头传来的声音也与女儿十分相似。
万幸，这位妈妈比较冷静，由于该同学经常和父母科普诈骗知识，妈妈认为这个可能是诈骗电话。最后妈妈找了许多人帮忙一起拨打女儿的电话，及时与女儿确认，这才化解了危机。
PAY ATTENTION
案例三：请君入瓮
香港警方披露一起多人 “AI换脸”诈骗案，涉案金额高达2亿港元 ↓↓↓
CFO请你入视频会：
请按照要求将2亿港元分别转账15次，转到5个本地银行账户内
收到，好的领导
结果……
香港警方披露一起多人 “AI换脸”诈骗案，涉案金额高达2亿港元。
在这起案件中，一家跨国公司香港分部的职员受邀参加总部首席财务官发起的“多人视频会议”，并按照要求先后转账多次，将2亿港元分别转账15次，转到5个本地银行账户内。
之后，该分部向总部查询才知道受骗。警方调查得知，这起案件中所谓的视频会议中只有受害人一个人是“真人”，其他“参会人员”都是经过“AI换脸”后的诈骗人员。
@
如何提高防诈意识
专家有话说
PAY ATTENTION
暨南大学网络空间安全学院
杨安家教授
01
相比传统诈骗，AI诈骗具有哪些特点？
AI诈骗利用人工智能技术生成个性化的欺诈内容，根据目标受害者的特征和行为模式进行定制，使得诈骗信息更具针对性和说服力。此外，AI诈骗可以灵活调整诈骗内容和手法，随时变化形式，以逃避检测和防范措施，增加了诈骗的隐蔽性和持续性。更为甚者，AI诈骗与传统诈骗相比，成本更低，经过适当训练的AI模型能够在无人工干预的情况下自动运行。这意味着一旦AI诈骗工具被创建并部署，它就可以全天候、24小时进行欺诈行为，无需人工参与，从而降低了诈骗的人力成本。
总的来说，AI诈骗利用人工智能技术使得诈骗手段更加智能化、自动化和隐蔽化，攻击效率高、成本低、波及面广，对社会公众造成更大的威胁。
02
如何更有效地对学生进行教育科普？
首先，向学生普及人工智能基础理论知识，并结合实际案例，向学生展示AI诈骗的实际应用和危害。
其次，引导大家建立警惕意识，介绍常见的诈骗手法和识别方法，可以通过国家反诈App自主学习和掌握防范知识。
最后，如果有条件，可以组织学生进行实际的防范演练，让他们在模拟环境中体验如何应对不同类型的诈骗。
03
如何辨别AI诈骗？
首先，时刻保持警惕，避免轻易点击不明链接或下载附件。
其次，不要轻易泄露个人敏感信息，如果接到电话或邮件索取个人或敏感信息的请求，务必进行核实。
最后，安装和使用可信的安全软件和防病毒工具，定期更新系统和软件，以增强设备的安全性，防止受到恶意软件或网络攻击。
PAY ATTENTION
“高端”AI诈骗，如何甄别？
01
挥手、摁脸
可以要求对方在视频通话时，在脸部前挥手，挥手过程会造成面部数据干扰，伪造的面部就会出现抖动等异常情况；
可以让对方摁鼻子、摁脸，观察其面部变化。如果是真人的鼻子，按下去是会变形的，但AI生成的鼻子并不会。
02
提问、求证
在沟通中可以问一些只有对方知道的问题，验证对方的真实性。针对存疑的身份，如所谓领导或者熟人，可通过打电话或询问对方的亲朋好友，确认对方的真实身份和情况。
PAY ATTENTION
做好防范措施，注重隐私保护
01
信息安全
做好日常的信息安全的保护，加强对人脸、声纹、指纹等生物特征数据的安全防护。
02
病毒防范
不要登录来路不明的网站，以免被病毒侵入。
03
授权管理
对可能进行声音、图像甚至视频和定位采集的应用，做好授权管理。不给他人收集自己信息的机会，也能在一定程度上让AI换脸诈骗远离自己。
-暨南大学融媒体中心-
- THE END -
来源 | 国际学院 网络空间安全学院
部分内容来源光明网 央视新闻
海报 | 许炫铮
编辑 | 何伊琪
执行编委 | 崔天翔
校对 | 陈国琼
初审 | 李梅
复审 | 苏运生
终审发布 | 陈龙
投稿邮箱 | 151876960@qq.com
推荐阅读
点击图片，回顾往期精彩
国家线已出，就等你上岸！
点亮“赞”和“在看”↘↘