查看原文
其他

厉害!迄今第一人!宁德寿宁90后小伙子,攻破亚马逊人脸识别算法!

文星在线 宁德晚报 2019-06-08


太牛啦!

宁德这个90后小伙

在一场国际安全极客大赛上

攻破了亚马逊人脸识别算法

是唯一一个破解人脸识别算法的团队


在10月24日的GeekPwn国际安全极客大赛上,IYSWIM团队攻破了比赛中的人脸识别算法,结果是系统把《最强大脑》主持人蒋昌建的照片识别成了施瓦辛格。


吴育昕在 CAAD CTF比赛中


这场比赛共有6个团队参加,IYSWIM是唯一一个破解人脸识别算法的团队。IYSWIM团队队员吴育昕系Facebook员工,他在接受第一财经采访时表示,自己用了谷歌的FaceNet开源代码模型攻破了该算法。


攻破亚马逊人脸识别的90后专家



吴育昕,宁德寿宁南阳人,

1993年4月出生。


2011年7月

毕业蚌埠第二中学(父母在安徽工作);

2011年9月~2015年7月

就读清华大学计算机科学与技术系

2015年8月~2016年12月 

就读美国卡内基梅隆大学机器人研究所计算机视觉专业(研究生)。

2017年2月开始

Facebook人工智能研究院 (FAIR)研究工程师

从事人工智能研究。


他所获得过的奖项情况


2009年、2010年两次获全国青少年信息学奥林匹克竞赛一等奖


2009年、2010年两次获全国高中数学联赛一等奖


2013年 第31届清华大学“挑战杯”学生课外科技作品竞赛特等奖;


2014年 趋势科技亚太编程竞赛第二名(中国台北);


2014年ACM SIGMOD数据库编程竞赛第四名(美国);


2015年 ASC世界大学生超级计算机竞赛冠军(中国);


2015年ISC国际学生超级计算机竞赛冠军(德国);


2015年 CodeGate黑客大赛第八名(韩国);


2015年 DEFCON黑客大会第五名(美国);


2016年 FPS 游戏毁灭战士(DOOM)人工智能大赛冠军;


2018年9月在计算机视觉三大会议之一的欧洲计算机视觉国际会议(ECCV)上提交的论文的《Group Normalization》(组归一化)获得了最佳论文荣誉提名奖(会议只评出一篇最佳论文和两篇荣誉提名论文)。


2018年10月24日至25日,在GeekPwn2018国际安全极客大赛上吴育昕代表的IYSWIM 战队在限时 30 分钟的比赛中,于 21 分钟破解了在赛前被专家评委视为“无法完成的任务” ——破解亚马逊名人鉴别系统 Celebrity Recognition,并最终获得“CAAD(对抗样本挑战赛) CTF”的冠军。


在AI大行其道时,

藏匿于其中的安全问题也开始得到关注,

即便是巨头也暴露了风险。


要知道,

这项人脸识别算法API接口

来自于亚马逊名人鉴别系统(Rekognition)。


据了解,Rekognition是亚马逊于2016年末推出的人脸识别系统,它作为亚马逊云业务的一部分,一直与政府合作,向后者提供基于“人”的安防服务。用户可以通过标记存储在其服务器上的图像来教该服务从人群中找出个人,其面部识别技术可以扫描其他照片和视频来检测特定的个人。


人脸识别的危险

今年GeekPwn国际安全极客大赛设定了AI控制人类世界的故事背景。10月24日的第一场比赛中,参赛选手即极客利用“CAAD对抗样本”技术生成对抗样本,目标是使AI对飞行器、武器和人脸产生判断错误,逃出“觉醒黑客”们的囚禁地。


要求是,AI将宇宙飞船飞行器识别为石头,把导弹认为是安全的,并将主持人蒋昌建的照片识别为施瓦辛格。


在飞行器、导弹和人脸三项图像识别中,人脸识别被认为是最难攻克的一关,用了亚马逊名人鉴别系统(Rekognition)API接口。


比赛进行到一半,飞行器和武器先后被选手闯关成功,6个团队已经对人脸识别发起了不下90次攻击,却迟迟未能攻破其中算法。


赛事设计者,碁震KEEN公司创始人兼CEO、GeekPwn黑客大赛发起创办人王琦表示,这道题可能没有选手能攻破,因为迄今为止,这项人脸识别系统尚未被攻破过。


话音落下不久,比赛进行了约20分钟时,IYSWIM团队成功解题,主持人蒋昌建被系统确认为施瓦辛格,现场一片欢呼。


IYSWIM团队吴育昕对第一财经表示,自己在网上找了FaceNet开源代码,用其中的几套模型进行训练,最终破解了比赛中的系统算法。


吴育昕对第一财经表示,自己是以个人名义报名参赛,自己有名队友没有来到现场,比赛开始前知道这项比赛是人脸识别,但不知道是哪张图片。


FaceNet系谷歌人脸识别系统,基于Tensorflow环境运行,可以用于人脸验证、识别和聚类等。


包括人脸识别在内的图像识别是AI最重要的分支之一,也是应用场景最为广泛的领域之一。人脸识别被广泛应用于零售、安防等领域,但GeekPwn比赛,却用短短20分钟时间向外界揭示了其中的危险。这再一次引发了公众对人脸识别等AI技术的担心。


三倍于互联网时代的安全难度

GeekPwn比赛的目的是预演潜在风险、拓宽安全思维、帮助智能设备更加安全地问世、协助人工智能健康成长的手段。


从筹办第一届比赛开始,GeekPwn比赛已经连续举办了五年,五年间互联网安全环境也发生着变化。


“最初我们意识到不光是手机和电脑,特斯拉也是可以被黑的;2015年O2O最火的时候,行业潜在危险是比如叫滴滴叫到一万辆导致系统瘫痪、保洁服务订单被黑导致上门的其实是个坏人;2016年,美国开始关注轮椅、游戏机被黑的案例;最近AI领域比较受关注。”王琦对第一财经表示。


毫无疑问的是,AI的发展使得互联网安全难度进一步加大。


“安全本质上是人和人的对抗,到AI时代,安全攻防难度至少扩大了3倍,不光是人和人的对抗,还有人和机器的对抗,机器和机器的对抗,机器和人的对抗。AI的安全问题得AI解决,传统安全领域的人只能提供思路。”王琦称。


中国少年强!

为了不起的宁德人点赞!



来源:闽南网、第一财经、文星在线

大家都在看©央视新

救援视频曝光!连江渔船在福鼎沙埕口外遇险,搜救持续中……

宁德市区南漈生态公园总体规划获批,将建城市郊野生态公园

赞!第三季度全省“五个一批” 项目正向激励综合考评,蕉城拿了个第一!

守望“北礵岛” ——海防官兵生活纪实


    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存