【科大新闻】全球顶级AI算法竞赛落幕,中国科大两战队分获冠亚军!
RNG战队分别获得防御类冠军 + 非定向攻击类亚军,获2520支参赛队的最好成绩
近年来深度学习技术的不断突破,极大促进了人工智能行业的发展,而人工智能模型本身的安全问题,也日益受到AI从业人员的关注,2014年行业首次提出针对图像的对抗样本的概念,并用实验结果展示了深度学习模型在安全方面的局限性。通过对原始样本有针对性的加入微小扰动来构造对抗样本,该扰动不易被人眼所察觉,但会导致AI模型识别错误,这种攻击被称为“对抗攻击“,也是目前深度学习领域最热的研究课题之一。
人工智能产业方兴未艾、如火如荼,在此背景下,由阿里巴巴集团旗下阿里安全集团、阿里天池大数据平台、人工智能领域国际顶会IJCAI等单位共同举办了本届阿里巴巴人工智能对抗算法竞赛,吸引了全球2520支高质量战队参赛,竞争激烈,比赛各类别设置冠亚季军各1个,特别奖2个。
本次比赛共分为无目标攻击(使目标图片被错判为正确类别之外的其他类)、有目标攻击(使目标图片被错判为正确类别之外的指定类)和模型防御(将对抗样本图片进行正确分类)三项内容。活动凭借强大的影响力、权威性和锻炼机会得到国内外关注人工智能安全的大学及企业组织的关注,吸引了来自世界各地超过2500支战队报名参赛。
战队同学演讲、指导老师张卫明教授发言
模型防御成绩
有目标攻击成绩
无目标攻击成绩
为了让比赛能够有效应用于实际场景,本次比赛采用了阿里巴巴电商平台的商品图片作为数据集。主办方提供了11万张商品图片作为训练集,共包含110个类别,并使用数百张图片作为评测数据。其中无目标攻击不指定具体类别,只要让模型识别错误即可,同时扰动越小越好,这俨然是一场模拟的网络攻防战!
指导老师、战队情况介绍
向上滑动阅览
指导老师:
俞能海,中国科学技术大学教授、博导,网络空间安全学院副院长、电子工程与信息科学系执行主任,教育部网络空间安全教学指导委员会副主任、国家重点研发计划项目首席科学家、中国云计算专家委员会委员及云安全组长,中国大数据专家委员会委员,中国图象图形学学会副理事长及多媒体取证与安全专家委员会主任委员。主要研究兴趣包括媒体内容安全、计算机视觉、信息隐藏等,已在国际学术期刊和会议发表论文330余篇。
张卫明,中国科学技术大学教授、博导,网络空间安全学院副院长,中国图象图形学学会多媒体取证与安全专家委员会副秘书长。主要研究兴趣包括媒体内容安全、信息隐藏和数据隐私保护。已在国际学术期刊和会议TIT、TIFS、TIP、TCSVT、TMM、TDSC、TOMM、CVPR、INFOCOM等发表论文150多篇。解决了信息隐藏领域的3个基础编码问题,相关工作被该领域著名学者J.Fridrich教授以作者姓氏命名为ZZW构造,并被收录到剑桥大学出版的数字隐写经典教科书中。
RNG战队:
刘嘉阳,中国科学技术大学网络空间安全学院博士研究生,主要研究方向为对抗样本防御;
崔灏,中国科学技术大学网络空间安全学院硕士研究生,主要研究方向为屏射水印、对抗攻防;
董潇逸,中国科学技术大学网络空间安全学院硕士研究生,主要研究方向为对抗样本生成。
红小豆战队:
卞寰宇,中国科学技术大学网络空间安全学院博士研究生,主要研究方向为对抗攻防与多媒体安全;
周航,中国科学技术大学网络空间安全学院博士研究生,主要研究方向为3D信息隐藏与深度学习攻防;
周文柏,中国科学技术大学网络空间安全学院博士后研究员,主要研究方向为信息隐藏与人工智能安全。
网络空间安全学院简介
中国科学技术大学是中国国内最早开展信息安全研究和教学的高校,早在1974年就开设了编码与密码专业。
近年来,中国科学技术大学在网络空间安全领域取得了长足发展,2016年获批教育部首批“网络空间安全一级学科博士点”,2017年正式设立网络空间安全学院,入围首批国家一流网络安全学院建设示范项目,“量子信息与网络安全”被列为优先支持建设的双一流新兴交叉学科。
学院已经在网络空间安全的理论与实践研究方面,获得了一批具有重要价值的研究成果,形成了一支具有开拓创新能力的网络空间安全专业教学与科研队伍。例如,在量子信息科学方面,以潘建伟、杜江峰、郭光灿三位院士为代表的科研团队成为量子信息研究领域的世界劲旅,正逐步形成中国量子信息和网络空间安全交叉融合的学术研究核心力量。
学院拥有网络空间安全一级学科博士点,并以一系列高水平教学科研平台为依托,包括:国家级信息与计算机实验教学中心、量子信息科学国家实验室(筹)、国家未来网络试验基础设施(合肥中心)、教育部量子信息与量子科技前沿协同创新中心、中科院量子信息与量子科技前沿卓越中心、中科院电磁空间信息重点实验室等。
转载自:USTC未名课题组 高维数据
(本文转载自中国科大本科招生)