CCCF精选｜AI与安全的交叉创新

操晓春，中山大学教授、网络空间安全学院院长。他的主要研究领域包括网络空间内容安全、人工智能安全。他曾获得省部级科学技术进步奖一等奖、中国人工智能学会吴文俊人工智能自然科学奖二等奖，国家杰出青年基金、中国科学院“百人计划”；曾担任《电子学报》和IEEE汇刊TIP、TMM、TCSVT的编委/资深领域编委等；发表ACM/IEEE汇刊论文90余篇、中国计算机学会（CCF）推荐A类国际学术会议和期刊论文140余篇；作为项目负责人主持了科技创新2030“新一代人工智能”重大项目、国家自然科学基金重点项目等10余项，获国家发明专利（含国防专利）20余项、美国发明专利2项，在人工智能与网络空间内容安全交叉领域突破数项关键技术，被国家相关主管部门应用。

关键词：网络空间安全、人工智能与认知安全

在CCCF出刊200期之际，操晓春教授接受了CCCF的访谈，介绍了自己的网络空间安全研究之路，并展望了未来20年内网络安全领域可能出现的进步。

问

您为何选择网络空间安全作为研究方向？您目前正在做的工作是什么？

操晓春：我目前主要的研究方向包括网络空间多媒体内容理解与安全、人工智能与认知安全等，属于人工智能与网络空间安全的交叉领域，主要面向国家和行业相关安全部门在信息内容安全方面的需求。国家需求中的很多问题不乏具有前瞻性、基础性的科学问题和关键技术，持续激发着我研究的兴趣。所以，我非常热爱这个研究方向。

从事该方向研究可以追溯到我的硕士求学阶段，当时我在北京航空航天大学师从熊璋教授研究监控视频分析技术，后来到美国攻读博士学位以及工作期间，开始将研究方向逐渐转到计算机视觉与安全相结合的多媒体内容取证方向。我回国后就开始组建自己的科研团队，经过十几年的努力，团队的研究方向也在逐渐拓宽，但仍然是以人工智能为核心的视觉内容智能计算与网络空间内容安全为主。目前我们正在做的一个工作就是面向网络空间安全方面的需求，针对网络空间海量开源数据跨平台、跨模态、跨来源数据的一系列分析难题，提出数据和知识融合的跨媒体因果推断解决方法，并应用在相关实际场景中。

问

您在多视角特征表示方面取得了重要的研究成果，请简单介绍一下此项研究。

操晓春：多视角特征隐空间完备表示方面的研究成果是我和我指导的博士生张长青共同完成的。在这项成果中，我们突破了传统的各视角数据到统一表示的信息正向映射定式，提出了隐空间表示到多视角数据的逆向映射模型，并引入了希尔伯特-斯密特正则以度量经典多视角融合时忽略的多样性，大幅增强了多视角信息的完备性、一致性和互补性。这项工作我们先后发表在CVPR、ICCV、TPAMI、IJCV等学术会议与期刊上。与此同时，我们将这项工作进行了工程实现，部分解决了网络空间多模态内容理解不深、识别线索来源单一等技术难题，提升了特定内容的识别精度与发现效率，并应用于国家重大战略领域。

问

您是中国计算机学会优博、中国电子学会优博、中国科学院优博的指导教师，您在指导研究生做科研方面有什么心得？

操晓春：科学研究中的艰辛有很多，包括研究方向未得到支持、研究成果未得到认可、研究工作遇到瓶颈，等等。比如我们曾经向CCF推荐的一个A类学术会议投稿10篇，最后却只被接收了1篇，邮箱列表里满页的：“We regret to inform you that your paper …”。

面对困难，我总是带领学生探讨文章被拒或接收的共性原因，尤其是分析每篇论文的创新性。论文被拒后，我和学生针对审稿人的每一个问题进行认真剖析并修改。最难改的当属质疑论文创新性不足的问题，这涉及增加新的贡献、提出新的方法、重做新的实验，工作量非常大。因此我指导学生做研究首先要有所创新，论文贡献要足，避免增量式的工作。任何一个工作的创新性都会有所侧重，有的侧重研究新问题，有的侧重提出新方法。相对于改进已有方法的工作，一些选题较新的工作更容易受到青睐。例如，我们曾经研究过一个图像篡改方面的新问题——图像着色检测(image colorization detection)。在图形学和图像处理领域，图像着色研究有相当长的历史，但是这方面的编辑类篡改研究尚未得到图像取证领域的学者关注。我们团队提出这个新颖的研究问题后，尽管第一篇投稿使用的解决办法是比较传统的机器学习模型，甚至没有使用深度学习模型，但是由于关注的问题比较新颖且具有较强的现实应用意义，该工作很快被图像取证领域权威期刊IEEE TIFS接收。

科学研究的英文叫“Re-Search”，荆棘满地、困难重重，需要持之以恒的科学精神。譬如我最近毕业的博士生代朋纹，因为科研任务的需要，在没有任何前期积累的情况下，扎根在文字检测和识别这个传统方向。在研究初期，我指定了大量相关领域的论文让他阅读，并让他对已有方法的优缺点进行总结，同时深入挖掘和拓展可以做的研究方向。在对研究方向形成整体认识后，我注重培养他的独立科研能力，鼓励他提出自己的想法与思路，再与我进行讨论交流并完善创新点和方法。虽然在实践过程中提出的方法经常难以达到理想的效果，但他能静下心来深入分析结果，并坚持不懈地在该领域深入探究。最终在任意方向(arbitrarily-oriented)文字检测和识别领域做出了成果，并应用在卫星图片中物体检测领域，成果发表在TIP、CVPR、TMM上。我正在指导的学生梁思源和加小俊在人工智能脆弱性领域坚持探索。梁思源在科研初期写作逻辑性较弱、图表展示不清，我要求她有选择性地精读论文，对论文每块内容（包括动机、挑战以及方法）逐项分析，培养她形成简明、凝练的学术表达习惯。加小俊有一段时间曾经陷入科研瓶颈期，缺乏创新的研究思路，我鼓励他与不同研究方向的同学进行交流，这样既能开阔他的学术视野，又能带给他不同研究方向的学术启发。目前，他们分别在黑盒AI系统攻击和对抗训练领域取得了不错的成果，双双入选“腾讯犀牛鸟精英人才计划”。

问

在未来20年内，您认为人工智能与网络安全交叉融合方面将有哪些发展？

操晓春：在网络空间安全技术中，“智能化”将成为竞争力的关键，AI技术将会为网络安全带来新挑战和新机遇。去年“十四五”规划中也正式提出了“加强网络安全关键技术研发，加快人工智能安全技术创新，提升网络安全产业综合竞争力”。未来，智能技术在网络空间安全方向的优势将逐步显现：一是提升攻防能力。在攻击侧，通过智能学习增加攻击发现和溯源的难度；在防御侧，通过智能推断实现安全威胁的快速感知。二是适应工业互联网、物联网等新场景衍生出的安全需求，能够给资源受限场景下的威胁响应提供解决方案。

此外，人工智能的一个主要研究领域是计算机视觉，其大部分算法的输入为连续或者稠密的图像数据，输出为人类可以理解的类别、位置、深度等离散或者稀疏语义空间。由于定义域和值域集合的基数不一致，这些计算机视觉算法不满足适定(well-posed)问题的第三个条件，是经典的不适定(ill-posed)问题。纯数据驱动的计算机视觉算法是否既能具有抗烟雨雾霾等复杂扰动的鲁棒性，又能避免dedicated对抗扰动?是否存在裨益计算机视觉任务的正向扰动？这些问题是计算机视觉任务的永恒话题，也随着深度学习的广泛应用历久弥新。

最后，人工智能一种可能的发展趋势是在大数据驱动的基础上融入大知识驱动，在其不断超越人类智能的同时保证安全鲁棒、公平正义、透明可释、可归责追责。 

问

您之前曾活跃于CCF YOCSEF，您对CCF的未来发展有什么期待？

操晓春：我自学生时代就高度认同CCF的文化和理念，刚回国工作便加入了CCF大家庭，参与创办了CCF YOCSEF天津分论坛，并担任YOCSEF学术委员会副主席（2013—2014），于2014年成为CCF杰出会员，十多年来尽心竭力为CCF的发展与壮大积极贡献力量。

未来，希望CCF能更多地汇聚全球华人学者和企业界科技人才，为中国计算机学科学术共同体的健康发展提供更加多元化的实践与展示舞台，我愿继续组织并参与CCF的建设与活动，持续推动中国计算机事业向新而行。同时，衷心祝愿CCCF越办越好。  

操晓春

中山大学教授、网络空间安全学院院长。他的主要研究领域包括网络空间内容安全、人工智能安全。

特别声明：中国计算机学会(CCF)拥有《中国计算机学会通讯》(CCCF)所刊登内容的所有版权，未经CCF允许，不得转载本刊文字及照片，否则被视为侵权。对于侵权行为，CCF将追究其法律责任

CCF推荐

【精品文章】

点击“阅读原文”，查看更多CCCF文章。