揭秘无组织恶意攻击的关键特性
随着互联网的发展, 网上活动已经成为我们生活中很重要的一部分. 例如, 越来越多的顾客选择在亚马逊、易趣、淘宝等平台上购物, 人们开始习惯于在YouTube、Netflix 等视频网站观看电视节目, 等等. 推荐系统面对数量庞大的用户和物品, 需要将合适的物品推荐给相应的用户. 为此, 多种协同过滤的技术被提出, 用于帮助用户选择到适合自己的物品.
然而, 协同过滤算法容易受到恶意攻击的影响. 攻击者可以通过向用户-物品评分矩阵中插入虚假的用户评分信息来操纵系统的推荐. 一些攻击者会通过攻击来增加自己的物品的受喜爱程度(推广攻击), 一些攻击者则通过攻击降低竞争对手的物品的喜爱程度(贬低攻击).
现有攻击检测工作大多考虑有组织攻击, 并在各种有组织攻击上展现了良好的检测能力. 有组织攻击主要体现在攻击者通过同一种攻击策略生成大量虚假用户评分信息来攻击同一个目标物品. 例如, 一个攻击组织者根据同一种攻击策略生成数百个虚假用户评分信息来攻击一个目标电影, 其中攻击策略为每个虚假用户给最流行的电影最高的评分, 给目标电影最低的评分.
(图片来源于网络搜索)
为了减少恶意攻击的发生, 多种机制被提出, 用于提高恶意攻击的成本. 例如, 很多网站的注册需要实名制或者电话验证; 验证码被用来判断用户的反馈是否源自机器; 顾客在购买相应商品后, 才能给其评分等等. 上述这些机制导致有组织的攻击的成本变得很高. 例如, 亚马逊网站上的店家需要购买大量的商品才能伪造出数百个虚假用户的评分信息来实施一次有组织的攻击.
南京大学的周志华教授带领的团队研究了一种不同的攻击模式: 无组织恶意攻击, 即攻击者们在没有组织的情况下, 分别伪造少量的虚假用户评分信息来攻击同一个目标物品.
这类攻击模式出现在很多真实的应用中. 例如, 亚马逊网站上的店家可能会在没有组织的情况下, 分别伪造少量的虚假用户评分信息来贬低同一个热门商家的商品; 作家的支持者可能会在没有组织的情况下, 分别伪造少量的虚假用户来推广其作品.多个现实应用指出无组织恶意攻击对推荐结果产生了严重的影响. 研究人员通过实验也进一步证实了这一点.
研究人员评测了现有的多种恶意攻击检测方法在无组织恶意攻击上的检测效果. 实验结果表明现有攻击检测方法不能够有效地检测无组织恶意攻击. 文章分析了现有多种攻击检测方法可以成功的检测有组织攻击, 但无法有效地检测无组织恶意攻击的原因. 进而通过分析无组织恶意攻击的特性, 总结出无组织恶意攻击检测的关键.
无组织恶意攻击对推荐系统的影响.
无组织恶意攻击检测问题的研究
庞明, 周志华.
中国科学: 信息科学, 2018, 48(2): 177–186