专题|维护电商平台信息真实和竞争公平《人工智能治理与可持续发展实践白皮书》

《人工智能治理与可持续发展实践白皮书》

阿里巴巴集团联合中国信通院编写了《人工智能治理与可持续发展实践白皮书》，于2022世界人工智能大会“数字时代的技术责任论坛”上，正式发布！全面总结了阿里巴巴在人工智能治理与可持续发展领域的实践，重点针对当前人工智能应用中的热点问题，从数据、技术、管理及多元协同等方面，系统性介绍了我们的实践思路和方法，同时辅以若干专题进行阐释，期待为社会各界提供有益参考。

白皮书全文4.5万余字，现分章节陆续分享。

往期章节回顾请点击👇：

专题

维护电商平台信息真实和竞争公平

1.电商场景下反作弊的核心问题和挑战

伴随电商平台的快速成长，包含虚假交易、刷单炒信、虚假评价、风险流量在内的一系列作弊手段和风险行为成为电商生态所面临的重要威胁，成为影响电商环境真实公平的一大问题。为了维护商家的正当利益、保障广大消费者的合法权益，电商平台需要对作弊行为进行有力的感知识别，在博弈的过程中也需要不断克服各种挑战：

01 黑产恶意对抗

随着平台反作弊算法能力的升级和管控的深入，黑产分子的行为模式也在循序演进，并且不再机械单一。不法分子通过对动作添加一些噪声扰动，从而规避风险识别模型，例如：刷单过程也往往进行货比三家、嫌疑用户也在刻意增加页面停留时长等。这些黑产对抗行为对反作弊识别模型的鲁棒性提出了更加严苛的要求。

02 作弊行为越发隐蔽

为了规避线上反作弊系统的识别和人工巡场稽查，部分黑产已摆脱了传统单打独斗、链路单一的行为作弊方式。 开始向手法更为隐蔽、账号风险更低、导购链路更仿真的“地推刷单”模式演进。作弊商家精心谋划的作弊炒信行为的痕迹极易淹没在超大规模的用户浏览数据之中。

总体而言，反作弊动态攻防的特点日益突出，电商黑产也朝向高度规模化、组织化、技术化的方向发展。

2.淘宝针对电商场景下作弊行为的治理实践

针对当前黑产作弊手段和发展趋势，亟需构建大规模、专业化、强鲁棒、可解释的电商反作弊风控平台，助力维护公平的电商生态。

1）AutoRisk行为风控引擎

淘宝基于电商场景行为风险重点建设了AutoRisk行为风控引擎，主要包括主动发现、风险提纯、风险认知和解释三个环节。在识别能力鲁棒性与隐蔽性团伙发现能力上得到显著提升，并引入自监督异常发现算法大规模应用于未知模式攻击检测领域。同时根据业务特性，对于交易前-中-后全链路风险进行提前研判和实时化风险预测，全面应用于淘宝电商场景反作弊风控，实现了在异常主动发现和风险提前防控方面的突破。

2）对抗训练提升模型鲁棒性

通过对抗训练的方式提升在噪声干扰下的模型鲁棒性，从而削弱或者消除这些扰动对模型准度的影响。在添加对抗样本时需要着重考虑以下几个因素：i）有效性：添加的对抗样本能够有效地对样本进行扰动；ii）高效性：生成对抗样本的过程应该是高效的，能够在线性时间内完成，并在对抗特征生成上快速实现；iii）可行性：添加对抗样本的方式在现实中必须是黑产可操作的，否则对抗训练样本将与实际不符，不但无法加强模型的鲁棒性，反而会损害模型性能。经过对抗训练的模型在初始样本集和对抗样本集中都展现出了较好的效能。

3）风险团伙挖掘

尽管刷单形式和作弊手段不断升级，隐蔽性越来越强，但在有限的资源约束下，黑产团伙在执行任务时往往会呈现出团伙聚集等特征。因此，淘宝提出了风险团伙挖掘的解决方案。一是基于大规模图神经网络的FRODO反作弊系统，其中针对高风险欺诈用户，我们提出了多视图异构图神经网络Multi-view HGNN算法，如下图所示。

线上实时识别虚假交易，线下主动聚类挖掘风险社群，并形成联动外部系统的自动化情报网络，实时高效地传递风险信号。最终构建了域内+域外、线上+线下、离散行为+聚集团伙、提前预警+主动防控的全方位打击网络虚假交易的能力。

与此同时，该创新工作形成学术论文《What Happens Behind the Scene? Towards Fraud Community Detection in E-Commerce from Online to Offline》，获得WWW2021物联网研讨会最佳论文奖。二是基于无监督的风险团伙挖掘方案Phalanx，解决在少样本甚至无样本条件下风险团伙挖掘问题。Phalanx利用用户在商品上的行为数据构图，基于聚集性和相似性主动发现作弊团伙，包括“自动构图-团伙发现-团伙解释-风险团伙输出”的一站式输出。FRODO和Phalanx等方案的的大规模应用，显著提升了交易公平性，有力保障了商家的正当利益和广大消费者的合法权益。

淘宝也借助此能力协助司法机关对刷单炒信行为进行有力打击，实现全社会范围内的法治提升。例如刷单治理的相关工作推动“全国首例电商平台打假案判决”、“全国首例组织刷单入刑案判决”，被《法制日报》和法制网评选入“2017年推动互联网法治进程十大事件”。

🌟下期预告专题：《加强儿童类商品内容治理，守护未成年人健康成长》

我们将持续更新，敬请期待😚～关注【AAIG】公众号，回复「 白皮书 」一键下载全文👇

 今日推荐 往期精彩推荐点击标题查看文章




更多人工智能治理和可持续发展好文
点击下方名片关注和星标【阿里巴巴人工智能治理与可持续发展研究中心】👇AAIG课代表，获取最新动态就找她

 关注公众号发现更多干货

有启发点在看喔👇