手淘促活那些事儿 | 智能投放算法框架助力用户增长
作者|王主彬（墨蠡）
出品|阿里巴巴新零售淘系技术部
导读：作为淘系用户增长算法团队，我们的定位是为淘系用户增长提供基础的用户理解、用户触达干预等算法能力，探索增长相关的玩法和机制，与产品、运营、开发等兄弟团队紧密配合，完成淘系用户增长的目标。
本文主要介绍以手淘促活为目的的全链路智能投放算法框架，该框架目前接入以 Pagani 为核心的全链路运营平台，首先使用用户意图识别算法圈选出目标人群，然后借助物料智能推荐和权益动态面额等算法实现全链路上用户的个性化触达干预。本文以 2019 年春节期间手淘促活项目为例，具体地介绍权益智能投放框架的设计思路和实际应用。
一、背景：春节手淘促活
由于快递物流、商家打烊等因素，春节是电商的淡季。对于手淘来说，在春节期间，用户的活跃程度有明显的下滑， DAU 出现一段时间的低谷。通过算法提前预测春节期间活跃度会发生下降的预警人群，配合不同阶段的用户运营干预（在节前预热期结合春节“吃喝玩乐”的场景，算法个性化推荐相应的虚拟权益；春节期间通过 PUSH 消息每日推送提升来访率），可以有效地促进用户回访、扼制用户活跃度的降低。
如图，通过对近两年春节前后的 DAU 的变化趋势进行统计分析，我们发现，春节对 DAU 的影响持续以除夕为中心的近一个月的时间（从腊月十六到正月十五左右），而传统春节放假的 7 天是 DAU 的最低谷（ 18 年除夕晚有春晚红包加持除外）。
根据以上分析结果，可定义出模型预测的关键的时间节点。在节前，通过算法预测，从腊月十六到正月十五的春节30天期间，活跃度会发生下降的“降级预警人群”，在整个活动期对“降级预警人群”进行有针对性的用户运营干预，而在进行干预时，又可以通过推荐算法，结合用户的意图识别，进行权益的个性化承接。
二、全链路智能投放算法框架
如图所示，权益智能投放算法框架，主要包括意图识别、权益推荐两个功能模块：
意图识别：
解决“是否发”的问题，侧重点在于“圈人”，给什么样的用户发放权益；
对于春节促活项目的具体诉求，通过用户的来访意图模型，提前预测无来访的用户，在站内通过支付成功页等场景的权益触达提前干预，站外通过PUSH消息等渠道进行权益触达和召回。
权益推荐：
解决“发什么”的问题，给用户发放什么样的权益；
拿到圈选的人群后，需要对人进行“千人千面”的权益个性化承接。
三、算法模块
3.1 意图识别
意图识别，根据用户画像和历史行为，预测用户未来某一时间段内、某种行为（如用户的来访、点击、收藏、加购、购买等）的发生的概率。
对于用户增长来说，大部分情况下，运营的干预目标往往不是单一的，而是“既要、又要、还要、也要“的。对于运营的一个干预策略，目标是多样性的，需要考虑来访率、次日留存率、浏览转化率、成交转化率、ROI等不同的目标如何权衡和综合优化。
针对不同的干预目标，构造样本数据和搭建多意图的训练体系：
LABEL选取和样本构造：
根据不同的优化目标，加工数据，选用不用的LABEL和抽取样本，如领取率LABEL对应权益是否领取，核销率LABEL对应权益是否核销，成交转化率对应用户是否有下单支付等；
用户意图体系构建：
训练用户来访、点击、收藏、加购、购买等不同的意图评分模型；
意图模型日常评估：
· 用户购买意图：AUC = 0.83，F1 score = 0.76
· 用户来访意图：AUC = 0.86，F1 score = 0.78
· 用户点击意图：AUC = 0.76，F1 score = 0.88
· 用户加购意图：AUC = 0.80，F1 score = 0.64
· 用户收藏意图：AUC = 0.88，F1 score = 0.58
具体到春节用户无来访的预测问题来说，核心就是用户来访意图的预测。以 2017 年春节期的数据作为训练集， 2018 年春节期的数据作为测试集，评估数据如下：
3.2 权益推荐
权益推荐，解决用户的权益个性化承接的问题，综合考虑用户的权益偏好和敏感度、各类权益的目标人群和库存量、平台的补贴成本等，实现用户、商家、平台的三方共赢。
手淘春节促活项目，是全链路智能投放框架首次应用于购后发放权益，由于初次上线且投放时间较短，算法需要快速迭代和提升效果。推荐算法经过冷启动、引入CTR模型、 Thompson Sampling 调权等 3 轮迭代，快速优化和提升了点击率和核销率。
▶ 3.2.1 冷启动策略
冷启动的策略设计主要包含两部分：
1、ε-Greedy算法
解决冷启动问题和优化系统 E&E 问题的最基础、简捷的方法。其基本思路为：在 (0, 1) 之间选择一个较小的ε值，然后以ε的概率选择流量，从权益底池中进行随机推荐，即完成勘探Exploration的功能，以 1 - ε 的概率选择流量，基于先验信息设计的决策树推送权益，即利用现在已有的先验信息完成开发Exploitation的功能。
2、基于先验信息设计决策树
在上线初期，权益底池中的各类优惠券还没有曝光、点击信息时，可以根据用户的基础画像信息，以及用户在站内已有的浏览、加购、购买等行为的信息，作为设计决策树时的一部分先验信息。
▶ 3.2.2 CTR模型
权益推荐模块，相比于用户意图识别，增加了“权益”这个实体，因此在特征的设计上需要更多的考虑权益维度、用户和权益的交叉特征等。可以说用户意图识别是一个偏用户洞察理解的问题，而权益个性化则是一个典型的推荐问题。
如图所示，在特征的设计上，主要包括用户维度特征、权益维度特征，以及用户和权益的交叉特征：
用户维度特征的设计，与用户意图识别模块基本类似，可以复用用户的基础特征、行为特征。而在权益维度，则需要更多地考虑权益本身的差异，通过标题、面额、所属二方业务、权益所映射的类目 ID ，以及历史的领取率、核销率更细致地刻画不同权益的差异性。同时，将用户的特征与权益的特征进行交叉，来学习不同画像的用户在指定权益上的偏好。
点击率预估模型选取的是 XFTRL 。XFTRL 是基于阿里的 eXtreme Parameter Server 平台开发的高性能异步 ASGD FTRL 算法，能够支持千亿规模的特征和长时间连续增量训练。
2017年，阿里巴巴推荐算法团队和计算平台 PAI 团队合作打造了 eXtremeParameter Sever 机器学习平台（XPS)，广泛全流量运行在手机淘宝的猜你喜欢、生活研究所、飞猪旅行和天猫推荐等大数据场景，取得了较好的效果。
FTRL 是一种 Online Learning Optimizer ，原始的 FTRL 的具体资料可以参考论文： Mcmahan, H. Brendan , et al. "Ad click prediction: a view fromthe trenches." Proceedings of the 19th ACM SIGKDD internationalconference on Knowledge discovery and data mining ACM, 2013.
XFTRL 算法是对经典线性算法 FTRL 的扩展，是为了解决大规模数据下 FTRL 的一些缺点而提出的。集团内的多数场景对于用户行为时效性要求很高，实时/准实时学习可以充分利用实时日志数据，快速更新模型来适应用户最新行为，更好地强调近期样本的重要性，可以实时快速迭代，快速反应线上变化。
利用上线初期积累的3天的样本训练模型，测试集评估 AUC 仅达 0.61 。另外，在分析时发现各个二方权益的曝光量差异较大，且长尾的二方权益的量很小，因此在短时间内优化算法， E&E 机制的设计就至关重要。
▶ 3.2.3 E&E 优化
长尾 item 在推荐系统中很少或没机会展示，导致 CTR 预估不准，需要探索性给他们创造一些机会，但不能给系统带来太大损失，这就是 E&E 问题。针对 E&E 的问题，我们选取了比较经典的 Thompson Sampling 算法进行 explore 。
汤普森采样（Thompson Sampling）基于贝叶斯思想，全部用概率分布来表达不确定性。
假设每个 item 有一个产生回报的概率p，我们通过不断试验来估计一个置信度较高的概率 p 的概率分布。
假设概率p的概率分布符合beta(wins,lose)分布，它有两个参数: wins, lose， 每个 item 都维护一个 beta 分布的参数。每次试验选中一个 item ，有回报则该 item 的 wins 增加 1 ，否则 lose 增加 1 。
每次选择 item 的方式是：用每个 item 现有的 beta 分布产生一个随机数b，选择所有 item 产生的随机数中最大的那个 item 。
汤普森采样算法的核心在于确定 Beta 分布的参数，以表征后验的 ctr ，如下图所示，为汤普森采样拟合后验 ctr 的分布曲线：
汤普森采样代码实现比较简单，在 Java 中可以基于 math3.distribution.BetaDistribution 包快速实现。在计算广告和推荐领域应用的效果与 UCB（Upper Confidence Bound ，一种基于估计的置信区间设计的E&E优化策略）相比 competitive to or better ，且对于数据延迟反馈、批量数据反馈更 robust 。
四、实验效果
整个春节促活项目，包括意图识别“圈人” 和权益推荐的 “个性化承接”两部分， 因此AB实验设计上，包括圈人的干预桶与空桶的对比（衡量干预带来的活跃度提升和DAU增量），和权益个性化承接算法桶与随机桶的对比（衡量权益个性化算法的效能）。
手淘促活整体AB指标 （干预桶对比空桶）
干预桶日均来访率提升1.2%
干预桶人群活跃度未下降的用户比率提升1.42%
权益个性化AB指标（算法桶对比随机桶）
领取率提升40%
核销率提升100%
五、对未来的期望
更完备的数据链路：
数据是算法的核心驱动力，完备的数据链路至关重要。目前有一部分场景的埋点和数据链路尚未打通，比如进入二方承接页的数据的回捞的问题，后续是重点推动和解决的。
引入”供需平衡“的分配机制：
在多供给物料混排时，综合考虑供需关系，从博弈论和机制设计的角度考虑整个系统，设计供给与需求之间的游戏规则，进一步提升活跃用户在链路核心节点的转化率；
沉淀用户生命期有效算法干预策略：
依靠现有的用户增长权益智能发放体系，沉淀各生命期用户算法干预组合策略。
0到千万DAU，微淘技术架构演进之路
历时1年，上百万行代码！首次揭秘手淘全链路性能优化（上）