论文:Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate,Ma 等,2018。
CVR 模型要预测“用户点击之后是否转化”,但训练数据只在已点击样本上拥有转化标签,线上排序却要面对全部曝光。训练空间和推断空间不一致,正是 ESMM 要解决的起点。
两个相互关联的问题
传统做法从点击样本中训练 CVR 模型,会遇到:
- 样本选择偏差:点击不是随机事件。已点击样本的分布与全部曝光不同;
- 数据稀疏:转化比点击更少,CVR 分支得到的有效监督十分有限。
如果简单把未点击样本都当成“未转化”训练 CVR,又混淆了“没有机会转化”和“点击后没有转化”。ESMM 转而利用用户行为的序列结构:曝光 → 点击 → 转化。
概率链是模型的骨架
令 CTR = P(click | impression),CVR = P(conversion | click, impression),那么点击且转化的概率为:
CTCVR = P(click & conversion | impression)
= CTR × CVR
ESMM 训练 CTR 与 CVR 两个任务塔,并把两者输出相乘得到 CTCVR。训练损失由全曝光空间上的 CTR 标签与 CTCVR 标签共同组成。这样,模型不需要只在点击子集上单独优化一个 CVR 损失,而是通过可观测的完整空间目标约束 CVR 分支。
这里最值得注意的是:ESMM 并不是为未点击样本虚构 CVR 标签。它利用概率乘法把一个不可直接观测的条件概率,连接到可以在全部曝光上定义的联合事件。
共享表示如何缓解稀疏
CTR 和 CVR 塔共享底层 Embedding。点击任务拥有更密集的监督,可以帮助稀疏特征学习更稳定的表示;CVR 任务再基于同一表示捕捉转化意图。
这是一种典型的多任务迁移:共享层承接共性信息,任务塔保留各自目标。共享过少,稀疏任务得不到帮助;共享过多,又可能产生负迁移。因此在实际系统中,任务梯度的尺度、冲突和训练节奏都值得监控。
落地时不能只复现结构
实现 ESMM 时,我会重点检查四件事:
- 曝光、点击、转化标签是否严格满足漏斗定义;
- 转化归因窗口是否一致,延迟转化是否被截断;
pCTR × pCVR的数值与校准是否稳定;- 离线评估是否同时覆盖 CTR、CTCVR、CVR 以及业务切片。
CVR 不能只在点击样本上看 AUC。还需要观察校准、不同流量位置和用户群的偏差,并最终用线上实验验证排序收益。
它解决了什么,又没有解决什么
ESMM 提供了处理样本空间不一致和稀疏监督的优雅框架,但“全空间训练”不等于估计天然无偏。后续研究指出,概率乘法、任务依赖和数据生成过程仍可能带来估计偏差。真实漏斗也常包含加购、收藏、到店等中间行为,单一的点击—转化链未必足够。
我的理解
ESMM 最重要的价值,是先尊重业务事件之间的概率关系,再设计多任务目标。它没有直接为缺失标签找替代品,而是换了一个能够被完整观测的学习目标。
当监督信号天然缺失时,好的模型设计往往不是制造更多标签,而是重新寻找可观测量之间的结构约束。
DISCUSSION