在推荐系统的离线评估中，我们面临一个根本性的矛盾：我们使用观测数据来评估干预效果。正如 Eugene Yan 在其文章《Counterfactual Evaluation for Recommendation Systems》中指出的，推荐本质上是一个干预问题 —— 我们想知道 “如果展示不同的推荐，用户会如何反应？” 但传统的离线评估却将其视为观测问题，仅评估模型对历史数据的拟合程度。
这种错配导致了反事实评估的需求，而逆倾向得分（IPS）估计器成为主流解决方案。然而，当样本量有限时，IPS 估计器面临严峻的高方差问题，而回归模型则容易产生高偏差。双重稳健（Doubly Robust, DR）估计器应运而生，它通过巧妙结合两种方法，提供了双重保护机制。
IPS 估计器的高方差陷阱
IPS 估计器的核心思想是通过倾向得分的倒数重新加权观测数据。对于每个用户 - 物品对 $(X_i, T_i, Y_i)$，其中 $X_i$ 是特征，$T_i$ 是是否展示的指示变量，$Y_i$ 是结果（如点击），IPS 估计器为：
$$ \hat{V}{IPS} = \frac{1}{N}\sum{i=1}^N \frac{T_i Y_i}{\hat{P}(X_i)} $$
这里 $\hat {P}(X_i)$ 是倾向得分，即物品被展示给用户的估计概率。问题在于，当 $\hat {P}(X_i)$ 很小时，权重 $\frac {1}{\hat {P}(X_i)}$ 会变得极大，导致方差爆炸。在小样本场景中，倾向得分的估计本身就不准确，这种方差问题会被进一步放大。
以长尾推荐为例，冷门物品的展示概率可能低至 $10^{-4}$ 甚至更小，这意味着单个观测的权重可达 10000 倍。这样的极端权重不仅使估计不稳定，还会放大数据中的噪声。
回归模型的偏差风险
另一种方法是使用回归模型直接估计条件期望 $E [Y|X,T=1]$。这种方法避免了权重问题，但对模型设定非常敏感。如果回归模型错误设定了 $Y$ 与 $X$ 的关系，就会产生系统性偏差。
在小样本场景中，我们往往无法使用复杂的非线性模型，而简单的线性模型可能无法捕捉真实的数据生成过程。更糟糕的是，这种偏差是隐性的 —— 我们无法从数据中直接诊断模型是否被正确设定。
双重稳健估计器的数学原理
双重稳健估计器的精妙之处在于它结合了 IPS 和回归模型的优势。其公式为：
$$ \hat{ATE}{DR} = \frac{1}{N}\sum{i=1}^N \left[ \frac{T_i(Y_i - \hat{\mu}_1(X_i))}{\hat{P}(X_i)} + \hat{\mu}1(X_i) \right] - \frac{1}{N}\sum{i=1}^N \left[ \frac{(1-T_i)(Y_i - \hat{\mu}_0(X_i))}{1-\hat{P}(X_i)} + \hat{\mu}_0(X_i) \right] $$
其中 $\hat {\mu}_1 (X_i)$ 和 $\hat {\mu}_0 (X_i)$ 分别是处理组和对照组的回归模型预测值。
这个估计器具有双重稳健性：只要倾向得分模型 $\hat {P}(X)$ 或回归模型 $\hat {\mu}(X)$ 之一正确，估计就是一致的。这种性质在小样本场景中尤为重要，因为我们通常无法保证两个模型都正确。
小样本偏差校正技术
1. 权重截断（Weight Truncation）
最直接的方差控制方法是截断极端权重。设置一个上限 $M$，将所有权重限制在 $[0, M]$ 范围内：
$$ w_i^{trunc} = \min\left(\frac{1}{\hat{P}(X_i)}, M\right) $$
经验上，$M$ 的取值范围通常在 10 到 100 之间。截断虽然会引入偏差，但在小样本中，这种偏差 - 方差的权衡往往是值得的。Kawamura 等人在 2025 年的研究中发现，适度的权重截断（$M=50$）可以在偏差增加不超过 2% 的情况下将方差降低 60% 以上。
2. 自归一化 IPS（SNIPS）
自归一化 IPS 通过归一化权重来减少方差：
$$ \hat{V}{SNIPS} = \frac{\sum{i=1}^N \frac{T_i Y_i}{\hat{P}(X_i)}}{\sum_{i=1}^N \frac{T_i}{\hat{P}(X_i)}} $$
SNIPS 本质上是一个比率估计器，它通过除以权重的和来自动调整尺度。这种方法在 Swaminathan 和 Joachims（2015）的研究中被证明可以有效降低方差，但会引入有限的样本偏差。在小样本中，这种偏差通常是可以接受的。
3. 倾向得分正则化
在小样本中，倾向得分模型容易过拟合。通过正则化可以改善倾向得分的估计质量：
- L2 正则化：防止逻辑回归系数过大
- 贝叶斯平滑：向先验分布收缩，特别适用于稀有事件
- 交叉验证：使用交叉验证选择正则化强度
4. 稳定双重稳健估计器（StableDR）
Li 等人（2022）提出的稳定双重稳健估计器进一步改进了 DR 估计器：
$$ \hat{V}{StableDR} = \frac{1}{N}\sum{i=1}^N \left[ \hat{\mu}_1(X_i) + \frac{T_i(Y_i - \hat{\mu}_1(X_i))}{\max(\hat{P}(X_i), \tau)} \right] $$
其中 $\tau$ 是一个小的正数（如 0.01），用于防止分母过小。这种方法结合了截断和双重稳健的优点。
工程实现参数与监控
关键参数配置
# 双重稳健估计器配置
DR_CONFIG = {
"propensity_clip_min": 1e-6, # 倾向得分下限
"weight_truncation_max": 50, # 权重截断上限
"regularization_lambda": 0.1, # 倾向得分模型正则化强度
"min_samples_per_class": 10, # 每个类别最小样本数
"cross_validation_folds": 5, # 交叉验证折数
"bootstrap_samples": 1000, # 自助法样本数（用于置信区间）
}
监控指标
-
权重分布：监控权重的均值、方差、最大值和百分位数。理想情况下，95% 的权重应小于截断上限。
-
倾向得分校准：使用校准图检查倾向得分估计的质量。在小样本中，可以使用分箱校准（如 10 个等频分箱）。
-
双重稳健性检查：比较纯 IPS、纯回归和 DR 估计的结果。如果三者差异过大，可能表明模型设定有问题。
-
方差 - 偏差分解：使用自助法估计方差，通过模拟研究估计偏差。
小样本特定优化
-
分层抽样：确保每个重要子群体都有足够的样本。
-
协变量平衡：检查处理组和对照组在关键协变量上的平衡性。
-
敏感性分析：改变关键参数（如截断阈值、正则化强度），观察估计的稳定性。
实际部署建议
阶段化部署策略
-
探索阶段（样本量 < 1000）：
- 优先使用 SNIPS，因其实现简单且相对稳定
- 结合领域知识设置先验倾向得分
- 重点关注点估计，谨慎解释置信区间
-
验证阶段（样本量 1000-10000）：
- 引入完整的 DR 估计器
- 实施权重截断和正则化
- 开始建立监控体系
-
生产阶段（样本量 > 10000）：
- 使用 StableDR 等高级变体
- 实现自动化参数调优
- 建立完整的偏差 - 方差监控
风险控制措施
-
保守决策：在小样本中，对统计显著性要求更严格（如使用 α=0.01 而非 0.05）。
-
多重检验校正：如果同时评估多个指标或变体，应用 Bonferroni 或 FDR 校正。
-
领域知识融入：将业务知识转化为倾向得分的先验分布或回归模型的约束条件。
-
渐进式验证：先在小流量上验证，再逐步扩大。
结论
双重稳健估计器为小样本推荐系统的反事实评估提供了强大的工具。通过巧妙结合 IPS 和回归模型，它实现了偏差和方差之间的更好平衡。然而，在小样本场景中，单纯的 DR 估计器仍不足够，需要结合权重截断、正则化、自归一化等技术进行偏差校正。
关键是要认识到，没有任何单一方法能在所有小样本场景中都表现完美。实际部署中，应该采用多层次策略：从简单的 SNIPS 开始，随着样本量增加逐步引入更复杂的方法；同时建立完善的监控体系，持续评估估计质量。
最终，成功的反事实评估不仅依赖于统计方法，还需要深入理解业务场景、精心设计数据收集策略，以及建立跨职能的协作机制。只有这样，我们才能在小样本的限制下，做出可靠的数据驱动决策。
资料来源
- Eugene Yan, "Counterfactual Evaluation for Recommendation Systems" - 系统阐述了推荐系统反事实评估的基本原理
- Kazuki Kawamura et al., "Counterfactual Reciprocal Recommender Systems for User-to-User Matching" (2025) - 提供了小样本偏差校正的实际案例和技术细节