别再只用LR了！用GBDT+LR搞定CTR预估，Facebook的工业级实战经验分享

工业级CTR预估实战：GBDT+LR组合模型深度解析与避坑指南

在广告点击率（CTR）预估领域，线性回归（LR）模型曾长期占据主导地位。但面对海量用户行为数据和复杂特征交互的场景，单纯依赖LR模型已难以满足工业级应用的需求。本文将深入剖析Facebook提出的GBDT+LR组合模型，从工程实现细节到实战避坑技巧，为算法工程师提供一份可直接落地的解决方案。

1. 为什么需要超越传统LR模型？

在推荐系统和广告投放场景中，CTR预估的准确性直接影响商业收益。传统LR模型虽然简单高效，但存在两个致命缺陷：

1. 特征工程依赖人工：LR无法自动捕捉特征间的高阶交互关系，需要人工设计大量交叉特征
2. 非线性关系表达能力弱：对于用户行为中的复杂非线性模式，线性模型难以准确建模

Facebook在2014年提出的解决方案巧妙结合了两种算法的优势：

• GBDT（梯度提升决策树）：自动进行特征组合与非线性变换
• LR（逻辑回归）：高效处理高维稀疏特征

关键洞察：GBDT+LR的核心价值在于将特征工程自动化，同时保持模型的可解释性和计算效率

2. GBDT+LR架构设计原理

2.1 两阶段模型协同机制

GBDT+LR采用分阶段处理策略，各司其职：

1. 特征转换阶段：

   • 输入：原始特征（用户画像、物品属性、上下文特征等）
   • 处理：GBDT将样本映射到各子树的叶子节点
   • 输出：组合特征向量（one-hot编码的叶子节点命中情况）

2. 预测阶段：

   • 输入：GBDT生成的特征向