gbdtlr

文档摘要

gbdt lr gbdt+lr是facebook提出在线广告模型，我们知道LR之前在广告和推荐系统由于其快速的计算而被广泛使用，使用由于lr是线性模型，其模型表现能力不强，需要做大量的特征工程。 facebook提出提出使用决策树进行特征embedding。为了提升线性分类器的准确度，有两种方法进行特征变换：对于连续特征。先进行离散化bin，然后把bin的编号作为离散型特征。这样的话，线性模型可以分段的学习到一个非线性的映射，在每一段内的映射是不变的。另外，对于bin边界的学习非常重要对于离散特征。做笛卡尔积，生成的是tuple input features。笛卡尔积穷举了所有的特征组合，其中也包含部分没用的组合特征，不过可以筛选出来。