LightGBM 算法概述

简要解释 LightGBM

LightGBM（Light Gradient Boosting Machine）是一个开源的 机器学习 算法。它是基于决策树的算法，使用梯度提升来集成树。您可以在 GitHub 上找到该算法的代码存储库 — https://github.com/Microsoft/LightGBM . LightGBM 可用于排名和分类（二元和多类）结果。

LightGBM 与 XGBoost 的不同之处在于它的主要区别之一是它会逐叶生长——通过选择对数损失减少最大的叶子，并从那里继续构建树。

由于它的增长是逐叶增长，它可以更快地收敛，这使得它容易过拟合。因此，调整超参数非常重要。调整 max_depth 超参数 有助于确保不会发生这种情况。

其他几个重要的 超参数 , 包括 learning_rate, num_leaves, min_sample_split, max_bin, num_iterations, application。在此处查找所有其他参数： https://lightgbm.readthedocs.io/en/latest/Parameters.html .

LightGBM 还支持并行处理优化，使其速度非常快。此外，它还在后台将数值变量分桶到分类变量中，以使其速度更快，并降低内存使用量。它用 独家功能捆绑 (EFB) 减少特征的技术。 LightGBM 也使用 基于梯度的单侧采样 用于下采样样本以获得更快的运行和更高的准确性。

如果您有一个用例，您想构建一个需要预测连续、概率或标签结果的模型，您可以使用 LightGBM。 ** 例子：** 使用基于购买的模型对客户的购买概率和结果进行排名。在这个学习问题中，目标标签是客户是否购买了产品类别。 LightGBM 可以采用历史购买模式和客户人口统计等特征。然后它可以基于算法进行训练，并创建预测标签。

参考：

https://en.wikipedia.org/wiki/LightGBM

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明

本文链接：https://www.qanswer.top/15428/46480508