文章目录
一、什么是梯度提升回归？
-
- 一、什么是梯度提升回归？
-
- 1.1 介绍
- 1.2 步骤
- 1.3 梯度提升的优势
- 二、梯度提升
-
- 2.1 语法
- 2.2 数据集
- 2.3 数据准备
- 2.4 梯度回归实现
- 2.5 随机搜索
- 2.6 特征重要性
- 2.7 评估训练和测试偏差
- 三、最后
-
- 3.1 总结
- 3.2 优缺点
机器学习中的“提升”是一种将多个简单模型组合成单个复合模型的方法。这也是为什么 boosting 被称为加法模型的原因，因为简单模型（也称为弱学习器）一次添加一个，同时保持模型中现有的树不变。随着我们组合越来越多的简单模型，完整的最终模型成为更强大的预测器。“梯度提升”中的“梯度”一词源于该算法使用梯度下降来最小化损失。
