LightGBM 实战：分类和回归任务详解

2023-11-29 13:27:55

前言

机器学习算法在当今数据驱动的世界中扮演着至关重要的角色。其中，LightGBM（Light Gradient Boosting Machine）凭借其高效性和准确性，已成为当今最流行的梯度提升决策树算法之一。在本篇文章中，我们将深入探讨 LightGBM 在分类和回归任务中的实战应用，为您提供详细的步骤指南和代码示例。

LightGBM 分类和回归

分类任务

<1> 基于 LightGBM 原生接口的分类

import lightgbm as lgb

# 加载数据
data = lgb.Dataset('train.csv', 'train_labels.csv')

# 训练模型
model = lgb.train({
    'objective': 'multiclass',  # 分类任务
    'num_class': 3  # 分类类别数
}, data)

# 预测
preds = model.predict(lgb.Dataset('test.csv'))

<2> 基于 Scikit-learn 接口的分类

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.ensemble import GradientBoostingClassifier

# 加载数据
iris = load_iris()
X, y = iris.data, iris.target

# 训练模型
model = GradientBoostingClassifier()
model.fit(X, y)

# 预测
preds = model.predict(X)

回归任务

<1> 基于 LightGBM 原生接口的回归

import lightgbm as lgb

# 加载数据
data = lgb.Dataset('train.csv', 'train_labels.csv')

# 训练模型
model = lgb.train({
    'objective': 'regression',  # 回归任务
}, data)

# 预测
preds = model.predict(lgb.Dataset('test.csv'))