转载

快速上手：在R中使用XGBoost算法

介绍

你知道 XGBoost 算法是一种现在在数据科学竞赛的获胜方案很流行的算法吗?

那么，他比传统的随机森林和神经网络算法强在哪里呢？广义上来说，它在效率，准确性，可行性都更有优势（接下来我们将会详细讨论）。

在最近的几年中，模型预测已经变得越来越快速和准确了。我记得我曾花费数个小时在为某个模型构建特征工程上，模型却仅仅提升了几个百分点。现在，这些大量困难的问题都被更好的算法所解决。

从技术上说，XGBoost 是 Extreme Gradient Boosting 的缩写。它的流行源于在著名的Kaggle数据科学竞赛上被称为"奥托分类"的挑战。

2015年8月，Xgboost的R包发布，我们将在本文引用0.4-2版本的xgboost包。

在这篇文章中，我讲解释一个简单的方式来使用xgboost在R中。因此，下次当你建立一个模型时可以考虑一下这个算法。我确信这是一个令人惊艳和幸福的时刻。

什么是 XGBoost?

xgboost 是"极端梯度上升"(Extreme Gradient Boosting)的简称, 它类似于梯度上升框架，但是更加高效。它兼具线性模型求解器和树学习算法。因此，它快速的秘诀在于算法在单机上也可以并行计算的能力。

这使得xgboost至少比现有的梯度上升实现有至少10倍的提升。它提供多种目标函数，包括回归，分类和排序。

由于它在预测性能上的强大但是相对缓慢的实现，"xgboost" 成为很多比赛的理想选择。它还有做交叉验证和发现关键变量的额外功能。在优化模型时，这个算法还有非常多的参数需要调整。我们将在下一个章节讨论这些因素。

使用XGBoost数据的准备

XGBoost仅适用于数值型向量。是的!你需要使用中区分数据类型。

因此,您需要将所有其他形式的数据转换为数值型向量。一个简单的方法将类别变量转换成数值向量是一个"独热编码"。这个词源于数字电路语言,这意味着一个数组的二进制信号,只有合法的值是0和1。

在R中,一个独热编码非常简单。这一步(如下所示)会在每一个可能值的变量使用标志建立一个稀疏矩阵。稀疏矩阵是一个矩阵的零的值。稀疏矩阵是一个大多数值为零的矩阵。相反,一个稠密矩阵是大多数值非零的矩阵。

假设,你有一个叫“竞选”的数据集，除了反应变量，想将所有分类变量转换成一些标志。如下所示:

sparse_matrix <- sparse.model.matrix(response ~ .-1, data = campaign)

现在让我们分解这个代码如下:

“sparse.model。matrix”这条命令的圆括号里面包含了所有其他输入参数。
参数“反应”说这句话应该忽略“响应”变量。
“-1”意味着该命令会删除矩阵的第一列。
最后你需要指定数据集名称。

想要转化目标变量,你可以使用下面的代码:

output_vector = df[,response] == "Responder"

代码解释：

设 output_vector 初值为0。
在 output_vector 中，将响应变量的值为 "Responder" 的数值设为1；
返回 output_vector。

在R中运用Xgboost建立模型

可以使用xgboost破解任何数据问题，下面是简单的步骤:

步骤1:加载的所有库

library(xgboost) library(readr) library(stringr) library(caret) library(car)

步骤2:加载数据集

(这里我用一个银行的数据,我们需要找到一个客户是否有资格获得贷款)。

set.seed(100) setwd("C://Users//ts93856//Desktop//datasource") # 加载数据 df_train = read_csv("train_users_2.csv") df_test = read_csv("test_users.csv")

# 加载标签的训练数据

labels = df_train['labels'] df_train = df_train[-grep('labels', colnames(df_train))]

# combine train and test data df_all = rbind(df_train,df_test)

第三步:数据清洗和特征工程

# 清洗变量 :  这里我筛选出年龄不到14岁或超过100的人

df_all[df_all$age < 14 | df_all$age > 100,'age'] <- -1 df_all$age[df_all$age < 0] <- mean(df_all$age[df_all$age > 0])

# 独热编码分类特征 ohe_feats = c('gender', 'education', 'employer')

dummies <- dummyVars(~ gender +  education + employer, data = df_all) df_all_ohe <- as.data.frame(predict(dummies, newdata = df_all)) df_all_combined <- cbind(df_all[,-c(which(colnames(df_all) %in% ohe_feats))],df_all_ohe)df_all_combined$agena <- as.factor(ifelse(df_all_combined$age < 0,1,0))

我在 “feature_selected” 中为模型提供一组变量可供使用。本文后面会分享我在选择变量中一个快速又巧妙的方法。

df_all_combined <- df_all_combined[,c('id',features_selected)]  # split train and test X = df_all_combined[df_all_combined$id %in% df_train$id,] y <- recode(labels$labels,"'True'=1; 'False'=0) X_test = df_all_combined[df_all_combined$id %in% df_test$id,]

第四步:调整和运行模式

xgb <- xgboost(data = data.matrix(X[,-1]),   label = y,   eta = 0.1,  max_depth = 15,   nround=25,   subsample = 0.5,  colsample_bytree = 0.5,  seed = 1,  eval_metric = "merror",  objective = "multi:softprob",  num_class = 12,  nthread = 3 )

第五步:测试分数

您现在有了一个对象“xgb”,这是一个xgboost模型。下面是是如何评分测试数量:

# 在测试集预测的值 y_pred <- predict(xgb, data.matrix(X_test[,-1]))

在 Xgboost 中使用参数

我明白,现在,你会非常好奇地想知道用于xgboost模型的各种参数。它有三种类型的参数:通用参数、辅助参数和任务参数。

通用参数为我们提供在上升过程中选择哪种上升模型。常用的是树或线性模型。
辅助参数取决于你选择的上升模型。
任务参数,决定学习场景,例如,回归任务在排序任务中可能使用不同的参数。

让我们详细了解这些参数。我需要你注意，这是实现xgboost算法最关键的部分:

一般参数

silent : 默认值是0。您需要指定0连续打印消息,静默模式1。

booster : 默认值是gbtree。你需要指定要使用的上升模型:gbtree(树)或gblinear(线性函数)。

num_pbuffer : 这是由xgboost自动设置,不需要由用户设定。阅读 xgboost文档的更多细节。

num_feature : 这是由xgboost自动设置,不需要由用户设定。

辅助参数

具体参数树状图：

eta：默认值设置为0.3。您需要指定用于更新步长收缩来防止过度拟合。每个提升步骤后,我们可以直接获得新特性的权重。实际上 eta 收缩特征权重的提高过程更为保守。范围是0到1。低η值意味着模型过度拟合更健壮。
gamma:默认值设置为0。您需要指定最小损失减少应进一步划分树的叶节点。更大,更保守的算法。范围是0到∞。γ越大算法越保守。
max_depth:默认值设置为6。您需要指定一个树的最大深度。参数范围是1到∞。
min_child_weight:默认值设置为1。您需要在子树中指定最小的（海塞）实例权重的和，然后这个构建过程将放弃进一步的分割。在线性回归模式中，在每个节点最少所需实例数量将简单的同时部署。更大,更保守的算法。参数范围是0到∞。
max_delta_step：默认值设置为0。max_delta_step 允许我们估计每棵树的权重。如果该值设置为0,这意味着没有约束。如果它被设置为一个正值,它可以帮助更新步骤更为保守。通常不需要此参数,但是在逻辑回归中当分类是极为不均衡时需要用到。将其设置为1 - 10的价值可能有助于控制更新。参数范围是0到∞。
subsample：默认值设置为1。您需要指定训练实例的子样品比。设置为0.5意味着XGBoost随机收集一半的数据实例来生成树来防止过度拟合。参数范围是0到1。
colsample_bytree : 默认值设置为1。在构建每棵树时,您需要指定列的子样品比。范围是0到1。