机器学习

R语言机器学习系列-决策树多分类代码

本文主要是介绍R语言机器学习系列-决策树多分类代码,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

采用决策树解决多分类问题的代码与解决二分类问题的代码类似,也是构建初始树、后剪枝、输出变量重要性、树形图、预测几个步骤。差别在于,决策树预测多分类问题的具体分类是直接采用predict函数,将type设置为class即可,这样得到的就是各个样本的具体预测类别。当然也可以将type设置为prob,从而得到预测概率,该预测概率可以用于后续计算多分类的AUC。

关于多分类问题的ROC,可以将结果拆分为多个一vs.其他的形式,从而得到多条经过转化的二分类的ROC曲线,这些曲线可以采用叠加的方式放到一张图上。

# 构建模型
set.seed(42) # 固定交叉验证结果
fit_dt_clsm <- rpart(
  form_clsm,
  data = traindata,
  method = "class", # 分类模型
  parms = list(split = "information"), # 分裂规则
  control = rpart.control(cp = 0.005) # 复杂度参数
)
# 原始分类树
fit_dt_clsm
# 复杂度相关数据
printcp(fit_dt_clsm)
plotcp(fit_dt_clsm)
# 后剪枝
fit_dt_clsm_pruned <- prune(fit_dt_clsm, cp = 0.01)
print(fit_dt_clsm_pruned)

# 变量重要性
fit_dt_clsm_pruned$variable.importance
barplot(fit_dt_clsm_pruned$variable.importance)
# 变量重要性图示
varimpdata <- data.frame(importance = fit_dt_clsm_pruned$variable.importance)
ggplot(varimpdata, 
       aes(x 
这篇关于R语言机器学习系列-决策树多分类代码的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!