采用决策树解决多分类问题的代码与解决二分类问题的代码类似,也是构建初始树、后剪枝、输出变量重要性、树形图、预测几个步骤。差别在于,决策树预测多分类问题的具体分类是直接采用predict函数,将type设置为class即可,这样得到的就是各个样本的具体预测类别。当然也可以将type设置为prob,从而得到预测概率,该预测概率可以用于后续计算多分类的AUC。
关于多分类问题的ROC,可以将结果拆分为多个一vs.其他的形式,从而得到多条经过转化的二分类的ROC曲线,这些曲线可以采用叠加的方式放到一张图上。
# 构建模型 set.seed(42) # 固定交叉验证结果 fit_dt_clsm <- rpart( form_clsm, data = traindata, method = "class", # 分类模型 parms = list(split = "information"), # 分裂规则 control = rpart.control(cp = 0.005) # 复杂度参数 ) # 原始分类树 fit_dt_clsm # 复杂度相关数据 printcp(fit_dt_clsm) plotcp(fit_dt_clsm) # 后剪枝 fit_dt_clsm_pruned <- prune(fit_dt_clsm, cp = 0.01) print(fit_dt_clsm_pruned) # 变量重要性 fit_dt_clsm_pruned$variable.importance barplot(fit_dt_clsm_pruned$variable.importance) # 变量重要性图示 varimpdata <- data.frame(importance = fit_dt_clsm_pruned$variable.importance) ggplot(varimpdata, aes(x