在随机森林方法中,创建了大量的决策树。每个观察结果都被送入每个决策树。 每个观察结果最常用作最终输出。对所有决策树进行新的观察,并对每个分类模型进行多数投票。
对于在构建树时未使用的情况进行错误估计。 这被称为OOB(Out-of-bag)错误估计,以百分比表示。
R中的软件包“randomForest”
用于创建随机林。
在R控制台中使用以下命令安装软件包,还必须安装其它依赖软件包(如果有的话)。
install.packages("randomForest")
软件包“randomForest”
具有用于创建和分析随机林的randomForest()
函数。
在R中创建随机林的基本语法是 -
randomForest(formula, data)
以下是使用的参数的描述 -
我们将使用名为readingSkills
的R内置数据集来创建一个决策树。 如果我们知道变量:"age"
,"shoesize"
,"score"
以及"nativeSpeaker"
表示该人员是否为讲母语的人,那么它描述某个人员的阅读技能的得分。
以下是样本数据 -
# Load the party package. It will automatically load other required packages. library(party) # Print some records from data set readingSkills. print(head(readingSkills))
当我们执行上面的代码,它产生以下结果 -
nativeSpeaker age shoeSize score yes 5 24.83189 32.29385 yes 6 25.95238 36.63105 no 11 30.42170 49.60593 yes 7 28.66450 40.28456 yes 11 31.88207 55.46085 yes 10 30.07843 52.83124
我们将使用randomForest()
函数来创建决策树并查看它生成的图形。参考以下代码 -
setwd("F:/worksp/R") # Load the party package. It will automatically load other required packages. library("party") library("randomForest") # Create the forest. output.forest <- randomForest(nativeSpeaker ~ age + shoeSize + score, data = readingSkills) # View the forest results. print(output.forest) # Importance of each predictor. print(importance(output.forest,type = 2))
当我们执行上面的代码,它产生以下结果 -
Call: randomForest(formula = nativeSpeaker ~ age + shoeSize + score, data = readingSkills) Type of random forest: classification Number of trees: 500 No. of variables tried at each split: 1 OOB estimate of error rate: 1.5% Confusion matrix: no yes class.error no 99 1 0.01 yes 2 98 0.02 MeanDecreaseGini age 14.09296 shoeSize 17.88001 score 57.55174
结论
从上面所示的随机森林可以得出结论,鞋子大小和得分是决定某人是否是母语者的重要因素。 此外,该模型只有1%
的误差,这意味着我们可以以99%
的准确度预测。