都来读小说网

手机浏览器扫描二维码访问

1 5 2 Bagging算法（第1页）

1.5.2bagging算法

与boosting算法不同，bagging算法的分类器之间没有依赖关系，可以并行生成。bagging使用自助采样法，即对于m个样本的原始训练集，我们每次先随机采集一个样本放入采样集，接着把该样本放回，也就是说下次采样时该样本仍有可能被采集到，这样采集m次，最终可以得到m个样本的采样集。由于是随机采样，每次的采样集不同于原始训练集和其他采样集，这样得到了多个不同的分类器。

下面举个例子，数据集使用随机生成的数据，使用baggingclassifier，分类器个数设置为100：

x，y=datasets.make_classification（n_samples=1000，

n_features=100，n_redundant=0，random_state=1）

train_x，test_x，train_y，test_y=train_test_split（x，

y，

test_size=0.2，

random_state=66）

clf=baggingclassifier（n_estimators=100）

clf.fit（train_x，train_y）

pred_y=clf.predict（test_x）

report（test_y，pred_y）

输出对应的性能指标，准确度为83.5%，f1为84.21%，准确率为84.61%，召回率为83.81%，auc为0.83：

accuracy_score:

0.835

f1_score:

0.842105263158

recall_score:

0.838095238095

precision_score:

0.846153846154

confusion_matrix:

[[7916]

[1788]]

auc:

0.834837092732

对应的roc曲线如图1-37所示，综合指标优于之前的knn，也略优于adaboost。

图1-37bagging的roc曲线

七零年代之悍妻发家忙  守婚如玉：敬前夫一杯酒  推掉那座塔  西湖女王  娱乐圈全民男神  收好你的信息素  魔祖无敌  重生之农门寡妇  弃妇翻身：王爷，滚远了  海贼：开局一双写轮眼  有凤来仪：本宫床下有个黑洞  超级富农  拐个太子当兄长  化天之神  极品神级妖孽  一吻定终身，晋少偏爱离婚女  开局就送万达广场  农家锦鲤太子妃  和离小娘子  [未穿今]虚拟偶像