Machine Learning
1、基础知识
1.1 机器学习方式
1.2 模型评估
1.2.1 错误率与精度
1.2.2 查准率与查全率
2、分类-基本算法
2.1 决策树
2.1.1 决策树的基本原理
2.1.2 决策树的三要素
2.1.3 决策树算法的优缺点
2.1.4 熵和信息增益的区别
2.1.5 剪枝处理的作用及策略
2.1.6 决策树算法-id3
2.1.7 决策树算法-c4.5
2.1.8 决策树算法-cart
3、分类-组合算法
3.1 集成学习概述
3.2 个体学习器
3.3 结合策略
3.4 Bagging和Boosting的联系与区别
3.5 Bagging
3.5.1 随机森林原理
3.6 Boosting
3.6.1 AdaBoost原理
-
+
tourist
register
Sign in
个体学习器
## 1 方法 我们有两个选择去得到个体学习器： 1. **第一种是所有的个体学习器都是一个种类的，或者说是同质的。** 比如说决策树个体学习器，或者说神经网络个体学习器。 2. **第二种是所有的个体学习器不全是同一个种类的，或者说是异质的。** 比如我们有一个分类问题，对训练集采用支持向量机个体学习器、逻辑回归个体学习器和朴素贝叶斯个体学习器来学习，再通过某种结合策略来确定最终的分类强学习器。 目前来说，同质个体学习器的应用是最广泛的，一般我们常说的集成学习方法都是指的同质个体学习器。而同质个体学习器使用最多的模型是 **CART 决策树** 和**神经网络** 。 ## 2 分类 同质个体学习器按照个体学习器之间是否存在依赖关系可以分为两类： 1. 第一个是个体学习器之间存在强依赖关系，一系列个体学习器基本都需要串行生成，代表算法是 **boosting 系列算法** 。 2. 第二个是个体学习器之间不存在强依赖关系，一系列个体学习器之间可以并行生成，代表算法是 **bagging** 和**随机森林（Random Forest）系列算法** 。 ## 3 参考文献 1. [集成学习原理小结](https://www.cnblogs.com/pinard/p/6131423.html)。
ricear
April 4, 2021, 11:22 a.m.
©
BY-NC-ND(4.0)
转发文档
Collection documents
Last
Next
手机扫码
Copy link
手机扫一扫转发分享
Copy link
Markdown文件
share
link
type
password
Update password