机器学习基础集成学习（）数据挖掘十大算法C4.5.K 均值支持向量机先验的EM （最大似然）PageRank阿达博斯特KNN奈韦巴耶斯推车集成学习导言常用的集成学习算法装袋 Bagging随机森林 random forest助推器 boosting集合 : 集合方法 Ensemble Methods2020/12/3集成学习第 7-3 课导言 有人想投资 XYZ 公司。不过，他对它的性能并不确定。 所以，他就股价年增长率是否会超过 6% 寻找建议？ 他决定接触具有不同领域经验的各种专家 : XYZ 公司员工 : 对 70% 。。 XYZ 公司财务顾问 : 右 75% 倍。 股市交易员 : 正确 70% 倍。 竞争对手的雇员 : 对 60% 同细分市场调研团队 : 右 75% 倍。 社交媒体专家 : 正确 65% 次。2020/12/3集成学习第 7-4 课导言 有人想投资 XYZ 公司。不过，他对它的性能并不确定。 所以，他就股价年增长率是否会超过 6% 寻找建议？ 他决定接触具有不同领域经验的专家 : 在一个场景中，当所有 6 个专家 / 团队都验证这是一个好的决策（假设所有预测都是相互独立的），我们将得到综合准确率 : 1-30%*25%*30%*40%*25%*35%=99.92125%2020/12/3集成学习第 7-5 课定义 集成学习是一种机器学习范式，其中多个学习者被训练来解决相同的问题 也称为多分类器系统（），或基于委员会的学习（） 与普通机器学习方法试图从训练数据中学习一个假设不同，集成方法试图构造一组假设并将它们组合起来使用2020/12/3集成学习第 7-6 课定义2020/12/3集成学习第 7-7 课定义 个别学习者（） 是一个集合中使用的许多学习者 基础学习者（） 单个学习器通常由单基学习算法从训练数据中生成，以产生一个同构的集成。 组件学习者（） 单个学习者通常由多个学习算法从训练数据中生成，形成一个异构的集成。2020/12/3集成学习第 7-8 课定义 弱者 只比随机猜测略好一点 错误率 :<50% 大多数理论分析都适用于弱者 很强的学习者 呈现任意精度的分类 错误率 : 任意小 Ensemble learning is appealing because that is able to boost weak learners to strong learners By combining diverse of weak learnersEnsemble LearningLesson 7 - 9Definition Ensemble learning is appealing because that is able to boost weak learners to strong learners...
