电脑桌面
添加小米粒文库到电脑桌面
安装后可以在桌面快捷访问

支持向量回归机

支持向量回归机_第1页
1/10
支持向量回归机_第2页
2/10
支持向量回归机_第3页
3/10
3.3 支持向量回归机 SVM 本身是针对经典的二分类问题提出的,支持向量回归机(Su pport Vector Regression,SVR)是支持向量在函数回归领域的应用。SVR 与SVM 分类有以下不同:SVM 回归的样本点只有一类,所寻求的最优超平面不是使两类样本点分得“最开”,而是使所有样本点离超平面的“总偏差”最小。这时样本点都在两条边界线之间,求最优回归超平面同样等价于求最大间隔。 3.3.1 SVR 基本模型 对于 线 性 情 况 ,支持向量机函数拟 合 首 先 考 虑 用线 性 回归函数bxxf )(拟合niyxii,...,2,1),,(,niRx 为输入量,Ryi 为输出量,即需要确定 和b 。 图3-3a SVR 结构图 图3-3b 不灵敏度函数 惩罚函数是学习模型在学习过程中对误差的一种度量,一般在模型学习前己经选定,不同的学习问题对应的损失函数一般也不同,同一学习问题选取不同的损失函数得到的模型也不一样。常用的惩罚函数形式及密度函数如表 3-1。 表 3-1 常用的损失函数和相应的密度函数 损失函数名称 损失函数表达式 ( )ic  噪声密度()ip   -不敏感 i  1ex p()2(1)i  拉普拉斯 i 1 ex p()2i 高斯 212i 21ex p()22i 鲁棒损失 21 ( ) ,if;2,otherwise;2iii 2exp(),2exp(),2iiiifotherwise 多项式 1pip  exp()2 (1/)pipp 分段多项式 11,1,piipiifppotherwisep 1exp(),1exp(),piipiifppotherwisep 标准支持向量机采用 -不灵敏度函数,即假设所有训练数据在精度 下用线性函数拟合如图(3-3a)所示, **( )( )1,2,...,,0iiiiiiiiyf xf xyin  (3.11) 式中,*,ii 是松弛因子,当划分有误差时, ,*i 都大于0,误差不存在取0。这时,该问题转化为求优化目标函数最小化问题: niiiCR1**)(21),,( (3.12) 式(3.12)中第一项使拟合函数更为平坦,从而提高泛化能力;第二项为减小误差;常数0C表示对超出误差 的样本的惩罚程度。求解式(3.11)和式(3.12)可看出,这是一个凸二次优化问题,所以引入 Lagrange 函数: *11****111()[( )]2[( )]()nniiiiiiiinniiiiiiiiiiLCyf xyf x ...

1、当您付费下载文档后,您只拥有了使用权限,并不意味着购买了版权,文档只能用于自身使用,不得用于其他商业用途(如 [转卖]进行直接盈利或[编辑后售卖]进行间接盈利)。
2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。
3、如文档内容存在违规,或者侵犯商业秘密、侵犯著作权等,请点击“违规举报”。

碎片内容

支持向量回归机

确认删除?
VIP
微信客服
  • 扫码咨询
会员Q群
  • 会员专属群点击这里加入QQ群
客服邮箱
回到顶部