最小确定这条为空耙它心百作是
第一章模型建立1
1回归模型:条件:1
假设的模型结果:用模型对数据学习,预测新数据1
1・1一元线性回归模型(最小二乘法)它通过最小化误差的平方和寻找数据的最佳函数匹配我们以最简单的一元线性模型来解释最小二乘法
什么是一元线性模型呢
监督学习中,如果预测的变量是离散的,我们称其为分类(如决策树,支持向量机等),如果预测的变量是连续的,我们称其为回归假设从总体中获取了n组观察值(XI,Y1),(X2,Y2),…,(Xn,Yn)平方损失函数Q=ix二壬%—亦=3-1]=1E卡求极值的问题
町以邇过求导数得到-求口时两个待估参数的倔导数:=2空(X-州-厲扎)卜1)=03F-1=2工厲-几-几心(-可三
2-1/1+E_fJ{0]=——m卷捐垃学
讪说我包知追•临鮭的极低曲为丘导为0旳点“aQ_2>返>;-S>,工曲厂“工忙-(工X,1・1・2逻辑回归模型将线性回归中的一次模型变成逻辑回归函数即sigmoid函数
或者:加囱1十esp(-严①)其他的思路和想法与线性回归一样,所以说逻辑回归的模型是一个非线性模型,但是它本质上又是一个线性回归模型损失函数(误差函数)为:m刀泸logfe(^)I(1-^)log(l-賦为(0))i-11
3softmax回归它是逻辑回归的扩展从分类的角度来说,逻辑回归只能将东西分成两类(0,1),softmax可以分成逻辑回归中,模型函数(系统函数)为:加何=1+Exp(—0%)Softmax回归中,模型函数(系统函数)为:output=0if工了呵叼threshold(加卅)=1肋=2卅;':&)1J
(庐)=制H何;目)EL存1
2神经网络模型1
1神经元首先来一个三输入单输出的神经元,输入输出都是二进制(0,1)
举例来说:XI表示天气是否好X2表示交通是否好X3表示是否有女朋友陪