《数据挖掘》 实验报告 1 实验一 分类技术及其应用 实习要求： 基于线性回归模型拟合一个班学生的学习成绩，建立预测模型。数据可由自己建立1 0 0 个学生的学习成绩。 1） 算法思想： 最小二乘法 设经验方程是y=F(x)，方程中含有一些待定系数an，给出真实值{(xi,yi)|i=1,2,...n},将这些x,y 值 代入方程然后作差，可以描述误差：yi-F(xi)，为了考虑整体的误差，可以取平方和，之所以要平方是考虑到误差可正可负直接相加可以相互抵消，所以记 误差为： e=∑(yi-F(xi))^2 它是一个多元函数，有an 共 n 个未知量，现在要求的是最小值。所以必然满足对各变量的偏导等于0，于是得到n 个方程： de/da1=0 de/da2=0 ... de/dan=0 n 个方程确定n 个未知量为常量是理论上可以解出来的。用这种误差分析的方法进行回归方程的方法就是最小二乘法。 线性回归 如果经验方程是线性的，形如 y=ax+b，就是线性回归。按上面的分析，误差函数为： e=∑(yi-axi-b)^2 各偏导为： de/da=2∑(yi-axi-b)xi=0 de/db=-2∑(yi-axi-b)=0 于是得到关于a,b 的线性方程组： (∑xi^2)a+(∑xi)b=∑yixi (∑xi)a+nb=∑yi 设A=∑xi^2,B=∑xi,C=∑yixi,D=∑yi，则方程化为： Aa+Bb=C Ba+nb=D 《数据挖掘》 实验报告 2 解出 a,b 得： a=(Cn-BD)/(An-BB) b=(AD-CB)/(An-BB) 2） 编程实现算法 C++程序： #include
#include using namespace std; void main() { double x,y,A=0.0,B=0.0,C=0.0,D=0.0,delta,a,b; int n,sno,avgstudy; cout<<"请拟合输入样本数目"<>n; for(int i=0;i>sno; cout<<"请输入学生上自习时间，按照每天小时计算"<>x; cout<<"请输入学生请输入平均成绩"<>y; A+=x*x; B+=x; C+=x*y; D+=y; } delta=A*n-B*B; a=((C*n-B*D)/delta); b=((A*D-C*B)/delta); cout<<"a="<>avgstudy; cout<
