1 / 3 回归系数的最小二乘法现在我们用最小二乘法来估计模型中的未知参数0 和1
假设有n 组独立观测值:1122,,,,
,,nnx yxyxy(例 1 中的 n=16),则由( 2)有01,1,2,
,iiiyxin21,2,n,n220101=1=10,
==(--)iiniiiiiEDQQyx且,,,相互独立记,称01,Q为偏离真实直线的偏差平方和
最小二乘法就是10和的估计^^,01 ,使得01^^0,1,,= min01QQ为此,将上式分别对01、求偏导数,得n01=10n01=11-2( --)=-2( --)iiiiiiQyxQyx令上式^^0101,,取代,得n^^0=1^^01=1(y --)=0(y --)=0iiiiniiiixxx于是有^^0111^^201111nniiiinnniiiiiiinxyxxx y此方程组称为正规方程
由正规方程解得^^01^122yxxyxyxx或^1121()()()niiiniixxyyxx其中2211111111,,,nnnniiiiiiiiixx yy xxxyx ynnnn2 / 3 用这种方法求出的估计^(0,1)i i称为i 的最小二乘估计, 简称 LS 估计
(经验)回归方程为^^^^011()yxyxx显 然 ,^1 是 拟 合 直 线 的 斜 率 ,^1 是 拟 合 直 线 在0xx 处 的 截 距
n 个 点,1, 2,iix yin 的几何重心,x y 落在拟合直线上
为了便于计算,人们常用下列记号和等式的各种变形222=1=1=1=1=1=1=1222=1=1=1=-=-=---=-=-=-=-=-=-nnnxxiiiiiiinnnnXYiiiiiiiiiiiinnnyyiiiiiiiLx xx x xxnxLx xy yx x yy y xx y nxyLy yy y