多元线性回归分析—内容提要与案例

多元线性回归分析—内容提要 1.多 元 线 性 回 归 的 数 学 模 型 【模型的理论假设】设pxxx,,,21是) 2 ( p个自变量（解释变量）， y 是因变量，则多元线性回归模型的理论假设是 pp xxxy22110，),0(~2N， 其中，p,,,,210是1p个未知参数，0 称为回归常数，p,,,21称为回归系数，),0(~2N为随机误差. 【模型的建立】求 p 元线性函数 pp xxxEy22110 的经验回归方程 pp xxxyˆˆˆˆˆ22110， 其中， yˆ 是 Ey 的统计估计，pˆ,,ˆ,ˆ,ˆ210分别是,,,,,210p的统计估计，称为经验回归系数. 【模型的数据结构】设对变量向量yxxxp,,,,21的n次观测得到的样本数据为),,,,(21iipiiyxxx，) 1 ( ,,2,1 pni.为了今后讨论方便，我们引进矩阵 nyyyy21，npnppxxxxxxX1221111111，pˆˆˆˆ10 ，n21 于是，多元线性回归模型的数据结构为   Xy 称为多元样本回归方程，其中npXrank1)(,) ,(~21nnnnION 且各个i 相互独立.由于矩阵 X 是样本数据， X 的数据可以进行设计和控制，因此，矩阵 X 称为回归设计矩阵或资料矩阵. 注释 对 多 元 线 性 回 归 模 型 理 论 假 设 的 进 一 步 说 明 ： ⑴ 条 件npXrank1)(表 明 ， X 是 一 个 满 稚 矩 阵 ， 即 矩 阵 X 列 向 量 （ 解 释 变量 ） 间 线 性 无 关 ， 样 本 容 量 的 个 数 应 当 大 于 解 释 变 量 的 个 数 .反 该 假 设 时 ， 称 模 型 存 在 多重 共 线 性 问 题 . ⑵ 条 件) ,(~21nnnnION 且 各 个i 相 互 独 立 表 明 ， 系 统 受 到 零 均 值 齐 性 方 差 的 正态 随 机 干 扰 ， 系 统 自 变 量 之 间 不 存 在 序 列 相 关 ， 即 0)(iE ，jijiji ,0 ,),cov(2, ,,2,1, nji. 当jiji ),var()var(时 ， 称 回 归 模 型 存 在 异 方 差 .当jiji ,0),cov(时 ， 称 回 归 模型 存 在...