时间序列分析方法 第04章 预测VIP免费

第1页共13页编号：时间：2021年x月x日书山有路勤为径，学海无涯苦作舟页码：第1页共13页第四章预测在本章当中我们讨论预测的一般概念和方法，然后分析利用ARMA(p,q)模型进行预测的问题。§4.1预期原理利用各种条件对某个变量下一个时点或者时间阶段内取值的判断是预测的重要情形。为此，需要了解如何确定预测值和度量预测的精度。4.1.1基于条件预期的预测假设我们可以观察到一组随机变量Xt的样本值，然后利用这些数据预测随机变量Yt+1的值。特别地，一个最为简单的情形就是利用Yt的前m个样本值预测Yt+1，此时Xt可以描述为：Xt={Yt,Yt−1,⋯,Yt−m+1}假设Yt+1|t¿表示根据Xt对于Yt+1做出的预测。那么如何度量预测效果呢？通常情况下，我们利用损失函数来度量预测效果的优劣。假设预测值与真实值之间的偏离作为损失，则简单的二次损失函数可以表示为(该度量也称为预测的均方误差)：MSE(Yt+1|t¿)=E(Yt+1−Yt+1|t¿)2定理4.1使得预测均方误差达到最小的预测是给定Xt时，对Yt+1的条件数学期望，即：Yt+1|t¿=E(Yt+1|Xt)证明：假设基于Xt对Yt+1的任意预测值为：Yt+1|t¿=g(Xt)则此预测的均方误差为：MSE(Yt+1|t¿)=E[Yt+1−g(Xt)]2对上式均方误差进行分解，可以得到：MSE(Yt+1|t¿)=E{[Yt+1−E(Yt+1|Xt)]+[E(Yt+1|Xt)−g(Xt)]}2¿E[Yt+1−E(Yt+1|Xt)]2+[E(Yt+1|Xt)−g(Xt)]2+2E{[Yt+1−E(Yt+1|Xt)][E(Yt+1|Xt)−g(Xt)]}其中交叉项的数学期望为(利用数学期望的叠代法则)：E{[Yt+1−E(Yt+1|Xt)][E(Yt+1|Xt)−g(Xt)]}=0因此均方误差为：MSE(Yt+1|t¿)=E[Yt+1−E(Yt+1|Xt)]2+[E(Yt+1|Xt)−g(Xt)]2为了使得均方误差达到最小，则有：g(Xt)=E(Yt+1|Xt)此时最优预测的均方误差为：MSE(Yt+1|t¿)=E[Yt+1−E(Yt+1|Xt)]2End我们以后经常使用条件数学期望作为随机变量的预测值。4.1.2基于线性投影的预测由于上述条件数学期望比较难以确定，因此将预测函数的范围限制在线性函数当中，我们考虑下述线性预测：第2页共13页第1页共13页编号：时间：2021年x月x日书山有路勤为径，学海无涯苦作舟页码：第2页共13页Yt+1|t¿=α'Xt如此预测的选取是所有预测变量的线性组合，预测的优劣则体现在系数向量的选择上。定义4.1如果我们可以求出一个系数向量值α，使得预测误差(Yt+1−α'Xt)与Xt不相关：E[(Yt+1−α'Xt)Xt]=0则称预测α'Xt为Yt+1基于Xt的线性投影。定理4.2在所有线性预测当中，线性投影预测具有最小的均方误差。证明：假设g'Xt是任意一个线性预测，则对应的均方误差可以分解为：MSE=E[Yt+1−g'Xt]2=E[Yt+1−α'Xt+α'Xt−g'Xt]2¿E(Yt+1−α'Xt)2+E(α'Xt−g'Xt)2+2E[(Yt+1−α'Xt)(α'Xt−g'Xt)]由于α'Xt是线性投影，则有：E[(Yt+1−α'Xt)(α'Xt−g'Xt)]=E[(Yt+1−α'Xt)Xt'](α−g)=0因此均方误差为：MSE=E(Yt+1−α'Xt)2+E(α'Xt−g'Xt)2为了使得均方误差达到最小，线性预测满足：g'Xt=α'Xt这是一个线性投影。End我们将线性投影预测表示为：^P(Yt+1|Xt)=α'Xt或者简化为：^Yt+1|t=α'Xt显然线性投影的预测误差仍然不小于条件期望预测，因此有：MSE[^P(Yt+1|Xt)]≥MSE[E(Yt+1|Xt)]当条件中包含常数的时候，此时线性投影当中就含有常数，为此使用^E表示含有常数项的线性投影预测，即：^E(Yt+1|Xt)=^P(Yt+1|1,Xt)4.1.3线性投影的性质根据线性投影的定义，我们可以求出投影的系数向量：E(Yt+1Xt')=α'E(XtXt')如果E(XtXt')是可逆的，则有：α'=E(Yt+1Xt')[E(XtXt')]−1命题4.1线性预测满足下述性质：(1)最优线性预测的均方误差为：MSE=E(Yt+1)2−E(Yt+1Xt')[E(XtXt')]−1E(XtYt+1)(2)线性投影满足线性平移性质：^P(aYt+1+b|Xt)=a^P(Yt+1|Xt)+b第3页共13页第2页共13页编号：时间：2021年x月x日书山有路勤为径，学海无涯苦作舟页码：第3页共13页证明：(1)根据投影向量的表达式，可以得到：MSE=E(Yt+1−α'Xt)2¿E(Yt+1)2−2E(Yt+1Xt')[E(XtXt')]−1E(XtYt+1)+E(Yt+1Xt')[E(XtXt')]−1[E(XtXt')]E(XtYt+1)化简就可以得到命题表达式。(2)需要证明a^P(Yt+1|Xt)+b是aYt+1+b的线性投影。显然，它是线性函数，其次，可以证明它满足正交性质。End4.1.4线性投影和普通最小二乘回归线性投影与最小二乘估计紧密...