试谈对数极大似然估计

第九章 对数极大似然估量9.1 对数极大似然估量的根本原理9.2 对数极大似然估量方法用对数极大似然估量来估量一个模型，主要的工作是建立极大似然函数形式，利用EViews 可以方便地估量出未知参数。9.1.1 一元线性回归模型的极大似然函数举个简单的例子，普通的线性回归模型： (9.2.1)这里，是观测序列，而是模型的参数。有 T 个观测值的样本的对数似然函数〔观测值密度的对数〕可以写成： (9.)注意到，我们能将对数似然函数写成每个观测值 t 的对数似然奉献的和的形式：l(γ ,σ)=∑t=1Tlt(γ ,σ ) ()这里每个观测值的奉献由下面的式子给出：lt(γ ,σ u)=log φ(yt−γ 0−γ1 xtσu)−12 log(σu2) ()9.2.2 AR(1)模型的极大似然函数一阶自回归过程有如下形式，记作 AR(1)： Y t=c+ ρYt−1+εt (9.2.5)其中ε t 是一个白噪声过程，即ε t ～i.i.d .N (0,σ2)。在此情形下，总体参数向量为θ=(c , ρ,σ2)'。首先考察样本中第一个观察值 yt 的概率分布。由于在|ρ|<1时，存在一个满足〔9.2.5〕的协方差平稳过程，此时， E(Y 1)=c/(1−ρ) var(Y 1)=σ 2/(1−ρ2)，例 9.1 普通最小二乘方程的极大似然估量我们选择凯恩斯消费函数作为例子，分析普通回归方程的极大似然估量方法。消费函数的因变量选为城镇消费〔cc〕，而城镇人民收入〔ci〕作为自变量，样本为从1978 年到 2000 年的年度数据。首先利用最小二乘法，估量了一个普通的回归方程，结果如下：c ^ct=0.8833×cit+93.31 〔〕 (0.58)R2利用前面的公式(9.1.2)，我们可以写出这个方程的极大似然函数，进行极大似然求解之后，我们得到了城镇消费和城镇收入之间的回归方程，得到的结果是：c ^ct=0.8833×cit+93.34〔〕 (0.18) 对数似然值 = -177.02 AIC = 15.57 SC = 15.67 观察两个方程的系数值发现最小二乘方法和极大似然函数估量的结果几乎没有什么区别，但是由于初值选择的不同，所以产生了统计量的差异。所以，第一个观察值的密度函数形如f Y1 ( y1;θ )=f Y 1( y1;c , ρ ,σ2)=1√2 π √σ 2/(1−ρ2)exp[−{ y1−[c/1−ρ ]}22σ2/1−ρ2] (9.2.6)接下来考虑第二个观察值Y 2在观察到Y 1=y1的条件下的分布。由〔9.2.5〕Y 2=c+ρY 1+ε2 (9.2.7)可以将随机变量Y 1视做确定性常数y1。在此情形下，〔9.2.7〕给出Y 2作为常数(c+ ρy1)和随机变量ε 2的和。因此(Y 2|Y 1=y1)～N ((c+ρy1),σ2) ...