4.5 广义最小二乘法(GLS )GLS----Generalized Least Squares 1. 基本原理广义最小二乘法的基本思想在于引入一个所谓成形滤波器(白化滤波器),把相关噪声)(k 转化成白噪声)(k。由方程( 4-4)、(4-5),系统的差分方程可以表示为)()()()()(11kkuzbkyza(4-114)式中nnzazazaza221111)(nnzbzbzbbzb221101)(如果知道有色噪声序列)(k 的相关性, 则可以把)(k 看成白噪声通过线性系统后所得的结果。这种线性系统通常称为成形滤波器,其差分方程为)()()()(11_kzdkzc(4-115)式中)(k是均值为零的白噪声序列,)()(11_zd、zc是1z的多项式。令_111212_1()()1()mmc zf zf zf zf zd zL L(4-116)有)()(1)()()()(11kzfkkkzf或(4-117)即1212(1) ( )( )mmf zf zf zkkL L(4-118)或)()()2()1()(21kmkfkfkfkm1,,nknNL L( 4-119)这一噪声模型(自回归模型)的阶m,一般事先是不知道的,实际经验表明,若指定m为 2 或 3,就可以获得令人满意的描述)(k 的模型。把方程( 4-119)看作输入为零的差分方程,并由此式来写出N 个方程。)()()2()1()()2()2()()1()2()1()1()1()()1(212121NnmNnfNnfNnfNnnmnfnfnfnnmnfnfnfnmmm写成向量矩阵形式为f(4-120)其中)()1(Nnn,mfff1,)()1(Nnn,)()2()1()2()()1()1()1()(mNnNnNnmnnnmnnn(4-120)式所示的线性组合关系是辨识问题的基本表达形式,称作最小二乘格式。应用我们熟知的最小二乘法,可求出f 的估值。1?[]TTf(4-121)考虑在噪声模型 (4-117)下,系统的差分方程。 将(4-117)式得到的)()(1)(1kzfk,代入( 4-114)式有)()(1)()()()(111kzfkuzbkyza(4-122)变换成)()()()()()()(1111kkuzfzbkyzfza(4-123)令)()()(1kykyzf(4-124))()()(1kukuzf(4-125)于是可得)()()()()(11kkuzbkyza(4-126)即1201( )(1)(2)()( )(1)()( )nny ka y ka y ka y knb u kb u kb u knkLL(4-127)在( 4-126)或( 4-127)式中,)(k为不相关的随机序列(白噪声),故可以用最小二乘法得到的无偏估计(即nonbbbaa11,,,)。由此可见,广义最小二乘法(GLS)是建立在最小二乘法 (LS)的基础之上的。【3】基本最小二乘法只是广义最小二乘法在1)(1zf时的特例。2. 计算步骤:广义最小二乘法的关键问题是如何用比较简便的方法找到成形滤波器的系数。其计算是逐次逼近法。下面以(4-121)和( 4-123)式为依据来讨论。第一步 :应用输入、输出数据)2,1)(()(Nnkkyku和,按最...