6.3最小方差无偏估计

6 .3 最小方差无偏估计 6.3.1 Rao-Blackwell 定理 我们在例6.2.6 和例6.2.7 中分别比较了两个无偏估计的优劣,在这两个例子中,好的一个无偏估计都是充分统计量的函数,这不是偶然的,下面我们介绍这方面的有关结论.先从Rao-Blackwell 定理谈起. 定理6.3.1 （Rao-Blackwell 定理）设 X 和Y 是两个随机变量,()E X,()0Var X .我们用条件期望构造一个新的随机变量 ( )Y,其定义为 ( )(|),YE X Yy 则有 ( ),( ( ))()EYVarYVar X 其中等号成立的充分必要条件是 X 和( )Y几乎处处相等. 证明：我们以 X 和Y 都是连续型随机变量为例加以证明 ,设( , )p x y ,( )Ypy , ( | )h x y 分别为 X 和Y 的联合密度函数,Y 的边际密度函数和给定Yy下 X 的条件密度函数,于是条件期望 ( , )( )|( | ),( )Yxp x y dxyE X Yyxh x y dxpy  ( )( )( )( , ),YE Yy py dyxp x y dxdyEX 这证明了第一个结论,下证第二个结论,我们将()Var X 写成如下形式：   222()( )( )( )( )2( )( )Var XEXYYE XYEYEXYY （6.3.1） 由于 ( )( | )(|)( )0,xyh x y dxE X Yyy故(6.3.1)右端第三项为  ( )( )( )( )( , )( )( )( ) ( | )( )( )( | )( )0YYEXYYxyyp x y dxdyxyypy h x y dxdyyxyh x ypy dy 而(6.3.1)右端第二项正是( )Y的方差,由此即有 2()( )( )Var XE XYVarY (6.3.2) 由于上式右端第一 项非 负 , 这 就 证 明 了 第二个 结 论 . 进 一 步 , 等 号 成 立 ( 即()( )Var XVarY）的充要条件为 ( )01P XY （6.3.3） 即X 与 ( )Y几乎处处相等. 将定理 6.3.1 应用到参数估计问题中可得到如下重要结论： 定理 6.3.2 设总体概率密度函数是( , )p x  ,12,,,nx xx是其样本,1,,nTT xx是 的充分统计量,则对 的任一无偏估计1ˆˆ,,nxx,令|ET,则也是 的无偏估计,且  ˆ( )VarVar （6.3...