第 三 章 估 计 理 论 1 . 估计的分类 矩估计:直接对观测样本的统计特征作出估计。 参数估计:对观测样本中的信号的未知参数作出估计。待定参数可以是未知的确定量,也可以是随机量。 点估计:对待定参量只给出单个估计值。 区间估计:给出待定参数的可能取值范围及置信度。 (置信度、置信区间) 波形估计:根据观测样本对被噪声污染的信号波形进行估计。预测、滤波、平滑三种基本方式。 ✓ 已知分布的估计 ✓ 分布未知或不需要分布的估计。 ✓ 估计方法取决于采用的估计准则。 2 . 估计器的性能评价 无偏性:估计的统计均值等于真值。 渐进无偏性:随着样本量的增大估计值收敛于真值。 有效性:最小方差与实际估计方差的比值。 有效估计:最小方差无偏估计。达到方差下限。 渐进有效估计:样本量趋近于无穷大时方差趋近于最小方差的无偏估计。 一致性:随着样本量的增大依概率收敛于真值。 Cramer-Rao 界: 其中 为 Fisher 信息量。 3 . 最小均方误差准则 模型:假定: 是观测样本,它包含了有用信号 及干扰信号 ,其中 是待估计的信号随机参数。根据观测样本对待测参数作出估计。 最小均方误差准则:估计的误差平方在统计平均的意义上是最小的。即使 达到最小值。此时 从而得到的最小均方误差估计为: 即最小均方误差准则应是观测样本Y 一定前提下的条件均值。需借助于条)()(1 FV2212122);,(ln);,(ln)(mmyyypEyyypEF)(),()(tntsty)(tnTN ),,,(21),( ts )ˆ()ˆ()ˆ,(2TEeE0)ˆ,(ˆ2 MSEeEdddYfYMSE)|()(ˆ件概率密度求解,是无偏估计。 4 . 线性最小均方误差准则 线性最小均方误差准则:限定参数估计结果与观测样本间满足线性关系。即待估计参数是观测信号的线性函数。即 若 ,则有 对于任意的 B,估计的均方误差为: 对 B 求一阶偏导数,并使其等于 0,可得到 即 其中 是观测样本的自相关矩阵, 是待测参量与观测样本的互相关矩阵。 若 可逆,从而得到线性最小均方误差解为 ,即需借助于两个相关函数求解。 5 . 最小二乘估计 最小均方误差准则下的估计是观测样本 Y 一定前提下的条件均值,需借助于条件概率密度求解。 线性最小均方误差准则通过增...