第三章 曲线拟合的最小二乘法 § 1 引言 一、 曲线拟合的概念 根据给定的( ,)iimx y个点,在不要求它一定要精确地经过这些给定的点的条件下,求曲线( )yf x=的一条近似曲线( )yxϕ=。 二、 研究曲线拟合的原因 插值方法的缺陷: ¾ 由实验提供的数据通常带有量测等各种误差,如要求( )yxϕ=严格通过所有给定点( ,)iixy,就保留了原有的误差。 ¾ 由实验提供的数据往往较多,用插值法得到的近似表达式,缺乏实用价值。 ¾ 插值方法的鲁棒性差。 § 2 最小二乘法 一、 曲线拟合的方法 1 . 曲线拟合的提法: 给定数据点 ( ,)(1 ,2 ,,)iix y im=",求曲线( )yf x=的一条近似曲线( )yxϕ=使得偏差(残差) ( ),1 ,2 ,,iiixy imδϕ=−=" 较小(不要求0iδ =)。 注:当0iδ =就是插值问题,所以曲线拟合是个更一般的问题,具有更多的应用领域,它是插值问题的一般化,插值问题是它的一种特殊情况。 2 . 常见的曲线拟合方法 (1)使偏差绝对值之和最小,即 11min||| ( )|mmiiiiixyϕδϕ===−∑∑ (2.1) (2)使偏差绝对值最大的最小,即 min max || | ( )|iiiixyϕδϕ=− (2.2) (3)使偏差平方和最小,即 2211min( ( ))mmiiiiixyϕδϕ===−∑∑ (2.3) 按偏差平方和最小的原则选取拟合曲线的方法,称为最小二乘法。 二、 最小二乘问题的提法 对于给定的数据表( ,)(1,2,,)iix yim=",要求在某个函数类01{( ),( ),,( )}nSpanxxxϕϕϕΦ ="()nm< 中寻求一个函数 ****0011( )( )( )( )nnxaxaxaxϕϕϕϕ=+++" (2.4) 使得 *2211(( ))min( ( ))mmiiiiiixyxyϕϕϕ∈Φ==−=−∑∑ (2.5) 式中0011( )( )( )( )nnxaxaxaxϕϕϕϕ=+++"是函数类 Φ 中的任一函数。称满足(2 .5 )的函数*( )xϕ为该最小二乘问题的最小二乘解。 § 2 最小二乘解的求法 一、最小二乘解的求法 1.推导 最小二乘问题可写为无约束的最优化问题 0101201,,,,,,10min(( ))min(,,,)nnmnkkiina aaa aaikaxys a aaϕ==−=∑ ∑""", 从而将它转化为求多元函数01(,,,)ns a aa"的最小值问题。 2 .步骤 (1 ) 0 ,0 ,1 ,,kskna∂==∂"令 (2 )解法方程组 0001000101111101(,)(,)(,)(,)(,)(,)(,)(,)(,)(,)(,)(,)nnnnnnnnafafafϕ ϕϕ ϕϕ ϕϕϕ ϕϕ ϕϕ ϕϕϕ ϕϕ ϕϕ ϕϕ⎡⎤ ⎡⎤⎡⎤⎢⎥ ⎢⎥⎢⎥⎢⎥ ⎢⎥⎢⎥=⎢⎥ ⎢⎥⎢...