第7章约束问题的优化方法§7
1可行方向法7
1可行方向法的基本思想可行方向法是一类算法,可看作无约束下降算法的自然推广
典型策略是从可行点出发,沿着下降可行方向进行搜索,求出使目标函数值下降的新的可行点.考虑只含线性约束的非线性规划问题:(1)为非线性函数,,,,
注1:线性约束规格保证了优化问题(1)的可行方向集、线性化可行方向集以及序列化可行方向集是等同的
当某个可行方向同时也是目标函数的下降方向时,沿此方向移动一定会在满足可行性的情况下改进迭代点的目标函数值
目前已经提出许多可行方向法,用来处理具有线性约束的非线性规划问题
搜索方向选择方式不同形成不同的可行方向法:(1)Zoutendijk可行方向法(2)Rosen梯度投影法(3)Wolfe既约梯度法可行方向的判定:定理1:设是问题(1)的可行解,在点处有,,其中,则非零向量为处的可行方向的充要条件是,证明:必要性:设非零向量是处的可行方向.根据可行方向的定义,,使得对每个.有为可行点,即,
由于,由上式得到.又由得到
充分性:设,
由于,则,使得对于所有的,成立
90根据假设及,得到
上述两式组合起来就是
又由及可知表明是可行点,因此是处的可行方向.7
2Zoutendijk可行方向法Zoutendijk子问题:根据定理1,如果非零向量同时满足,,,则是处的下降可行方向.Zoutendijk可行方向法把确定搜索方向归结为求解线性规划问题(2)在(2)式中,显然是可行解,可推知目标函数最优值必定小于或等于零.如果目标函数最优值小于零,则得到下降可行方向;否则,如果目标函数最优值为零,则x是K-T点.定理2:考虑问题(1),设是可行解,在点处有,,其中,则为K-T点的充要条件是问题(2)的目标函数最优值为零.一维搜索步长的确定:设为处一个下降可行方向.后继点迭代公式:的取值原则:(l)保持迭代点的可行性;(2