第四章约束问题的最优化方法§4.1引言§4.2内点惩罚函数法§4.3外点惩罚函数法§4.4混合惩罚函数法§4.5随机方向搜索法§4.6复合形法§4.7可行方向法§4.8约束坐标轮换法§4.9拉格朗日乘子法§4.1引言直接解法:随机方向搜索法、复合形法、可行方向法间接解法:内点惩罚函数法、外点惩罚函数法、混合惩罚函数法一.有约束问题解法分类:二.直接解法的基本思想:合理选择初始点,确定搜索方向,以迭代公式x(k+1)=x(k)+α(k)S(k)在可行域中寻优,经过若干次迭代,收敛至最优点。收敛条件:•边界点的收敛条件应该符合K-T条件;•内点的收敛条件为:2111kkkkkxfxfxfxx和§4.1引言特点:①在可行域内进行;②若可行域是凸集,目标函数是定义在凸集上的凸函数,则收敛到全局最优点;否则,结果与初始点有关。§4.1引言目的:将有约束优化问题转化为无约束优化问题来解决。方法:以原目标函数和加权的约束函数共同构成一个新的目标函数Φ(x,r1,r2),成为无约束优化问题。通过不断调整加权因子,产生一系列Φ函数的极小点序列x(k)*(r1(k),r2(k))k=0,1,2…,逐渐收敛到原目标函数的约束最优解。三.间接解法的基本思想:有解的条件:①f(x)和g(x)都连续可微;②存在一个有界的可行域;③可行域为非空集;④迭代要有目标函数的下降性和设计变量的可行性。§4.1引言新目标函数:其中:惩罚项:)(),,(21xfrrx)]([)]([1211xhHrxgGrpvvmuu),,(.min21rrx)]([)]([1211xhHrxgGrpvvmuu0)]([lim)(1)(1kmuukkxgGr()()21lim[()]0mkkvkurHhx0)](),,([lim)()(2)(1)(kkkkkxfrrx加权因子,即惩罚因子:r1,r2Φ函数的极小点序列x(k)*(r1(k),r2(k))k=0,1,2…其收敛必须满足:无约束优化问题:§4.1引言不等式约束优化问题三.约束优化问题的类型:puxgtsRxxFun,...,2,1,0)(..)(minD等式约束优化问题qvxhtsRxxFvn,...,2,1,0)(..)(minD一般约束优化问题qvxhpuxgtsRxxFvun,...,2,1,0)(,...,2,1,0)(..)(minD§4.2内点惩罚函数法一.惩罚函数法简介:惩罚函数法是一种求解约束优化问题的间接解法,它将约束优化问题转化为一系列无约束优化问题来求解,又称为序列无约束极小化技术(SequentialUnconstrainedMinimizationTechnique),即SUMT法。惩罚函数的值一般总是大于原目标函数的值,表示它对目标函数的惩罚作用。为了使惩罚函数最后能够收敛到目标函数的同一最优解,应该做到:一方面要恰当地构造关于约束函数的复合函数,在求解惩罚函数极小化的过程中,当迭代点不满足约束条件时,两个惩罚项的函数值增大,使目标函数得到“惩罚”;另一方面,随着迭代次数的增大,惩罚因子的数值不断调整(递增或递减),惩罚项对惩罚函数的惩罚作用越来越小并趋于消失,无约束最优点序列不断逼近约束目标函数的最优点。§4.2内点惩罚函数法(障碍函数法)xrxrxkk11),()()(新目标函数:二.内点惩罚函数法基本思想:内点法将新目标函数Φ(x,r)构筑在可行域D内,随着惩罚因子r(k)的不断递减,生成一系列新目标函数Φ(xk,r(k)),在可行域内逐步迭代,产生的极值点xk*(r(k))序列从可行域内部趋向原目标函数的约束最优点x*。例4-1:求下述约束优化问题最优点。min.f(x)=xxR∈1s.tg(x)=1-x≤0X1*X2*X*§4.2内点惩罚函数法muukkxgrxfrx①1)()()(1)(),(.muukukxgrxfrx③1)()()(1)(),(.)](ln[)(),(.1)()(xgrxfrx⑤muukk三.内点惩罚函数的形式:muukkxgrxfrx④12)()()]([1)(),(.其中:惩罚(加权)因子降低系数c:0