16 梯 度 法 和 共 轭 梯 度 法基本原理和特点
梯度法又称最速下降法,基本原理是在迭代点附近采用使目标函数值下降最快的负梯度方向作为搜索方向, 求目标函数的极小值,特 点 ; 迭 代 计 算 简 单 , 只 需 求 一阶偏导数,所占的存储单 元少,对初始点的要求不 高,在接近极小点位置时收敛速度很慢,共轭的特点为 在梯度法靠近极值点收敛速度放慢时,它可以构造共轭方向使其收敛速度加快, 迭代计算比较简单,效果 好,在每一步迭代过程中都要构 造 共 轭 的 、 方 向 , 比 较 繁琐
17迭代终止准则有哪三种
1)当设计变量在相邻两点之间的移动距离充分小时,可用相邻两点的矢量差的模作为终止的判据, 2)当相邻两点目标函数值之差达到充分小时,可 用两次迭代的目标函数之 差作为终止判据
3)当迭代点逼近极值点时,目标函数在该点的梯度已达到充分小时,可用梯度的模作为 终止判据
无约束设计法,1) powell 法,它是在下降迭代过运算中只需计算和比较目标函数值的大小,不需计算偏导数的方法,是较好的一种直接搜索 算法
2)梯度法,又称最速下降法,它是采用使目标 函数值下降最快的负梯度方向作为搜索方向来求目标函数的极小值
3) 共轭梯度法,又称FR 法,是利用目标函数的梯度确定共轭方向,使得计算简便而效 果好,只需利用相邻两点的梯度就可以构造一个共轭方向,这种方式产生共轭方 向并进行迭代的算法称为 共轭梯度法
4) 变 尺 度 法 , 又称DFP 法,为了得到既有快速收敛的性质, 又 能 避 免 计算二阶导数矩阵及逆矩阵 , 减 少 计 算 工 作 量
迭 代 公式X=X+aS, 19有约束设计法
1)复合形法,在可行域中选取k 个设计点作为 初始复合形的顶点,然后比较复合形个各项目标函数值的大小,其中目标函数值最大的点为坏点, 以坏点之外其余各点