姓 名: 周飞飞(201210020231) 张琳婧(201210020228) 班 级: 信息与计算科学2 班 指导教师:*** 2014 年11 月27 日《数值最优化算法与理论》课程实验报告 《数值最优化算法与理论》课程实验报告 课程名称 数值最优化算法与理论 班级 信息与计算科学2 班 小组成员 周飞飞(201210020231) 张琳婧(201210020228) 实验课题 拟New ton 法(BFGS 算法)及FR 共轭梯度法求解无约束问题 实验目的 通过上机实验掌握最优化的实用算法的结构及性能,并用这些算法解决实际的最优化问题,掌握一些实用的编程技巧。 实验要求 选用你喜欢的无约束优化的某种梯度法 (最速下降法,New ton法,拟牛顿法,共轭梯度法)通过编程,上机实验对所提供的测试问题进行测试、运行,然后提供实验报告。在实验报告中指出你选用的算法、参数设置、终止准则、线性搜索以及实验结果,附加你的实验心得。 实验内容 使用非精确 Wolf-Pow ell 线性搜索实现拟牛顿法(BFGS 算法)及FR 共轭梯度法求解无约束问题,并通过Matlab 软件实现算法,观察分析实验过程,对比实验结果来进一步理解两种方法的原理及优点与缺陷。 目 录 1、实验原理--------------------------------------------------------------- 1 2、实验内容--------------------------------------------------------------- 4 3、实验结果与分析--------------------------------------------------------- 8 4、实验心得-------------------------------------------------------------- 12 附录 ------------------------------------------------------------------- 13 1 一、实验原理 无约束问题 是连续可微的这里函数RRfRxxfnn:),(min 下降算法是求解无约束优化问题的一类最基本的算法。 其一般步骤为:(已知近似最优解kx ) 1.首先,计算下降方向kd 满足:0)(kTkdxf 2.然后计算步长0k满足:)()(kkkkxfdxf 3.计算新的近似最优解:kkkkdxx1 这次实验所运用的拟牛顿法及 FR 共轭梯度法主要是在下降算法的基础上,求解下降方向的方法上有所不同。 (一)拟牛顿法 (1)拟牛顿法的简述 拟牛顿法(Quasi-Newton Methods)是求解非线性优化问题最有效的方法之一,于 20 世纪 50 年代由美国 Argonne 国家实验室的物理学家 W. C. Davidon所提出来。Davidon 设计的这种算法在当时看来是非线性优化领域最...