最优化实验报告

姓 名： 周飞飞（201210020231） 张琳婧（201210020228） 班 级： 信息与计算科学2 班 指导教师：*** 2014 年11 月27 日《数值最优化算法与理论》课程实验报告 《数值最优化算法与理论》课程实验报告 课程名称 数值最优化算法与理论 班级 信息与计算科学2 班 小组成员 周飞飞（201210020231） 张琳婧（201210020228） 实验课题 拟New ton 法（BFGS 算法）及FR 共轭梯度法求解无约束问题 实验目的 通过上机实验掌握最优化的实用算法的结构及性能，并用这些算法解决实际的最优化问题，掌握一些实用的编程技巧。 实验要求 选用你喜欢的无约束优化的某种梯度法 (最速下降法，New ton法，拟牛顿法，共轭梯度法)通过编程，上机实验对所提供的测试问题进行测试、运行，然后提供实验报告。在实验报告中指出你选用的算法、参数设置、终止准则、线性搜索以及实验结果，附加你的实验心得。 实验内容 使用非精确 Wolf-Pow ell 线性搜索实现拟牛顿法（BFGS 算法）及FR 共轭梯度法求解无约束问题，并通过Matlab 软件实现算法，观察分析实验过程，对比实验结果来进一步理解两种方法的原理及优点与缺陷。 目 录 1、实验原理--------------------------------------------------------------- 1 2、实验内容--------------------------------------------------------------- 4 3、实验结果与分析--------------------------------------------------------- 8 4、实验心得-------------------------------------------------------------- 12 附录 ------------------------------------------------------------------- 13 1 一、实验原理 无约束问题 是连续可微的这里函数RRfRxxfnn:),(min 下降算法是求解无约束优化问题的一类最基本的算法。 其一般步骤为：（已知近似最优解kx ） 1.首先，计算下降方向kd 满足：0)(kTkdxf 2.然后计算步长0k满足：)()(kkkkxfdxf 3.计算新的近似最优解：kkkkdxx1 这次实验所运用的拟牛顿法及 FR 共轭梯度法主要是在下降算法的基础上，求解下降方向的方法上有所不同。 （一）拟牛顿法 （1）拟牛顿法的简述 拟牛顿法(Quasi-Newton Methods)是求解非线性优化问题最有效的方法之一，于 20 世纪 50 年代由美国 Argonne 国家实验室的物理学家 W. C. Davidon所提出来。Davidon 设计的这种算法在当时看来是非线性优化领域最...