11 6-2 无约束优化方法.pptx

第1页：第六章 无约束优化问题的解法课件封面

现代机械设计方法：本册内容为第六章 无约束优化问题的解法，主讲教师白清顺。

第2页：第六章优化设计方法章节标题页

第六章优化设计方法：本课件讲解无约束优化问题的解法，系统展开一维搜索的黄金分割法、斐波纳契法、牛顿法与二次插值法，并依次介绍最速下降法、牛顿型方法、共轭方向法、共轭梯度法、变尺度法、坐标轮换法、鲍威尔方法与单形替换法。

第3页：一维搜索的试探方法

一维搜索的试探方法

• 黄金分割法是一种建立在区间消去法原理基础上的一种典型的试探方法。
• 相邻两次搜索区间都具有相同的区间缩短率0.618。
• 方法适用面广，可以求解给定区间上任何单谷函数的极小值问题。2黄金分割法的原理

第4页：黄金分割法的原理

黄金分割法的原理：f()f()abα2α1aα2α1α32对称性411b(ba)2a(ba)相似性设[a,b]的长度为11210即解得：0.618即黄金分割法中插入点1、2的位置需要满足相对于区间两端点的对称性要求。

（2）黄金分割法的原理

第5页：黄金分割与0.618法

黄金分割与0.618法

• 序列消去法中，为提高效率，减少计算量和存储量，希望在保留下来的区间内再插入一点所形成的区间新三段，与原来区间的三段具有相同的比例分布。——相邻两次搜索区间都具有相同的区间缩短率0.618。210，解得0.618
• 黄金分割与0.618
• 古希腊建筑师认为：边长为b，d的矩形建筑物，若边长能符合以下条件，则最美观

第6页：搜索过程

搜索过程：（4）

第7页：搜索过程（续）

搜索过程（续）：（4）搜索过程

第8页：第一次迭代

第一次迭代：在新的区间内取一个新的插入点1b(ba)1.9440.618(1.9443)1.1118（5）黄金分割法例题用黄金分割法求函数f()22的最优解。

已知初始区间为[-3，5]。（1）显然，此时的a3，b5，则根据公式在初始区间内插入两点。1b(ba)50.618(53)0.0562a(ba)30.618(53)1.944（2）计算相应插入点的函数值y1f(1)0.115y2f(2)7.667b]，取[a（3）由于y1y2，应消去区间[22]为新区间。

即区间的端点a3保持不变，20.056

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第9页：一维搜索方法：插入点的函数值

一维搜索方法：插入点的函数值：y2f(2)0.115插入点的函数值y1f(1)0.987y1y2b]消去区间[2如此继续迭代下去。0.056]，则新的搜索区间为[3（5）黄金分割法例题

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第10页：一维搜索方法

一维搜索方法：6、一维搜索的试探方法斐波纳契方法简介斐波纳契方法按照斐波纳契数列{Fn}产生的分数列作为区间的缩短率使得一维搜索的区间进行缩短。

斐波纳契数列{Fn}：F0=F1=1Fn=Fn-1+Fn-2(n=2,3……)斐波纳契数列表区间缩短率：相邻两个数，前一个数与后一个数的比值

第11页：一维搜索的插值方法多项式

一维搜索的插值方法多项式：一维搜索方法7、 是函数逼近的一种常用工具。利用多项式逼近目标函数的原理：在搜索区间内利用若干试验点处的函数值来构造低次多项式，用它作为函数的近似表达式，并用这个多项式的极小点作为原函数极小点的近似。

牛顿法：利用一点的函数值、一阶导数值和二阶导数值来构造迭代函数二次插值法：利用三个点的函数值形成一个抛物线来构造迭代函数

第12页：一维搜索的插值方法

一维搜索的插值方法：yf()假定：一维搜索函数在0附近时连续可微的，若给出了一个近似点0来逼近所要求的极小点，则将f()在0处进行泰勒展开。

20000021)())()f(f()()f()f(k12kf()f(k)k1(k0,1,2,...)、一维搜索方法7、一维搜索的插值方法（牛顿法）牛顿法也称作切线法基本原理

第13页：一维搜索方法7、一维搜索的插值方法

一维搜索方法7、一维搜索的插值方法：13、 （牛顿法）几何解释：*f(*)00()'0()0目的：011()'1)0(2……*f(*)0切线法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第14页：一维搜索的插值方法（续）

一维搜索的插值方法（续）：7、一维搜索的插值方法（牛顿法）例题：给定f()44362164试用牛顿法求其极小点*计算函数的一阶、二阶导数f()4（33234）f()12（221）给定初始点03，控制误差0.001计算结果如下表所示：14

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第15页：一维搜索的插值方法：牛顿法的特点

一维搜索的插值方法：牛顿法的特点：7、一维搜索的插值方法（牛顿法）牛顿法的特点：牛顿法法最大的优点是收敛速度快。但是在每一点处都要计算函数的二阶导数，因而增加了每次迭代的工作量。

牛顿法要求初始点选得比较好，也就是说离极小点不能太远，否则有可能使极小化序列发散或收敛到非极小点。

第16页：一维搜索的插值方法（续3）

一维搜索的插值方法（续3）：一维搜索方法8、一维搜索的插值方法（二次插值法）基本思想：f(xk1)fxkSk是的一元函数，采用一元二次多项式pabc2逼近f,即用抛物线p拟合曲线f，以p的极小值p*近似f的最优点*。

第17页：一维搜索的插值方法（续4）

一维搜索的插值方法（续4）：3172222231312123333222211111223313f131f212f3122331c2f2f2fpabc2fpabc2fpabc2f解得：b一、一维搜索方法8、一维搜索的插值方法（二次插值法）基本步骤：①确定二项式系数，需选三个已知目标函数值的点。

选1，3，及中间任意一点2，已知函数值f1,f2,f3，代入p，得

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第18页：一维搜索的插值方法（续5）

一维搜索的插值方法（续5）：112122331cf2f1c221ffc131,2c2cd其中得*b1(c1)②令dpb2c08一、一维搜索方法8、一维搜索的插值方法（二次插值法）

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第19页：一维搜索方法牛顿法和二次插值法的异同

一维搜索方法牛顿法和二次插值法的异同：一维搜索的插值方法利用的信息：牛顿法：利用一点的函数值、一阶导数值和二阶导数值来构造迭代函数二次插值法：利用三个点的函数值形成一个抛物线来构造迭代函数区间消去法的利用：牛顿法：计算后不用区间消去法决定哪一段区间被消去二次插值法：计算后由区间消去法决定哪一段区间被消去

第20页：分析比较牛顿法和二次插值法的异同

分析比较牛顿法和二次插值法的异同：3. 一维搜索的插值方法利用的信息区间消去法的利用第六章优化设计方法思考题：1.分析黄金分割法的基本思想。对称性、相似性2.采用牛顿法求解下面一维搜索问题。

f()252000.001

第21页：第六章 无约束优化问题的解法过渡页

本页为分册过渡页，标注课程名称现代机械设计方法与主讲教师白清顺，其后进入6.2 一维搜索方法与黄金分割法。

第22页：第六章优化设计方法章节分隔页2

第六章优化设计方法：本课件讲解无约束优化问题的解法，系统展开一维搜索的黄金分割法、斐波纳契法、牛顿法与二次插值法，并依次介绍最速下降法、牛顿型方法、共轭方向法、共轭梯度法、变尺度法、坐标轮换法、鲍威尔方法与单形替换法。

第23页：形成搜索方向的无约束优化方法无约

形成搜索方向的无约束优化方法无约：束极小化算法框图

第24页：无约束优化方法的分类

无约束优化方法的分类

• 一类是利用目标函数的一阶或二阶导数的无约束优化方法，如最速下降法、共扼梯度法、牛顿法及变尺度法等。
• 另一类是只利用目标函数值的无约束优化方法，如坐标轮换法、单形替换法及鲍威尔方法等。

第25页：最速下降法的迭代公式

最速下降法的迭代公式：搜索方向：迭代点的负梯度方向迭代公式：xk1xkkf(x)（k0,1,2,..）.kf(x*))kkkkkf(x)]min(minf[xf(xk1)f[xkf(x)](){f[xkf(xk)]}Tf(xk)0k[f(xk1)]Tf(xk)00(dk1)Tdk相邻两次搜索方向相互垂直最速下降法也称为梯度法步长因子取一维搜索的最佳步长，即有

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第26页：最速下降法搜索路径的特点相邻两次

最速下降法搜索路径的特点相邻两次：这代的梯度方向是互相正交的。因此，随着迭代过程的进行，最速下降法的搜索路径呈现“之”字形的锯齿现象。愈靠近极小点，搜索点的密度越大，降低了收敛速度。

负梯度方向的局部性质按负梯度方向搜索并不等同于以最短时间到达最优点。因为“负梯度方向是函数值最速下降方向”仅是迭代点邻域内的一种局部性质，从局部上看，在一点附近函数的下降是快的，但从整体上看则走了许多弯路，因此的下降并不算快。

因此，从整个迭代过程来看，不具有“最速下降”的性质。

第27页：二维目标函数的最速下降法搜索过程

二维目标函数的最速下降法搜索过程：示意图X(0)X(1)X(2)S(0)S(1)S(0)F(X)=C0F(X)=C1F(X)=C2X*F(X)=C327三、最速下降法最速下降法的搜索路径

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第28页：最速下降法：等值线为圆的迭代

最速下降法：等值线为圆的迭代：X(0)X*x2)x228)a)等值线为圆的迭代过程b)等值线为椭圆的迭代过程不同形状目标函数采用最速下降法的迭代过程、最速下降法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第29页：最速下降法的程序流程图

最速下降法的程序流程图：开始结束 三、最速下降法

第30页：最速下降法

最速下降法：最速下降法

第31页：最速下降法（续）

最速下降法（续）：最速下降法（续）

第32页：最速下降法（续2）

最速下降法（续2）：最速下降法（续2）

第33页：最速下降法计算结果

最速下降法计算结果：最速下降法计算结果

第34页：最速下降法搜索过程（例题）

最速下降法搜索过程（例题）：X(0)X(1)X(2)X*X(3)三、最速下降法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第35页：牛顿法一维寻优过程

牛顿法一维寻优过程：x(k)x(k+1)x*x(k)xx(k1)f(x(k))f(x(k))1,2,...)一维问题牛顿法寻优过程(k0,四、牛顿型方法1.牛顿法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第36页：牛顿型方法

牛顿型方法：1.牛顿法[G(xk)]1f(xk)36xk1xk迭代公式f(x)f(xk)[f(xk)]T[xxk]1(xxk)T2f(xk)(xxk)2设xk1为(x)的极小点，则根据极值的必要条件(xk1)f(xk)G(xk)[xk1xk]0

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第37页：牛顿法，前述泰勒

牛顿法，前述泰勒：牛顿型方法371. 展开不是近似的，而是精确的。海塞矩阵是一个常矩阵，其中各元素均为常数。因此，无论从任何点出发，只需一步就可找到极小点。

对于二次型函数经过有限次的迭代能达到极小点——二次收敛性牛顿法具有二次收敛性

第38页：试用牛顿法求目标函数的极小值

试用牛顿法求目标函数的极小值：。f(x)x225x22T取初始点x02，则在初始点处的函数梯度、海塞矩411050x21002xx2fx阵及其逆矩阵分别为ff(x)5002022112212f2fxxx2xxx2f2f2f(x0)50100211[2f(x0)]四、牛顿型方法1.牛顿法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第39页：代入牛顿法迭代公式

代入牛顿法迭代公式：得39004501100002122x1x0[G(x0)]1f(x0)f(x1)00故x10为目标函数的极小点。

四、牛顿型方法1.牛顿法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第40页：阻尼牛顿法迭代公式

阻尼牛顿法迭代公式：402.阻尼牛顿法四、牛顿型方法xk1xkk[G(x)]f(x)k1k阻尼牛顿法迭代公式dk[G(xk)]1f(xk)其中搜索方向取牛顿方向，即这种阻尼牛顿法通常又称为广义牛顿方法，或称修正牛顿法。

原来的牛顿法相当于阻尼牛顿法的搜索步长恒取1的情况。虽然相对于原来的牛顿法，阻尼牛顿法的计算工作量多了一些，在目标函数的海赛矩阵正定的情况下，它能保证每次迭代都能使函数值有所下降。

即使初始点选择不当，用这种搜索方法也会成功。同时，它还保留了牛顿法收敛快的优点。

第41页：阻尼牛顿法四、牛顿型方法

阻尼牛顿法四、牛顿型方法：阻尼牛顿法的特点1阻尼牛顿法具有二阶收敛速度，对于正定二元二次函数，应用阻尼牛顿法只要—次迭代就可以达到极小点。2对目标函数性态有较严格的要求。

除了函数具有一、二阶偏导数连续以外，为了保证函数的稳定下降，海塞矩阵必须正定，同时，为了能求逆阵形成牛顿方向，又要求海赛矩阵必须非奇异。

3计算较为复杂。除了求梯度以外，还要计算二阶偏导数矩阵和它的逆矩阵，占用机器的储存量也很大。412.阻尼牛顿法四、牛顿型方法

第42页：阻尼牛顿法四、牛顿型方法（续）

阻尼牛顿法四、牛顿型方法（续）：422.阻尼牛顿法四、牛顿型方法

第43页：思考题

思考题：1.分析比较牛顿法、阻尼牛顿法的特点。特点：从表达式、收敛速度、…方面阐述。联系：属于牛顿型方法，利用目标函数导数值信息构造搜索方向2.43第六章优化设计方法

第44页：第六章 无约束优化问题的解法过渡页

本页为分册过渡页，标注课程名称现代机械设计方法与主讲教师白清顺，其后进入四、牛顿型方法与阻尼牛顿法。

第45页：第六章优化设计方法章节分隔页3

第六章优化设计方法：本课件讲解无约束优化问题的解法，系统展开一维搜索的黄金分割法、斐波纳契法、牛顿法与二次插值法，并依次介绍最速下降法、牛顿型方法、共轭方向法、共轭梯度法、变尺度法、坐标轮换法、鲍威尔方法与单形替换法。

第46页：格拉姆向量系共轭方向法

格拉姆向量系共轭方向法：4、 、共轭方向及共轭方向法1、共轭方向的概念2、共轭方向的性质3、共轭方向法的搜索过程4、格拉姆向量系共轭方向法5、格拉姆向量系共轭方向实例

第47页：共轭方向及共轭方向法

共轭方向及共轭方向法：1、共轭方向的概念牛顿型方法虽然具有收敛速度快的优点，但是在迭代过程中，需要计算目标函数的海塞矩阵及其逆矩阵，因此，不适用于目标函数的变量较多和因次较高以及海塞矩阵为奇异矩阵时的优化过程。

而最速下降法最初几步迭代速度较快，而且愈接近极值点效果愈差，在搜索过程中存在锯齿状的搜索路径。同时，最速下降法还具有计算简单，对初始点的选择要求低等的优点。

所以在最速下降法的基础上，发展了共轭方向法，以期获得在极值点附近较快的收敛速度。

第48页：典型的共轭方向法

典型的共轭方向法：及共轭方向法1、共轭方向的概念共扼方向法是以共轭方向为基础的一类算法，避免了最速下降法收敛慢的缺点和牛顿法那样求二阶偏导数矩阵及其逆矩阵的复杂计算，在实际工程中得到了广泛的应用。

典型的共轭方向法：格拉姆向量系共轭方向法共轭梯度法鲍威尔方法

第49页：共轭方向的概念

共轭方向的概念：f(x)1xTGxbTxc2为了直观起见，首先考虑二维情况。二元二次函数的等值线为一族椭圆，任选初始点，沿着某一个下降的方向作一维搜索。

0001dxx1d0f[f(x1)]Td00x、共轭方向及共轭方向法1、共轭方向的概念首先考虑目标函数为二次函数的情形，二次函数的一般矩阵表达式为

第50页：共轭方向的满足条件

共轭方向的满足条件：该搜索方向需要满足的条件：f(x1)Gx1bf(x*)Gx*b0、共轭方向及共轭方向法1、共轭方向的概念x*x1d11

第51页：得：该搜索方向需要满足的条件

得：该搜索方向需要满足的条件：f(x*)Gx*b0f(x*)G(x1d1)bf(x1)Gd1011等式的两边同时左乘(d0)T(d0)TGd10上述为搜索方向直指极小点需要满足的条件。

满足上述条件的两个向量称为G的共轭向量，或称：d0和d1对G是共轭方向、共轭方向及共轭方向法1、共轭方向的概念

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第52页：共轭方向的性质基本定义

共轭方向的性质基本定义：基本定义：、共轭方向及共轭方向法2

第53页：共轭方向的性质

共轭方向的性质：及共轭方向法2

第54页：共轭方向的性质（续）

共轭方向的性质（续）：及共轭方向法2、共轭方向的性质

第55页：共轭方向法的搜索过程基本步骤

共轭方向法的搜索过程基本步骤：及共轭方向法3

第56页：格拉姆向量系共轭方向法（续）

格拉姆向量系共轭方向法（续）：及共轭方向法4、格拉姆向量系共轭方向法

第57页：格拉姆向量系共轭方向法（续2）

格拉姆向量系共轭方向法（续2）：kdkj0k1djk11v(dj)TGdj(dj)TGv（j=0,1,2,…,k）线形无关的向量系v0,v1,v2,...,vn1、共轭方向及共轭方向法4、格拉姆向量系共轭方向法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第58页：一组共轭向量系

一组共轭向量系：的 d0，d1，d220210211求：G1、共轭方向及共轭方向法5、格拉姆向量系共轭方向实例

第59页：格拉姆向量系共轭方向实例

格拉姆向量系共轭方向实例：及共轭方向法5

第60页：格拉姆向量系共轭方向实例（续）

格拉姆向量系共轭方向实例（续）：及共轭方向法5、格拉姆向量系共轭方向实例

第61页：格拉姆向量系共轭方向实例（续2）

格拉姆向量系共轭方向实例（续2）：及共轭方向法5、格拉姆向量系共轭方向实例

第62页：共轭方向及共轭方向法（续）

共轭方向及共轭方向法（续）：及共轭方向法5、格拉姆向量系共轭方向实例格拉姆向量系共轭方向法是共轭方向法的一种，在该方法的搜索过程中，利用了海塞矩阵和一组相互正交的向量来构造一组相共轭的方向。

利用所构造的共轭方向进行搜索的过程称为格拉姆向量系共轭方向法。构造共轭方向的方法不同形成了不同的共轭方向法。

第63页：说明共轭方向的基本内涵

说明共轭方向的基本内涵：1. 。1两个方向共轭的基本概念2共轭方向的性质2.说明格拉姆向量系共轭方向法的原理1构造共轭方向需要的基本条件2数学表达式

第64页：第六章 无约束优化问题的解法过渡页

本页为分册过渡页，标注课程名称现代机械设计方法与主讲教师白清顺，其后进入五、共轭方向及共轭方向法。

第65页：第六章优化设计方法章节分隔页4

第六章优化设计方法：本课件讲解无约束优化问题的解法，系统展开一维搜索的黄金分割法、斐波纳契法、牛顿法与二次插值法，并依次介绍最速下降法、牛顿型方法、共轭方向法、共轭梯度法、变尺度法、坐标轮换法、鲍威尔方法与单形替换法。

第66页：共轭梯度法

共轭梯度法：1、概述2、共轭方向的形成3、共轭梯度法的搜索过程4、共轭梯度法的应用举例5、本课小结

第67页：共轭梯度法（续）

共轭梯度法（续）：1、概述形成共轭方向的方法不同，将产生不同的共轭方向法，共轭梯度法就是共轭方向法的一种。在共轭梯度法中，每一个共轭向量都是依赖于迭代点处的负梯度而构造出来的，所以称作共轭梯度法。

第68页：共轭方向的形成

共轭方向的形成：即kdkxk1xk在xk和xk1两点，函数梯度分别为gkf(x)Gxbkkk1k1gk1f(x)Gxb、共轭梯度法2、共轭方向的形成首先考虑目标函数为二次函数的情形，二次函数的一般矩阵表达式为f(x)1xTGxbTxc2考虑第k步迭代，从迭代点xk出发，作一维搜索，求极小点

第69页：共轭方向与梯度的关系

共轭方向与梯度的关系：k1k1gk1f(x)Gxbgkf(x)Gxbkk所以有G(xk1xk)Gdkkgk1gk若dk和dj对G是共轭的，则有(dj)TGdk0、共轭梯度法2、共轭方向的形成将上式左乘以(dj)T，得到(dj)T(gg)0k1k

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第70页：共轭方向的形成（续）

共轭方向的形成（续）：就是利用这个性质做到不必计算矩阵G就能求得共轭方向的。、共轭梯度法2、共轭方向的形成(dj)T(gg)0k1k这就是共轭方向与梯度之间的关系。

第71页：共轭梯度法的搜索过程

共轭梯度法的搜索过程：第一个搜索方向取初始点的负梯度搜索过程：（1）设初始点x0方向。d0g0沿着d0方向进行一维搜索，得到00x1x0d计算在x1点处的梯度g110gTg0组成平面正交系。

g0和g1可以证明：、共轭梯度法3、共轭梯度法的搜索过程

第72页：共轭梯度法的搜索过程（续）

共轭梯度法的搜索过程（续）：作为下一步的搜索方向。d1（2）在g0和g1组成的平面正交系中，求d0的共轭方向线性组合d1gd000根据共轭方向与梯度之间的关系，得到：(d1)T(gg)010(g00d)(g1g0)00T展开，可以求得：0000gTg||g||2gTg||g||211101||g||2||g||21d0d1g、共轭梯度法3、共轭梯度法的搜索过程

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第73页：共轭梯度法的搜索过程可以证明

共轭梯度法的搜索过程可以证明：d0和d1均共轭方向d2作为下21100ggd2g根据共轭方向与梯度之间的关系，得到：(g21g10g0)(g1g0)0T(g21g10g0)(gg)0T21展开，可以求得：12112211gTg||g||2gTg||g||200011110gTggTg、共轭梯度法3、共轭梯度法的搜索过程可以证明：（3）在上述正交系中，求与一步的搜索方向。

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第74页：共轭方向的递推公式

共轭方向的递推公式：12||g||2||g||22ddg21沿着d2方向继续进行一维搜索，如此进行下去可以求得共轭方向的递推公式：展开，可以求得：k||g||2k1||gk1||2dkdk1g(k0,1,2,....,n1)沿着这些共轭方向一直搜索下去，直到最后迭代点处梯度的模小于给定的允许值为止。

、共轭梯度法3、共轭梯度法的搜索过程

第75页：共轭梯度法的搜索过程（续2）

共轭梯度法的搜索过程（续2）：的搜索过程、共轭梯度法3、共轭梯度法的搜索过程

第76页：共轭梯度法的应用举例

共轭梯度法的应用举例：122xxf(X)x22x24x121例用共轭梯度法求二次函数的极小点和极小值解取初始点11X(0)24100x04x22x12x2x24则gf(x)240gd0取沿d0方向进行一维搜索，得0000021112414x1x0d、共轭梯度法4、共轭梯度法的应用举例

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第77页：共轭梯度法的应用举例（续）

共轭梯度法的应用举例（续）：求得140则120.50x11402、共轭梯度法4、共轭梯度法的应用举例

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第78页：共轭梯度法的应用举例（续2）

共轭梯度法的应用举例（续2）：21111x14x22x12x2x24gf(X)00||g||22||g1||51204421.52114200从而求得第二个共轭方向d1g1d、共轭梯度法4、共轭梯度法的应用举例

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第79页：共轭梯度法4、共轭梯度法的应用举

共轭梯度法4、共轭梯度法的应用举：求得11则2410.51.5221x21110.5221.50.51.51221x1dx2、共轭梯度法4、共轭梯度法的应用举例再沿d1方向进行一维搜索，得

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第80页：共轭梯度法的应用举例（续3）

共轭梯度法的应用举例（续3）：计算x2点处的梯度122000x24x22x12x2x24gf(x)说明x2点满足极值必要条件，再根据点的海赛矩阵422G(x2)2正定、共轭梯度法4、共轭梯度法的应用举例

第81页：共轭梯度法的应用举例可知x

共轭梯度法的应用举例可知x：24x*x2即而函数极小值为f(x*)8例题结束！、共轭梯度法4、共轭梯度法的应用举例可知x2满足极值充分必要条件。

故x2为极小点

第82页：共轭梯度法小结

共轭梯度法小结：kk||g||2||g||2k1dgk1k1d(dj)'Gdk10k0,1,2,......,n1共轭梯度法是修正后的最速下降法，具有二次收敛性。

、共轭梯度法5、本课小结共轭梯度法是共轭方向法的一种。共轭梯度法利用迭代点梯度信息构造共轭方向。

第83页：说明共轭梯度法的基本原理

说明共轭梯度法的基本原理：1. 。1迭代公式2共轭方向的构造2

第84页：第六章 无约束优化问题的解法课件封面

现代机械设计方法：本册内容为第六章 无约束优化问题的解法，主讲教师白清顺。

第85页：第六章优化设计方法章节分隔页5

第六章优化设计方法：本课件讲解无约束优化问题的解法，系统展开一维搜索的黄金分割法、斐波纳契法、牛顿法与二次插值法，并依次介绍最速下降法、牛顿型方法、共轭方向法、共轭梯度法、变尺度法、坐标轮换法、鲍威尔方法与单形替换法。

第86页：变尺度法

变尺度法：1、尺度矩阵的概念2、变尺度矩阵的建立3、变尺度法的一般步骤4、DFP算法原理及应用5、本课总结

第87页：变尺度法（续）

变尺度法（续）：1、尺度矩阵的概念变尺度法是在牛顿法基础上发展起来的一种无约束优化方法，同时它与最速下降法有着密切的联系。它克服了最速下降法收敛速度慢以及牛顿法需要计算海塞矩阵、计算工作量大的缺点，特别对多维问题具有显著的优越性。

第88页：例：、变尺度法

例：、变尺度法：1、尺度矩阵的概念变量的尺度变换是放大或缩小各个坐标。通过尺度变换可以把函数的偏心程度降低到最低限度。尺度变换技巧能显著地改进几乎所有极小化方法的收敛性质。

第89页：尺度矩阵的概念设计变量的尺度变换

尺度矩阵的概念设计变量的尺度变换：y1x1y25x2尺度变换、变尺度法1、尺度矩阵的概念设计变量的尺度变换

第90页：对于一般二次函数如果进行尺度变换

对于一般二次函数如果进行尺度变换：f(x)1xTGxbTxc2xQx则在新的坐标系中，函数f(x)的二次项变为1xTGx1xTQTGQx22选择这样变换的目的，仍然是为了减低二次项的偏心程度。

若矩阵G是正定的，则总存在矩阵Q使得QTGQI其中，I为单位矩阵。采用上述变换后，将使函数偏心度变为零。、变尺度法1、尺度矩阵的概念

第91页：用Q1右乘上式两边

用Q1右乘上式两边：用Q1右乘上式两边，得QTGQIQTGQ1QQTGIG1用Q左乘等式两边，得QQT这说明二次函数矩阵G的逆阵，可以通过尺度变换矩阵Q来求得。

这样，牛顿法中的牛顿方向便可写成：dkG1f(xk)QQTf(xk)牛顿迭代公式变为xk1xkkdxQQf(x)kkTkk、变尺度法1、尺度矩阵的概念

第92页：尺度矩阵的概念比较牛顿法迭代公式

尺度矩阵的概念比较牛顿法迭代公式：kkkkkQQTf(xk)k1dxxxkk1kk和梯度法迭代公式：xxf(x)可以看出，差别在于牛顿法中多了QQT部分。

QQT实际上是在x空间内测量距离大小的一种度量，称作尺度矩阵H。HQQT则牛顿法迭代公式可用尺度矩阵表示出来，即xk1xkkHf(x)k七、变尺度法1、尺度矩阵的概念比较牛顿法迭代公式

第93页：尺度矩阵的概念

尺度矩阵的概念：xk1xkkf(x)kxk1xkkHf(x)k牛顿法最速下降法比较牛顿法和最速下降法迭代公式只差一个尺度矩阵H，那么牛顿法就可看成是经过尺度变换后的最速下降法。

目标函数为二次函数时，经过尺度变换，函数的偏心率减小到零，使得二元二次函数的椭圆族等值线将变成圆族等值线；三元二次函数的等值面将变为球面，使设计空间中任意点处函数的梯度都通过极小点，用最速下降法只需一次迭代就可达到极小点。

这就是对变换前的二次函数，在使用牛顿方法时，其牛顿方向包含了变换矩阵，直接指向极小点，因此只需一次迭代就能找到极小点的原因所在。

、变尺度法1、尺度矩阵的概念

第94页：变尺度矩阵的建立对于一般函数，当

变尺度矩阵的建立对于一般函数，当：kkk1xk1xkGg（k=0,1,2,…）gkf(x)kGkf(x)2k为了避免在迭代公式中计算海赛矩阵的逆阵，可以在迭代过程中逐步地建立变尺度矩阵即令HH(xk)G1kk即构造一个矩阵序列来逼近海赛逆矩阵序列。

每迭代一次，尺度就改变一次，这正是“变尺度”的含义。1kk{H}{G}七、变尺度法2、变尺度矩阵的建立对于一般函数，当用牛顿法寻求极小点时，其牛顿迭代公式为

第95页：变尺度矩阵的建立

变尺度矩阵的建立：kkk1xk1xkGgkkkkxxHgk1（k=0,1,2,…）这就是变尺度法的基本迭代公式。注意到，当HkI（单位矩阵）时，上式就变成了最速下降法的迭代公式。

以上就是变尺度法的基本思想。、变尺度法2、变尺度矩阵的建立

第96页：变尺度矩阵的建立为了保证变尺度矩阵

变尺度矩阵的建立为了保证变尺度矩阵

• 为保证迭代公式具有下降性质，要求{Hk}中的每一个矩阵都是对称正定矩阵。
• 要求Hk之间的迭代具有简单的形式。显然Hk1HkEk校正公式Ek校正矩阵kxk1
• 要求Hk必须满足拟牛顿条件。Hk1(gk1gk)x拟牛顿方程skHk1ykgk1gksxk1kkx其中：yk、变尺度法2、变尺度矩阵的建立为了保证变尺度矩阵

第97页：变尺度法的一般步骤

变尺度法的一般步骤：3

第98页：变尺度法的一般步骤（续）

变尺度法的一般步骤（续）：3、变尺度法的一般步骤

第99页：DFP算法原理

DFP算法原理：kkkTTkkkkEuuvv、变尺度法4、DFP算法原理及应用在变尺度矩阵的基本要求（2）中，校正矩阵取不同的形式，将会形成不同的变尺度法。

DFP算法是变尺度法的一种，它是戴维登（Davidon）于1959年提出的，后来由弗莱彻（Fletcher）和鲍威尔（Powell）于1963年作了改进，故用三人名字的字头命名。

在DFP算法中的校正矩阵取下列形式

第100页：变尺度法（续2）

变尺度法（续2）：kkkTkkkkTkkkHyvv)ys(uukkkTkkkkTkkkkHyvvysuuy则有即TkkkkkuuysTkkkykHkykvvvkHkykuksk、变尺度法4、DFP算法原理及应用根据校正矩阵要满足的拟牛顿条件EkykskHkyk

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第101页：DFP算法原理及应用

DFP算法原理及应用：kkkkyTHy1kkksTy1kkkkkyTHysTyssTHyyTHkkkkkkHk1Hk（k=0,1,2,…）从而可得DFP算法的校正公式DFP算法的计算步骤和变尺度法的一般步骤相同，只是具体计算校正矩阵时应按上面的公式进行。

、变尺度法4、DFP算法原理及应用

第102页：DFP算法原理及应用（续）

DFP算法原理及应用（续）：(注：求解中搜索方向和设计变量的符号表述有所不同)、变尺度法4、DFP算法原理及应用

第103页：DFP算法原理及应用（续2）

DFP算法原理及应用（续2）：4、DFP算法原理及应用

第104页：DFP算法原理及应用（续3）

DFP算法原理及应用（续3）：变尺度法4、DFP算法原理及应用

第105页：DFP算法原理及应用（续4）

DFP算法原理及应用（续4）：4、DFP算法原理及应用

第106页：DFP算法小结

DFP算法小结：DFP算法是变尺度法的一种，BFGS法是经过改进后的DFP算法。Hk1HkEkk1k校正公式拟牛顿方程本课总结变尺度法利用了迭代过程中的尺度变换的思想。

变尺度矩阵需要满足3个附加条件。◆变尺度矩阵是正定矩阵。◆◆Hk1(gk1gk)xx

第107页：坐标轮换法

坐标轮换法：1、坐标轮换法的基本思想2、坐标轮换法的实现原理3、坐标轮换法的效能特点

第108页：坐标轮换法（续）

坐标轮换法（续）：1、坐标轮换法的基本思想坐标轮换法是将多维问题转变为一系列较少维数问题的降维方法，每次搜索时只允许一个变量变化，其余变量保持不变，即沿坐标方向轮流进行搜索的寻优方法。

它将多变量的优化问题轮流地转化成单变量（其余变量视为常量）的优化问题，因此称这种方法为变量轮换法。在搜索过程中只需目标函数值信息，而不需要求解目标函数的导数。

因此，相对于前面所讨论的几种优化方法而言，这种方法比较简单、直观。

第109页：坐标轮换法的实现原理以二元函数为例

坐标轮换法的实现原理以二元函数为例：2、 说明坐标轮换法的寻优过程①

第110页：坐标轮换法的实现原理

坐标轮换法的实现原理：②、坐标轮换法2

第111页：坐标轮换法的实现原理（续）

坐标轮换法的实现原理（续）：③、坐标轮换法2、坐标轮换法的实现原理

第112页：坐标轮换法的实现原理（续2）

坐标轮换法的实现原理（续2）：④极小值点、坐标轮换法2、坐标轮换法的实现原理

第113页：坐标轮换法的实现原理具有n个变量

坐标轮换法的实现原理具有n个变量：kkixkxkdi1ii迭代公式：、坐标轮换法2、坐标轮换法的实现原理具有n个变量函数的坐标轮换法★

第114页：坐标轮换法的实现原理（续3）

坐标轮换法的实现原理（续3）：2、坐标轮换法的实现原理坐标轮换法程序框图

第115页：坐标轮换法（续3）

坐标轮换法（续3）：3、坐标轮换法的效能特点这种方法的收敛效果与目标函数等值线的形状有很大关系。如果目标函数为二元二次函数，其等值线为圆或长短袖平行于坐标轴的椭圆时，此法很有效。

一般经过两次搜索可达到最优点，如图a)所示。如果等值线为长短轴不平行于坐标铀的椭圆，则需多次迭代才能达到最优点，如图b)所示。

如果等值线出现脊线，若沿着脊线进行搜索则一步可达到最优点，但因坐标轮换法总是沿坐标轴方向搜索而不能沿脊线搜索，所以就搜索将终止到脊线上而不能找到最优点，如图c)所示。

第116页：坐标轮换法（续4）

坐标轮换法（续4）：是对目标函数的形状有特殊要求。坐标轮换法搜索效率相对较低。kkixkxkdi1ii迭代公式：、坐标轮换法总结坐标轮换法利用迭代点函数值信息构造搜索方向

第117页：鲍威尔方法

鲍威尔方法：1、概述2、共轭方向的生成3、鲍威尔方法基本算法4、改进的鲍威尔方法5、鲍威尔方法的应用6、本课总结

第118页：鲍威尔方法：概述鲍威尔

鲍威尔方法：概述鲍威尔：1、概述鲍威尔（Powell）方法是其接利用函数值来构造共轭方向的一种共轭方向法。在前面所介绍的共扼梯度法中，虽然也利用了共轭方向的概念，但是形成共轭方向时，总是需要计算目标函数的梯度，即必须计算一阶导数。

而鲍威尔法则不需要对函数作求导计算，只需要目标函数的函数值信息即可求出用于搜索的共轭方向。

第119页：共轭方向的生成对于具有正定矩阵

共轭方向的生成对于具有正定矩阵：f(x)1xTGxbTxc2k1(dj)Tg0k(dj)Tg0根据梯度和等值面相垂直的性质，可以得到：、鲍威尔方法2、共轭方向的生成对于具有正定矩阵G的二次函数

第120页：鲍威尔方法共轭方向的生成

鲍威尔方法共轭方向的生成：k1gk1GxbkgkGxbG(xk1xk)gk1gk两式相减，得因而有dkxk1xk(dj)T(gg)(dj)TG(xk1xk)0k1k若取方向(dj)TGdk0共轭、鲍威尔方法2、共轭方向的生成两点处的梯度可表示为

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第121页：共轭方向的生成（鲍威尔法）

共轭方向的生成（鲍威尔法）：构造共轭方向的新思路、鲍威尔方法2、共轭方向的生成dkxk1xk(dj)TGdk0

第122页：鲍威尔法基本算法

鲍威尔法基本算法：3、鲍威尔方法基本算法dkxk1xk(dj)TGdk0

第123页：鲍威尔方法基本算法

鲍威尔方法基本算法：Ox2x1e2(1)1Xe11X(2)X1X(2)0X(2)22X(1)0X(0)X(1)X(2)→X*S(1)S(2)九、鲍威尔方法3、鲍威尔方法基本算法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第124页：改进的鲍威尔方法

改进的鲍威尔方法：x1x2x3e3e2e1S1X(1)2X(1)1X(1)(1)0(0)XX3X(1)九、鲍威尔方法4、改进的鲍威尔方法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第125页：改进的鲍威尔方法，对所迭代的目标

改进的鲍威尔方法，对所迭代的目标：x1x2x3O2X(1)1X(1)(2)0(1)XX3X(1)3X(2)0X(2)X(3)3X(3)X(3)2X(2)九、鲍威尔方法4、改进的鲍威尔方法，对所迭代的目标函数，所构造的n个搜索方向有时会变成线性相关而不能形成共轭方向，即产生所谓的降维现象，可能求不到目标函数的极小点。

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第126页：鲍威尔方法（续2）

鲍威尔方法（续2）：4、改进的鲍威尔方法改进的鲍威尔方法中首先判断原向量组是否需要替换。如果需要替换，还要进一步判断原向量组中哪个向量最坏，然后再用新产生的向量替换这个最坏的向量，以保证逐次生成共轭方向。

第127页：鲍威尔方法算例

鲍威尔方法算例：(注：求解中搜索方向和设计变量的符号表述有所不同)九、鲍威尔方法5、鲍威尔方法的应用用鲍威尔方法求函数的极小值。f(x1,x2)10(x1x25)2(x1x2)

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第128页：鲍威尔方法的应用

鲍威尔方法的应用：5

第129页：鲍威尔方法（续3）

鲍威尔方法（续3）：鲍威尔方法（续3）

第130页：鲍威尔方法（续4）

鲍威尔方法（续4）：鲍威尔方法（续4）

第131页：鲍威尔方法（续5）

鲍威尔方法（续5）：鲍威尔方法（续5）

第132页：鲍威尔方法（续6）

鲍威尔方法（续6）：鲍威尔方法（续6）

第133页：鲍威尔方法的应用（续）

鲍威尔方法的应用（续）：5、鲍威尔方法的应用

第134页：鲍威尔方法（续7）

鲍威尔方法（续7）：5、鲍威尔方法的应用1964年，鲍威尔提出了鲍威尔方法，以后又经过他本人的改进。通过上述例题可以看出，虽然鲍威尔法利用了共轭方向，在接近最优点附近具有二次收敛性，但计算速度并不很快。

以二维函数为例，每轮要进行三次一维搜索，且每一轮需要计算四个点。但是因为在计算中可以不计算函数导数而只计算函数值，故在实际工程计算中仍然是一种方便和有效的算法。

第135页：修正鲍威尔方法

修正鲍威尔方法：在实际工程计算中是一种方便有效的算法。(dj)T(gg)(dj)TG(xk1xk)0k1kdkxk1xk、鲍威尔方法6、本课小结鲍威尔方法是共轭方向法的一种鲍威尔方法利用函数值信息构造共轭方向

第136页：单纯形定义

单纯形定义：指在n维空间中由n+1个线性独立的点构成的简单图形或凸多面体。不同几何空间中的单纯形示例a)一维空间中的单纯形b）二维空间中的单纯形c）三维空间中的单纯形基本思想：在不计算导数的情况下，先计算出若干点处的函数值，依据函数值大小关系判断函数变化的趋势，确定函数下降方向，求得目标函数的极值。

基本思想：在不计算导数的情况下，先计算出若干点处的函数值，依据函数值大小关系判断函数变化的趋势，确定函数下降方向，求得目标函数的极值。

、单形替换法1、单形替换法的基本思想1、单形替换法的基本思想

第137页：基本定义

基本定义：单形替换法是指在无约束优化问题的求解过程中，根据问题的维数n，选取由n+1个顶点构成的单纯形，求出这些顶点处的目标函数值并加以比较，确定函数值最大的点及函数值的下降方向，再设法找到一个新的比较好的点替换那个有最大值的点，从而构成新的单纯形。

随着这种取代过程的不断进行，新的单纯形将向着极小点收缩。经过若干次迭代，即可得到满足收敛准则的近似解。基本定义：单形替换法是指在无约束优化问题的求解过程中，根据问题的维数n，选取由n+1个顶点构成的单纯形，求出这些顶点处的目标函数值并加以比较，确定函数值最大的点及函数值的下降方向，再设法找到一个新的比较好的点替换那个有最大值的点，从而构成新的单纯形。

、单形替换法1、单形替换法的基本思想1、单形替换法的基本思想

第138页：单形替换法的下降方向

单形替换法的下降方向：目标函数值下降方向、单形替换法1、单形替换法的基本思想1、单形替换法的基本思想

第139页：单形替换法的四种寻优措施

单形替换法的四种寻优措施：一般地，可采用四种基本的寻优措施，即反射、扩张、收缩、缩边来实现单纯形的替换过程。以二维优化设计问题为例来说明单形替换法的寻优过程。

2、单形替换法的实现过程2、单形替换法的实现过程139、单形替换法

第140页：单形替换法的实现过程

单形替换法的实现过程：x设计变量:Xx12目标函数:f(X)*求:目标函数的极小值极小值点的坐标X、单形替换法2、单形替换法的实现过程2、单形替换法的实现过程

第141页：单形替换法：目标函数等值线函

单形替换法：目标函数等值线函：x1X3x2OX4X2X1目标函数等值线函数值下降方向f(X1)>f(X2)>f(X3)函数值大小关系：、单形替换法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第142页：单形替换法

单形替换法：1x1X3x2OX4X2X1X5目标函数等值线函数值下降方向X5X4(X4X1)2X4X1反射：反射：首先，求出除最差点以外的所有顶点（两点）的形心点；然后，以此为对称中心，求取最差点关于形心点的对称点为反射点。

反射点应在最差点和形心点连线的延长线上。462、单形替换法的实现过程2、单形替换法的实现过程十、单形替换法

第143页：单形替换法（续）

单形替换法（续）

• >f(X
• >f(X
• 求出X5点的目标函数值f(X
• ,并比较其同原单纯形各顶点函数值关系。求出X5点的目标函数值f(X
• ,并比较其同原单纯形各顶点函数值关系。可能存在4种情况
• 反射：反射：2、单形替换法的实现过程2、单形替换法的实现过程十、单形替换法

第144页：单形替换法：目标函数等值线

单形替换法：目标函数等值线：x2目标函数等值线X2X5X4X3X1Ox1x1X3x2OX4X2X1X5X6目标函数等值线①①f(X5)f(X3)扩张：扩张：X6X4(X4X1)扩张点扩张点扩张因子:1.2~2.0若反射点的函数值f(X5)小于最好点的函数值f(X3)2、单形替换法的实现过程2、单形替换法的实现过程十、单形替换法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第145页：代替最差点

代替最差点：61 X，构成新的单纯形{X2,X3,X6}；如果f(X6)f(X5)，说明扩张不利，，则舍弃X6，仍以X5代替X1构成新的单纯形{X2,X3,X5}。

扩张原则：扩张原则：如果f(X6)f(X5)，说明扩张有利，就用X①①f(X5)f(X3)若反射点的函数值f(X5)小于最好点的函数值f(X3)扩张：扩张：2、单形替换法的实现过程2、单形替换法的实现过程十、单形替换法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第146页：单形替换法的实现过程：反射原则

单形替换法的实现过程：反射原则：150②反射：反射：反射点比最好点差，但是比次差点好，反射可行。则以X5代替X1构成新的单纯形{X2,X3,X5}。反射原则：反射原则：x1X3x2OX4X2X1X5目标函数等值线函数值下降方向②f(X2)f(X5)f(X3)若反射点的函数值f(X5)小于次差点的函数值f(X2)但大于最好点的函数值f(X3)、单形替换法2、单形替换法的实现过程2、单形替换法的实现过程

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第147页：单形替换法的实现过程（续2）

单形替换法的实现过程（续2）：x1X3x2OX4X2X1X5目标函数等值线X7函数值下降方向X7X4(X5X4)收缩点收缩点收缩因子:0.5③③f(X1)f(X5)f(X2)若反射点的函数值f(X5)小于最差点的函数值f(X1)但大于次差点的函数值f(X2)收缩：收缩：、单形替换法2、单形替换法的实现过程2、单形替换法的实现过程

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第148页：单形替换法的实现过程：收缩原则

单形替换法的实现过程：收缩原则：如果f(X7)f(X1)，就用X7代替最差点X1，构成新的单纯形{X2,X3,X7}；否则舍弃X7，仍以X5代替X1构成新的单纯形{X2,X3,X5}。

收缩原则：收缩原则：③③f(X1)f(X5)f(X2)若反射点的函数值f(X5)小于最差点的函数值f(X1)但大于次差点的函数值f(X2)收缩：收缩：、单形替换法2、单形替换法的实现过程2、单形替换法的实现过程

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第149页：单形替换法的实现过程（续4）

单形替换法的实现过程（续4）

• 收缩点收缩点收缩因子:0.5
• f(X
• f(X
• 若反射点的函数值f(X
• 大于最差点的函数值f(X
• 收缩：收缩：、单形替换法2、单形替换法的实现过程2、单形替换法的实现过程

第150页：单形替换法的实现过程（续5）

单形替换法的实现过程（续5）：⑤⑤f(X)f(X1)X1-X4方向上的所有点都比最差点差。这时不能沿着此方向进行搜索，应该以最好点为中心，将单纯形进行缩边，使顶点X1，X2向X3移近一半的距离，得到新的单纯形{X3,X9,X10}，在此基础上继续进行寻优。

缩边：缩边：、单形替换法2、单形替换法的实现过程2、单形替换法的实现过程

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第151页：单形替换法的实现过程2、单形替换

单形替换法的实现过程2、单形替换：f(X)f(X1)X1-X4方向上的所有点都比最差点差。缩边：缩边：x1X3x2OX2X1X10X9缩边方式的几何表示函数值最小点（最好点）⑤⑤XiX3(XiX3)缩边各点缩边各点收缩因子:0.5、单形替换法2、单形替换法的实现过程2、单形替换法的实现过程

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第152页：单形替换法措施汇总

单形替换法措施汇总：①②③④f(X5)f(X3)f(X2)f(X5)f(X3)f(X1)f(X5)f(X2)f(X5)f(X1)情况汇总⑤f(X)f(X1)四种寻优措施：反射、扩张、收缩、缩边四种寻优措施：反射、扩张、收缩、缩边、单形替换法2、单形替换法的实现过程2、单形替换法的实现过程

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第153页：反射点X5、扩张点

反射点X5、扩张点：用单形替换法求机械优化问题数学模型目标函数f(X)4(x5)2(x6)2的极小值选取X1，X2，X3为顶点作初始单纯形。

。计算各顶点的函数值f(X1)，f(X2)，f(X3)。计算形心点X4、反射点X5、扩张点X6。。函数值比较，顶点替换，单纯形变换形状位置。

、单形替换法3、单形替换法例题3、单形替换法例题

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第154页：单形替换法例题3、单形替换法例题

单形替换法例题3、单形替换法例题：经过32次循环，可以将目标函数值降到1×10-6，接近目标函数的极小值021目标函数f(X)4(x5)2(x6)2的极小值求解过程、单形替换法3、单形替换法例题3、单形替换法例题

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第155页：单形替换法（续2）

单形替换法（续2）：本课小结单形替换法的搜索利用了目标函数的函数值。单形替换法是一种零阶无约束优化方法。用单纯形位置和形状变换求解目标函数极值点。

单纯形的变换原则是反射、扩张、收缩和缩边。