12 6-3 约束优化问题的解法.pptx

第1页：第六章 约束优化问题的解法课件封面

现代机械设计方法：本册内容为第六章 约束优化问题的解法，主讲教师白清顺。

第2页：第六章优化设计方法章节标题页

第六章优化设计方法：本课件讲解约束优化问题的解法，先区分直接解法与间接解法，再依次展开随机方向法、复合形法与可行方向法，最后系统讲解内点、外点与混合惩罚函数法的原理、参数选取与收敛准则。

第3页：解法分类2、直接解法3、间接解法

解法分类2、直接解法3、间接解法：1、解法分类2、直接解法2、直接解法3、间接解法3、间接解法4、求解算法4、求解算法、概述

第4页：解法分类机械优化设计中的问题，大

解法分类机械优化设计中的问题，大：h(x)02,...,m)2,...,l)(j1,(k1,kminf(x)s.t.gj(x)0约束优化设计问题的求解方法主要分为两种类型：直接解法和间接解法。

一、概述1、解法分类机械优化设计中的问题，大多数属于约束优化设计问题，其数学模型为

第5页：直接解法的基本迭代格式

直接解法的基本迭代格式：kdkxk1xkk——步长dk——可行搜索方向、概述2、直接解法直接解法通常适合含有不等式约束的优化问题每次迭代计算均按以下基本迭代格式进行

第6页：直接解法的特点

直接解法的特点

• 由于整个求解过程在可行域内进行，因此，迭代计算无论何时终止，都可以获得一个比初始点要好的设计点。
• 若目标函数为凸函数，可行域为凸集，则可保证获得全局最优解，否则可能搜索到局部最优解。
• 要求可行域为有界非空集，即在有界可行域内存在满足全部约束条件的点，且目标函数有定义。

第7页：概述3、间接解法的基本迭代过程

概述3、间接解法的基本迭代过程：概述3、间接解法间接解法的基本迭代过程是，首先将约束优化问题转化成新的无约束目标函数mlφ(x,1,2)f(x)1G[gj(x)]2H[hk(x)]j1k1φ(x,1,2)——转换后的新目标函数ml1G[gj(x)],2H[hk(x)]j1k1——分别为约束函数经过加权处理后构成的某种形式的复合函数或泛函数1,2——加权因子

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第8页：间接解法

间接解法：概述3、 然后对新的无约束目标函数进行无约束极小化计算。由于在新目标函数中包含了各种约束条件，在求极值的过程中还将改变加权因子的大小。

第9页：间接解法例题

间接解法例题：概述3、 ：求约束优化问题的最优解。minf(x)(x2)2(x1)212s.t.h(x)x12x220

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第10页：间接解法的特点

间接解法的特点

• 由于无约束优化方法的研究日趋成熟，已经研究出不少有效的无约束最优化方法和程序，使得间接解法有了可靠的基础。
• 可以非常有效地处理具有等式约束的约束优化问题。
• 选择加权因子比较困难。

第11页：求解算法

求解算法

• 惩罚函数法
• 增广乘子法直接解法
• 随机方向法
• 复合形法
• 可行方向法
• 广义简约梯度法一、概述4、求解算法

第12页：随机方向法的基本思想

随机方向法的基本思想：1、 2、随机方向法的关键步骤2、随机方向法的关键步骤3、随机方向法的计算流程3、随机方向法的计算流程4、随机方向法例题4、随机方向法例题、随机方向法

第13页：初始点随机数可行搜索方向步长

初始点随机数可行搜索方向步长

• 在可行域内选择一个初始点，利用随机数的概率特性，产生若干个随机方向，并从中选择一个能使目
• 标函数下降最快的随机方向作为可行搜索方向。沿着此方向从初始点出发，以一定的步长进行搜索获得一个新的迭代点，新点应该满足约束条件，至此完成一次迭代。重复上述过程，经过若干次迭代后，最终取得约束最优解。
• 随机方向法1、随机方向法的基本思想

第14页：随机方向法的关键步骤

随机方向法的关键步骤

• 区间内的伪随机数xaq(ba)任意区间（a,b）内的伪随机数、随机方向法2、随机方向法的关键步骤
• 随机数的产生在随机方向法中，为产生可行的初始点及随机方向，需要用到大量的（0，
• 和（-1，
• 区间均匀分布的随机数。

第15页：随机方向法的关键步骤：初始点的选择

随机方向法的关键步骤：初始点的选择：2、随机方向法的关键步骤（2）初始点的选择

第16页：可行搜索方向的产生

可行搜索方向的产生：[112(r)]rjrjnj2i(j1,2,...k)2...1nrjeji1、随机方向法2、随机方向法的关键步骤（3）可行搜索方向的产生

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第17页：随机方向法

随机方向法：xj(j1,2,...,k)x0ej0、随机方向法2、随机方向法的关键步骤（3）可行搜索方向的产生

第18页：可行方向的随机产生

可行方向的随机产生：2、随机方向法的关键步骤（3）可行搜索方向的产生

第19页：可行搜索方向的产生条件

可行搜索方向的产生条件：}f(x)f(x0)f(x)min{f(x)Lj1,2,...,kjL可行搜索方向为：dxLx0、随机方向法2、随机方向法的关键步骤（3）可行搜索方向的产生产生可行搜索方向的条件：gj(xL)0(j1,2,...,m)

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第20页：随机方向法的关键步骤：搜索步长的确定

随机方向法的关键步骤：搜索步长的确定：按照加速步长法确定随机方向法中的搜索步长、随机方向法2、随机方向法的关键步骤（4）搜索步长的确定

第21页：随机方向法的计算流程

随机方向法的计算流程：3

第22页：随机方向法例题

随机方向法例题：0,00273.0*xf(x*)3、随机方向法4、随机方向法例题求下面约束优化问题的最优解minf(x)f(x2x)12s.t.g(x)x2x290112g2(x)x1x210采用随机方向法，计算机迭代13次，求得约束最优解

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第23页：概述约束优化问题解法的分类

概述约束优化问题解法的分类：直接解法和间接解法各自的特点；直接解法和间接解法所涵盖的具体求解方法。二、随机方向法随机数；初始点；可行搜索方向；搜索步长。

第24页：第六章 约束优化问题的解法过渡页

本页为分册过渡页，标注课程名称现代机械设计方法与主讲教师白清顺，其后进入二、随机方向法。

第25页：第六章优化设计方法章节分隔页2

第六章优化设计方法：本课件讲解约束优化问题的解法，先区分直接解法与间接解法，再依次展开随机方向法、复合形法与可行方向法，最后系统讲解内点、外点与混合惩罚函数法的原理、参数选取与收敛准则。

第26页：复合形法

复合形法：1、复合形法的基本思想复合形法是求解约束优化问题的一种重要的直接解法。基本思想：在可行域内构造一个具有k个顶点的初始复合形。

对该复合形个顶点的目标函数值进行比较，找到目标函数值最大的顶点（称最坏点），然后按一定的法则求出目标函数值有所下降的可行的新点，并用此点代替最坏点，构成新的复合形，复合形的形状每改变一次，就向最优化移动一步，直至逼近最优点。

第27页：复合形法（续）

复合形法（续）：2、初始复合形法的形成复合形法是在可行域内直接搜索最优点，因此，要求初始复合形在可行域内生成，即复合形的k个顶点必须都是可行点。

n1k2n生成初始复合形的三种方法：1由设计者决定k个可行点，构成初始复合形。2由设计者选定一个可行点，其余的(k-1)个可行点用随机法产生。

3由计算机自动生成初始复合形的全部顶点。

第28页：初始复合形的形成

初始复合形的形成：xjarj(ba)(j1,2,...,k)设法将非可行点移到可行域内。0.5(xL1xc)xL1xcLjxxj11Lc、复合形法2、初始复合形法的形成由设计者选定一个可行点，其余的（k-1）个可行点用随机法产生。

第29页：复合形法的搜索方法

复合形法的搜索方法：一般地，可采用四种基本的寻优措施，即反射、扩张、收缩、压缩来实现复合形的替换过程。、复合形法3、复合形法的搜索方法

第30页：复合形法的搜索方法（续）

复合形法的搜索方法（续）：计算复合形各顶点的目标函数，并比较其大小，求出最好点xL、最坏点xH、及次坏点xG，即xL:f(xL)min{f(xL)|j1,2,...,k}xH:f(xH)max{f(xH)|j1,2,...,k}xG:f(xG)min{f(xL)|j1,2,...,k,jH}反射：反射：、复合形法3、复合形法的搜索方法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第31页：复合形法的搜索方法反射

复合形法的搜索方法反射：xRxC(xCxH)ck1j1jx1k1x反射成功的条件：RHf(x)f(x)gj(xR)0(j1,2,...,m)、复合形法3、复合形法的搜索方法反射

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第32页：复合形法的搜索方法（续2）

复合形法的搜索方法（续2）：当求得的反射点xR为可行点，且目标函数值下降较多，则沿反射方向继续移动，即采用扩张的方法，可能找到更好的新点xE（扩张点）。

扩张：扩张：扩张点的计算公式：xRxC(xCxH)、复合形法3、复合形法的搜索方法

第33页：复合形法的搜索方法（续3）

复合形法的搜索方法（续3）：若在中心点xC以外找不到好的反射点，还可以在xC以内，即采用收缩的方法寻找较好的新点xk（收缩点）。收缩：收缩：xkxC(xCxH)收缩点的计算公式：、复合形法3、复合形法的搜索方法

第34页：复合形法的压缩策略

复合形法的压缩策略：若采用上述各种方法均无效，还可以采取将复合形各顶点向最好点xL靠拢，即采用压缩方法来改变复合形的形状。压缩后各顶点的计算公式为：压缩：压缩：(j1,2,...,k;jL)xjxL0.5(xLxj)收缩点的计算公式：、复合形法3、复合形法的搜索方法

第35页：复合形法（续2）

复合形法（续2）：3、复合形法的搜索方法除上述反射、扩张、收缩、压缩之外，还可以采用旋转等方法来改变复合形形状。采用改变复合形形状的方法越多，程序设计越复杂，有可能降低计算效率和可靠性。

因此，程序设计时，应针对具体情况，采用某些有效的方法。

第36页：可行方向法的搜索策略

可行方向法的搜索策略：1、 2、产生可行方向的条件2、产生可行方向的条件3、可行方向的产生方法3、可行方向的产生方法4、搜索步长的确定4、搜索步长的确定5、可行方向法的收敛条件5、可行方向法的收敛条件6、可行方向法的计算步骤6、可行方向法的计算步骤、可行方向法

第37页：可行方向法基本思想

可行方向法基本思想：kdkxk1xk(k1,2,...,)进行迭代计算。在不断调整可行方向的过程中，使迭代点逐步逼近约束最优点。、可行方向法基本思想：可行方向法是一种约束优化问题的直接解法。

它是求解大型约束优化问题的主要方法之一。在可行域内选择一个初始点x0，当确定了一个可行方向d和适当的步长后，按下式

第38页：可行方向法1、可行方向法的搜索策略

可行方向法1、可行方向法的搜索策略：（1）新点在可行域内的搜索策略

第39页：新点在可行域外的搜索策略

新点在可行域外的搜索策略：交点作为新的迭代点、可行方向法1、可行方向法的搜索策略（2）新点在可行域外的搜索策略

第40页：沿约束面搜索的搜索策略沿线性约束

沿约束面搜索的搜索策略沿线性约束：（3） 面的搜索沿非线性约束面的搜索、可行方向法1、可行方向法的搜索策略xk1xg(x)tg(x)Ttg(x)g(x)

第41页：产生可行方向的条件

产生可行方向的条件：两个起作用的约束一个起作用的约束g(xk)Tdk0kTkjd0(j1,2,...,J)g(x)、可行方向法2、产生可行方向的条件（1）可行条件

第42页：产生可行方向的条件（续）

产生可行方向的条件（续）：2、产生可行方向的条件（2）下降条件向量的夹角大于90度f(xk)Tdk0

第43页：可行方向法2、产生可行方向的条件

可行方向法2、产生可行方向的条件：Tkkjf(xk)Tdk0g(x)d0、可行方向法2、产生可行方向的条件（3）可行下降方向区(j1,2,...,J)

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第44页：产生可行方向的方法

产生可行方向的方法：(j1,2,...,J)Tkjf(xk)Td0d1g(x)d0s.t.、可行方向法3、产生可行方向的方法（1）优选方向法minf(xk)Td

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第45页：梯度投影法

梯度投影法：（2） dkPf(xk)/Pf(xk)、可行方向法3、产生可行方向的方法

第46页：搜索步长的确定

搜索步长的确定：（1）取最优步长从xk出发，沿dk方向进行一维最优化搜索，取得最优kdkxk1xk*步长，计算点x若为可行点，则本次迭代的步长为k*dkxk1xk、可行方向法4、搜索步长的确定

第47页：取到约束边界的最大步长

取到约束边界的最大步长

• 取试验步长，计算试验点。
• 判别试验点的位置。
• 将位于非可行域上的试验点调整到约束面上。、可行方向法4、搜索步长的确定
• 取到约束边界的最大步长

第48页：可行方向法5、可行方向法的收敛条件

可行方向法5、可行方向法的收敛条件：条件时，迭代收敛。时，迭代收敛。（2）设计点满足库恩-塔克条件(j1,2,...,J)|[f(x)]jkj1jjk0Jg(x)0、可行方向法5、可行方向法的收敛条件（1）设计点及约束允差满足|[f(xk)]T|dk

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第49页：可行方向法的计算步骤

可行方向法的计算步骤：6

第50页：复合形法初始复合形的确定

复合形法初始复合形的确定：不在可行域内的点移到可行域内四种搜索策略：反射、扩张、收缩、压缩四、可行方向法三种搜索策略产生可行下降方向的条件：扇形区域产生可行方向的两种方法

第51页：第六章 约束优化问题的解法过渡页

本页为分册过渡页，标注课程名称现代机械设计方法与主讲教师白清顺，其后进入四、可行方向法。

第52页：第六章优化设计方法章节分隔页3

第六章优化设计方法：本课件讲解约束优化问题的解法，先区分直接解法与间接解法，再依次展开随机方向法、复合形法与可行方向法，最后系统讲解内点、外点与混合惩罚函数法的原理、参数选取与收敛准则。

第53页：惩罚函数法内容导览

惩罚函数法内容导览：531、概述1、概述2、内点惩罚函数法2、内点惩罚函数法3、外点惩罚函数法3、外点惩罚函数法4、混合惩罚函数法4、混合惩罚函数法5、总结5、总结、惩罚函数法

第54页：惩罚函数的基本形式

惩罚函数的基本形式：54j1k1中的不等式和等式约束函数经过加权转化后，和原目标函数结合形成新的目标函数——惩罚函数。ml(x,r1,r2)f(x)r1G[gj(x)]r2H[hk(x)]h(x)02,...,m)2,...,l)(j1,(k1,g(x)0minf(x)s.t.kj、惩罚函数法1.概述基本原理：惩罚函数法是1968年由美国学者A．V．Fiacco和G．P．Mcormick提出的，是一种使用广泛、很有效的约束优化问题间接解法。

基本原理：将有约束优化问题

第55页：概述惩罚函数法需按一定的法则改变

概述惩罚函数法需按一定的法则改变：55mr1G[gj(x)]j1lr2H[hk(x)]k1加权转化项：、惩罚函数法1.概述惩罚函数法需按一定的法则改变加权因子的值，构成一系列无约束优化问题，求得一系列的无约束最优解，并不断地逼近原约束优化问题的最优解。

因此惩罚函数法又称作序列无约束极小化方法，即SUMT（SequentialUnconstrainedMinimizationTechnique）法。

第56页：惩罚函数法1.概述分类

惩罚函数法1.概述分类：56、 ：根据约束形式和定义的泛函及罚因子的递推方法等不同，罚函数法可分为内点法(内点惩罚函数法)外点法(外点惩罚函数法)混合罚函数法

第57页：基本思想

基本思想：57js.t.g(x)0(j1,2,,m)转化后的惩罚函数形式为：i1m(x,r)f(x)r(k)1gi(x)m(k)ii1ln[g(x)]或：(x,r)f(x)r、惩罚函数法1.内点惩罚函数法（1）基本思想：这种方法将新目标函数定义于可行域内，序列迭代点在可行域内逐步逼近约束边界上的最优点。

内点法只能用来求解具有不等式约束的优化问题。minf(x)

第58页：惩罚函数法

惩罚函数法：1.内点惩罚函数法（1）基本思想：rk是惩罚因子，它是一个由大到小且趋近于0的正数列，即:r0r1r2rkrk10由于内点法的迭代过程在可行域内进行，“障碍项”的作用是阻止迭代点越出可行域。

由“障碍项”的函数形式可知，当迭代点靠近某一约束边界时，其值趋近于0，而“障碍项”的值陡然增加，并趋近于无穷大，好像在可行域的边界上筑起了一道“高墙”，使迭代点始终不能越出可行域。

显然，只有当惩罚因子rk0时，才能求得在约束边界上的最优解。

第59页：内点惩罚函数法例题

内点惩罚函数法例题

• 用解析法求函数的极小值，运用极值条件：、惩罚函数法1.内点惩罚函数法
• 例题

第60页：用解析法求函数的极小值

用解析法求函数的极小值：运用极值条件：112rk2x1x10x2x0x2联立求解得：1k112rk2x(rk)x(r)02、惩罚函数法1.内点惩罚函数法*关于解析法和数值求解方法的说明

第61页：惩罚函数法1.内点惩罚函数法

惩罚函数法1.内点惩罚函数法：下表列出内点惩罚函数法中惩罚因子与无约束最优解的对应关系，共4组数据。

第62页：内点惩罚函数法例题（续）

内点惩罚函数法例题（续）：惩罚函数法1.内点惩罚函数法minf(x)x2x2121s.t.g(x)1x0*注意约束函数表述

第63页：内点惩罚函数法例题（续2）

内点惩罚函数法例题（续2）：惩罚函数法1.内点惩罚函数法minf(x)x2x2121s.t.g(x)1x0*注意约束函数表述

第64页：惩罚函数法1.内点惩罚函数法（续）

惩罚函数法1.内点惩罚函数法（续）

• 主要参数的选取初始点x0的选取使用内点法时，初始点应选择一个离约束边界较远的可行点。如太靠近某一约束边界，构造的惩罚函数可能由于障碍项的值很大而变得畸形，使求解无约束优化问题发生困难。
• 计算机自动生成（随机数）方法：要求
• 在可行域内
• 不要离约束边界太近。
• 人工输入

第65页：惩罚函数法1.内点惩罚函数法（续2）

惩罚函数法1.内点惩罚函数法（续2）：65、惩罚函数法1.内点惩罚函数法（3）主要参数的选取惩罚因子初值r0的选取惩罚因子的初值应适当，否则会影响迭代计算的正常进行。

一般而言，太大，将增加迭代次数；太小，会使惩罚函数的性态变坏，甚至难以收敛到极值点。无一般性的有效方法。对于不同的问题，都要经过多次试算，才能决定一个适当的r0。

第66页：主要参数的选取惩罚因子的缩减系数

主要参数的选取惩罚因子的缩减系数：66r0.1~0.7之间。五、惩罚函数法1.内点惩罚函数法（3）主要参数的选取惩罚因子的缩减系数c的选取在构造序列惩罚函数时，惩罚因子r是一个逐次递减到0的数列，相邻两次迭代的惩罚因子的关系为:rkcrk1(k1,2,...)式中的c称为惩罚因子的缩减系数，c为小于1的正数。

一般看法是，c值的大小在迭代过程中不起决定性作用

第67页：惩罚函数法概述：惩罚函数法

惩罚函数法概述：惩罚函数法：671[x*(rk1),rk1]、惩罚函数法1.内点惩罚函数法（4）收敛条件[x*(rk),rk][x*(rk1),rk1]——惩罚函数值的相对变化量充分小x*(rk)x*(rk1)2——相邻两次迭代的无约束极小点已充分接近

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第68页：惩罚函数法概述：若均满足

惩罚函数法概述：若均满足：①②x(k1)*(r)x*(r)(k1)(k)k12(k1)(k1)k*(r(k1)))(x(x*(r(k1)))(x*(r(k)))若均满足，停止迭代，有约束优化问题的最优点为x* =xk*；若有一个准则不满足，则令x(0)x*(r(k)),r(k1)cr(k),kk1k并转入第3步，继续计算。

、惩罚函数法1.内点惩罚函数法（4）内点法的计算步骤►选取合适的初始点x(0)，以及r(0)、c、计算精度ε1、ε2，令k=0；►构造惩罚（新目标）函数；►调用无约束优化方法，求新目标函数的最优解xk*和Φ(xk,r(k))；►判断是否收敛：运用终止准则

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第69页：内点法的计算步骤

内点法的计算步骤：69、惩罚函数法1.内点惩罚函数法（5）

第70页：惩罚函数法1.内点惩罚函数法（续3）

惩罚函数法1.内点惩罚函数法（续3）

• 方法评价
• 用于目标函数比较复杂，或在可行域外无定义的场合下
• 由于优化过程是在可行域内逐步改进设计方案，故在解决工程问题时，只要满足工程要求，即使未达最优解，接近的过程解也是可行的
• 初始点和序列极值点均需严格满足所有约束条件
• 不能解决等式约束问题。

第71页：惩罚函数法（续）

惩罚函数法（续）：71、惩罚函数法1.内点惩罚函数法本课小结1惩罚函数法的分类2内点惩罚函数法的基本原理3内点惩罚函数法的主要特点4用内点法求12minf(x)x2x2s.t.1x20的约束最优解。

第72页：第六章 约束优化问题的解法过渡页

本页为分册过渡页，标注课程名称现代机械设计方法与主讲教师白清顺，其后进入五、惩罚函数法概述与内点惩罚函数法。

第73页：第六章优化设计方法章节分隔页4

第六章优化设计方法：本课件讲解约束优化问题的解法，先区分直接解法与间接解法，再依次展开随机方向法、复合形法与可行方向法，最后系统讲解内点、外点与混合惩罚函数法的原理、参数选取与收敛准则。

第74页：惩罚函数法2.外点惩罚函数法

惩罚函数法2.外点惩罚函数法：74、 （1）概述外点法是从可行域的外部构造一个点序列去逼近原约束问题的最优解。外点法可以用来求解含不等式和等式约束的优化问题。

第75页：外点惩罚函数法

外点惩罚函数法：7522mlii1j1j(x,r)f(x)rmax[0,g(x)]r[h(x)]r是惩罚因子,r0r1r2外点法的迭代过程在可行域之外进行，惩罚项的作用是迫使迭代点逼近约束边界或等式约束曲面。

由惩罚项的形式可知，当迭代点x不可行时，惩罚项的值大于0。、惩罚函数法2.外点惩罚函数法（1）基本思想外点惩罚函数的形式为：h(x)02,...,m)2,...,l)(j1,(k1,g(x)0minf(x)kj对约束优化问题：s.t

第76页：惩罚函数法2.外点惩罚函数法（续）

惩罚函数法2.外点惩罚函数法（续）：123minf(x)1(x1)3x11s.t.g(x)1x0g2(x)x20、惩罚函数法2.外点惩罚函数法（2）例题一用外点法求解下列有约束优化问题

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第77页：外点惩罚函数法：对上式求偏导

外点惩罚函数法：对上式求偏导：7731213xr[max(0,1x)]221r[max(0,x)]2(x,r)(x1)1212121(x1)3x31(x1)3xr(1x)2r(x)23(g(x)0,g(x)0)12(g(x)0,g(x)0)12对上式求偏导，得、惩罚函数法2.外点惩罚函数法（2）例题一解：惩罚函数为

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第78页：外点惩罚函数法：无约束目标函数极

外点惩罚函数法：无约束目标函数极：2111(x1)x(x1)22r(1x)11x12r(x)22无约束目标函数极小化问题的最优解系列为：12rx*(r)1rr4rx*(r)0.51当惩罚因子渐增时，由下表可看出收敛情况。

五、惩罚函数法2.外点惩罚函数法（2）例题一

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第79页：外点惩罚函数法（续）

外点惩罚函数法（续）：*1x2x**(r)f*(r)r-49.9977-24.9650-50.00000-0.809750.01-4.9474-2.2344-5.00000-0.459690.10.12950.9631-0.500000.2360712.00012.3068-0.050000.83216102.65822.6624-0.000500.99800100008/38/31∞、惩罚函数法2.外点惩罚函数法

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第80页：外点惩罚函数法（续2）

外点惩罚函数法（续2）：惩罚函数法2.外点惩罚函数法（3）例题二用外点法求12minf(x)x2x21s.t.g(x)1x0的约束最优解。

构造外点惩罚函数用解析法求函数的极小值，运用极值条件：21x2r(1x)221(x,r)x

第81页：外点惩罚函数法（续3）

外点惩罚函数法（续3）：惩罚函数法2.外点惩罚函数法（3）例题二221212r(1x)0x2x02xr1rx*(r)1x联立求解得2x*(r)0

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第82页：外点惩罚函数法（续4）

外点惩罚函数法（续4）：下表列出外点惩罚函数法中惩罚因子与无约束最优解的对应关系，共4组数据。

第83页：外点法例题的约束函数

外点法例题的约束函数：惩罚函数法2.外点惩罚函数法minf(x)x2x2121s.t.g(x)1x0*注意约束函数表述

第84页：外点惩罚函数法：的选择

外点惩罚函数法：的选择

• 参数选取r
• 的选择:r
• 过大，会使惩罚函数的等值线变形或偏心，求极值困难。r
• 过小，迭代次数太多。00000uuumgxfx0.02u1,2,...m其中：r建议：rmaxrx
• 的选择：基本上可以在可行域内外，任意选择。递增系数a的选择：通常选择5～10，可根据具体题目，进行试算调整。

第85页：外点惩罚函数法：约束裕量

外点惩罚函数法：约束裕量：u1,2,...,m五、惩罚函数法2.外点惩罚函数法（5）收敛准则终止准则和约束裕量：终止准则：maxgx*rku0其中：为收敛精度，一般选103～105。

0约束裕量：当必须严格满足约束条件时，选用约束裕量δ。定义新约束条件：00肯定严格满足gx0。ukuuu时，令一般选103～104，gx*r当满足maxgxgx0,''

第86页：外点惩罚函数法：实现步骤

外点惩罚函数法：实现步骤：（6）实现步骤：x(k1)*(r)x*(r)(k1)(k)k12(k1)(k1)k*(r(k1)))(x(x*(r(k1)))(x*(r(k)))的最优解xk*和Φ(xk,r(k))；3.4.判断是否收敛：运用终止准则①②若均满足，停止迭代，有约束优化问题的最优点为x*=xk*；若有一个准则不满足，则令并转入第2步，继续计算。

x(0)x*(r(k)),r(k1)ar(k),kk1k1.选择合适的初始点x(0)，并选择r(0), a,ε1,ε2,δ0，令k=0；2.构造惩罚（新目标）函数，调用无约束优化方法，求新目标函数否则，转第4步。

0kugx*r判断是否接近边界：若max则停止迭代，x*x*rk。

本页以公式推导为主，源文件提取的数学符号存在粘连，建议对照原课件图片核对公式。

第87页：外点惩罚函数法：方法评价

外点惩罚函数法：方法评价

• 方法评价
• 初始点原则上可任意选择
• 能解决等式约束问题
• 由于优化过程是在可行域外进行，故在解决工程问题时，过程解均不可行。

第88页：惩罚函数法内点法和外点法的简单比

惩罚函数法内点法和外点法的简单比：较内点法的特点：1始点必须为严格内点2不适于具有等式约束的数学模型3迭代过程中各个点均为可行设计方案4一般收敛较慢5初始罚因子要选择得当6罚因子为递减，递减率c有0<c<1

第89页：外点法的特点

外点法的特点：惩罚函数法内点法和外点法的简单比较 ：1初始点可以任选2对等式约束和不等式约束均可适用3仅最优解为可行设计方案4一般收敛较快5初始罚因子要选择得当6罚因子为递增，递增率c’有c’>1

第90页：一维问题的内点法和外点法比较

一维问题的内点法和外点法比较：惩罚函数法

第91页：混合法具有内点法的特点

混合法具有内点法的特点：迭代过程在可行域之内进行，参数的选择同内点法。jir(k)i1j111lm(x,r(k))f(x)r(k)[h(x)]2g(x)rk1r是惩罚因子,r0r1r2rk0、惩罚函数法3.混合惩罚函数法混合法是用内点法处理不等式约束，用外点法处理等式约束。

可以用来求解含不等式和等式约束的优化问题。混合惩罚函数的形式为

第92页：惩罚函数法原理简单

惩罚函数法原理简单：算法易行，且分内点法、外点法和混合法三种，各有特点，适用范围广。需要和有效的无约束优化方法结合使用。因此该方法也是应用较多的有约束优化方法。

重点：1内点惩罚函数的原理及应用2外点惩罚函数的原理及应用3内点惩罚函数和外点惩罚函数的比较

第93页：思考题

思考题：1.分析比较牛顿法、阻尼牛顿法、共轭梯度法、变尺度法和鲍威尔法的特点。找出前四种方法的相互联系。特点：从表达式、收敛速度、…方面阐述。

联系：都是无约束优化方法都利用目标函数的梯度值信息构造搜索方向2.简述惩罚函数法的类型以及各自的基本原理1内点惩罚函数法2外点惩罚函数法3混合惩罚函数法从迭代公式、迭代特点、适用对象等方面阐述基本原理第六章优化设计方法