关于 fmincon 的算法原理
请问fmincon究竟运用了哪些算法？Matlab的help里面似乎找不到。有谁能稍微详细地帮我解释一下吗? 非常感谢![ 本帖最后由 eight 于 2007-9-11 16:51 编辑 ] doc fmincon.
或者找一本讲到非线性优化的书籍看看. help里有：
Algorithm
Large-Scale Optimization. The large-scale algorithm is a subspace trust region method and is based on the interior-reflective Newton method described in , . Each iteration involves the approximate solution of a large linear system using the method of preconditioned conjugate gradients (PCG). See the trust region and preconditioned conjugate gradient method descriptions in the Large-Scale Algorithms chapter.
Medium-Scale Optimization. fmincon uses a sequential quadratic programming (SQP) method. In this method, the function solves a quadratic programming (QP) subproblem at each iteration. An estimate of the Hessian of the Lagrangian is updated at each iteration using the BFGS formula (see fminunc, references , ).
A line search is performed using a merit function similar to that proposed by , , and . The QP subproblem is solved using an active set strategy similar to that described in . A full description of this algorithm is found in Constrained Optimization in "Introduction to Algorithms." See also SQP Implementation in "Introduction to Algorithms" for more details on the algorithm used.
前者用信赖域法，后者用序列二次规划 我原来发在simwe上，转过来供大家参考吧
fmincon函数浅析（原创）
fmincon命令浅析，有错漏之处望大家不吝赐教
命令格式：
= fmincon(fun,x0,A,b,Aeq,beq,lb,ub,nonlcon,options)
如matlab帮助文档中所述，fmincon命令使用的算法对于大规模优化问题和中等问题是有所区分的：
Large-Scale Optimization
The large-scale algorithm is a subspace trust region method and is based on the interior-reflective Newton method described in and . Each iteration involves the approximate solution of a large linear system using the method of preconditioned conjugate gradients (PCG)..
Medium-Scale Optimization
fmincon uses a sequential quadratic programming (SQP) method. In this method, the function solves a quadratic programming (QP) subproblem at each iteration. An estimate of the Hessian of the Lagrangian is updated at each iteration using the BFGS formula. A line search is performed The QP subproblem is solved using an active set strategy.
这里试图回答三个问题：
1.
什么Large-Scale Optimization，什么是Medium-Scale Optimization？
2.
fimcon提供的subspace trust region和sequential quadratic programming方法原理？
3.
BFGS公式和线性搜索是什么？
问题1
所谓大规模问题指的是出现在工程，化学等领域中有大量优化变量的问题。由于自变量的维数很高，这样的问题是被分解成多个低维子问题来求解的。Medium－Scale优化问题实际上是matlab自己提出和大规模问题对应的一个概念，就是通常一般的优化算法，如牛顿法，最速下降法之类的处理优化变量不是很多的问题。
问题2
对于大规模问题，fmincon采用了subspace trust region优化算法。这种算法是把目标函数在点x的邻域泰勒展开（x可以认为是人为提供的初始猜测），这个展开的邻域就是所谓的trust region，泰勒展开进行到二阶项为止：
Q(x) = 1/2*<x,Hx> + <f,x>
（1）
这时目标函数在某一个局部的特性就可以“看出来了”。在这样的一个邻域里，我们求一个新的点x1，使得目标函数值减小，这个问题相比于原来的问题要简单。然而实际上对于存在非常大规模优化变量的问题，直接对这个子问题的求解仍然是不可忍受的。
同时我们注意到，由于泰勒展开要进行的第二项，这就要求我们能够提供一阶导计算的函数。如果我们不能提供一阶导表达式，二阶导（Hessian矩阵）matlab是无法计算的。所以我们使用fmincon命令而不给一阶导表达式，fmincon会放弃使用大规模算法。
如前所述，原问题转化后的直接求解仍然是无法忍受的，通过进一步近似subspace trust region将这个问题局限在trust region的二维子空间内求解。
序列二次规划方法是将一个带有等式和不等式约束（可以是非线性）的非线性优化问题转化为二次规划问题求解，二次规划问题类似公式（1）形式。具体转化过程可以参考：
http://www.caam.rice.edu/~adpadu/talks/sqp1.pdf
问题3
对于medium－scale问题，求解二次规划问题涉及到Hessian矩阵。Hessian矩阵的近似计算是通过拟牛顿法得到的，拟牛顿法提供了两个公式可用于Hessian矩阵（或其逆）的迭代：BFGS公式和DFP公式），而初始的Hessian矩阵是任意给的，如给一个单位阵I。
BFGS公式如下：
H(k+1) = H(k) + <q(k),q(k)>/<q(k),s(k)> - <s(k)H(k), s(k)H(k)>/<s(k), H(k)s(k)>
（3）
总结：
fmincon运行首先检查有无梯度表达提供，如有则选则大规模算法（subspace trust region），由此涉及到Hessian阵的近似计算，由于已提供了梯度的公式，则Hessian阵可以直接通过有限差分计算。但是如果用户直接提供了Hessian计算公式，则直接计算。
如果没有梯度表达式提供，fmincon选则SQP算法，算法中Hessian阵可以通过BFGS迭代，初始Hessian阵任给。注意BFGS公式中q项是需要计算目标函数梯度得到的。所以Hessian矩阵的近似计算是需要用到有限差分法。 clarkyeah 发表于 2008-1-18 17:08
我原来发在simwe上，转过来供大家参考吧
fmincon函数浅析（原创）
不错，学习了
页:
[1]