Skip to content

凸分析与优化方法

凸分析研究凸集合与凸函数的几何、连续性、支撑和对偶关系;凸优化据此建立最优性条件,并设计可计算的求解方法。模型是否凸、最优解是否存在、条件是否足以证明最优、算法是否收敛,是四个需要分别回答的问题。

目录

  1. 优化问题与凸性
  2. 凸集、投影与分离
  3. 凸函数、次梯度与共轭
  4. 拉格朗日对偶与 KKT
  5. 二次规划、锥规划与建模
  6. 梯度、投影与近端方法
  7. 牛顿法、内点法与非光滑优化
  8. 最优性证书与数值实验

先修知识与约定

需要多元微积分、线性代数、实分析中的极限与闭集概念。正文限于有限维实向量空间,默认欧氏内积和范数;涉及扩展值函数时允许取 ++\infty 表示不可行,具体定理会列出相应假设。

参考课程

MIT 6.079 Introduction to Convex Optimization,2009 年秋季教学大纲覆盖凸集、凸函数、最小二乘、线性与二次规划、半正定规划、最优性和对偶。

本讲义在这些建模主题之外,展开投影、次梯度、共轭及一阶与二阶方法的基本推导。凸性用于提供可验证的整体结论,不能替代定理中关于光滑性、闭性和约束资格的条件。

上次更新: