定理10有一个非常重要的应用，它给我们提供了确定函数极大值与极小值的方法。我们期望从单变量函数的相关知识来得出二阶导数的判定准则，所以我们先回顾一下实变量实况。

如果$f:R\to R$在$x_0$处有一个局部极大或极小，并且$f$在$x_0$处可微，那么$f^\prime(x_0)=0$。更进一步，如果$f$ 二次连续可微，并且若$f^{"}(x_0)<0$，那么$x_0$是局部最大值，若$f^{"}(x_0)>0$，那么它是局部最小值。

为了将这些事实推广到函数$f:A\subset R^n\to R$上，我们首先从相关定义开始。

$\textbf{定义6}$ 令$f:A\subset R^n\to R$，其中$A$是开集。如果存在一个$x_0\in A$的邻域并且在这个邻域内$f(x_0)$是最大值，即对于邻域内的所有$x,f(x_0)\geq f(x)$，我们称$f(x_0)$是$f$的局部最大值。同样的，我们可以定义$f$的局部最小值。如果一个点要么是$f$的局部最大值要么是最小值，那么我们称该点是极值点(extreme)，如果$f$ 在点$x_0$处可微且$Df(x_0)=0$，那么我们称$x_0$是驻(critical)点。

第一个基本事实可以用下面的定理来表述。

$\textbf{定理11}$如果$f:A\subset R^n\to R$是可微的，$A$是开集，如果$x_0\in A$是$f$的一个极值点，那么$Df(x_0)=0$；即$x_0$是一个驻点。

它的证明大部分与基本微积分是一样的，因为$f$图像的极值点肯定有一个水平切平面，所以这个结论直观上非常明显。然而，仅仅是驻点不能保证该点就是极值点。例如考虑函数$f(x)=x^3$，因为$Df(0)=0$，所以$0$是该函数的驻点，但是$x>0$时$x^3>0$，而$x<0$时$x^3<0$，所以0不是极值。另一个例子是$f(x,y)=y^2-x^2$，$0=(0,0)$是驻点，因为$\partial f/\partial x=-2x,\partial f/\partial y=2y$，所以$Df(0,0)=0$。然而在0的任何邻域内我们可以找出使得$f$大于零与小于0的点。不是局部极值的驻点称为鞍点(saddle point)，图1说明了为了用这个术语。

对于$f:A\subset R\to R$，我们已经说明如果$f^\prime(x)=0,f^{"}<0$，那么它有局部最大值，回忆一下几何情况，$f^{"}<0$意味着$f$是向下凹的。为了推广，下面我们引进函数$g$在点$x_0$处海森(Hessian)的概念。

$\textbf{定义7}$ 如果$g:B\subset R^n\to R$是$C^2$类，那么$g$在$x_0$处的海森定义为双线性函数$H_{x_0}(g):R^n\times R^n\to R$，形式为$H_{x_0}(g)(x,y)=-D^2g(x_0)(x,y)$(注意负号)，从而海森仅仅是二阶偏微分的矩阵加负号。

双线性形式，即双线性映射$B:R^n\times R^n\to R$称为正定的(positive definite)，如果对于$R^n$中所有的$x\neq 0,B(x,x)> 0$。称为半正定的(positive semidefinite)，如果对于$R^n$中所有的$x\neq 0,B(x,x)\geq 0$。负定与半负定双线性形式定义类似。

图1

接下来我们推广到多变量的情况。

$\textbf{定理12}$

1. 如果$f:A\subset R^n\to R$是定义在开集$A$上的$C^2$函数，并且$x_0$是$f$的驻点使得$H_{x_0}(f)$是正定的，那么$f$在$x_0$处有一个局部最大值。
2. 如果$f$在$x_0$处有一个局部最大值，那么$H_{x_0}(f)$是半正定的。

对于极小值的情况只需要将上面定理中的正改成负即可，注意$f$的最小值就是$-f$的最大值。

$H_{x_0}(f)$对标准基的矩阵是

$$\begin{pmatrix} -\frac{\partial^2f}{\partial x_1\partial x_1}&\cdots&-\frac{\partial^2f}{\partial x_1\partial x_n}\\ \cdot&&\cdot\\ \cdot&&\cdot\\ \cdot&&\cdot\\ -\frac{\partial^2f}{\partial x_n\partial x_1}&\cdots&-\frac{\partial^2f}{\partial x_n\partial x_n} \end{pmatrix}$$

其中偏导数都是在$x_0$处计算的。

当$n=1$时，定理12$\textrm{(i)}$简化为单变量测试$f^{"}(x_0)<0$。如果$f^{"}(x_0)=0$，那么函数有极大值或极小值或鞍点，(此时测试失效)例如$f(x)=-x^4,x^5,x^4$在$x_0=0$处分别有最大值，鞍点与极小值，虽然他们的$f^{"}(x_0)=0$。

提及一些线性代数的知识可能比较有帮助，令$\Delta_k$是矩阵

$$\begin{pmatrix} -\frac{\partial^2f}{\partial x_1\partial x_1}&\cdots&-\frac{\partial^2f}{\partial x_1\partial x_k}\\ \cdot&&\cdot\\ \cdot&&\cdot\\ \cdot&&\cdot\\ -\frac{\partial^2f}{\partial x_k\partial x_1}&\cdots&-\frac{\partial^2f}{\partial x_k\partial x_k} \end{pmatrix}$$

的行列式，这个矩阵就是海森矩阵去掉最后$n-k$行和列得到的，那么对称矩阵$H_{x_0}(f)$是正定的，当且仅当对所有的$k=1,\ldots,n,\Delta_k>0$，它是半正定的当且仅当对所有$k=1,\ldots,n,\Delta_k\geq0$。这里我们不证明一般情况，在下面的例1中，我们证明$2\times 2$矩阵，下面还给出了负定的判别准则，从而对$k=1,\ldots,n$，如果$\Delta_k>0$，那么$f$在驻点$x_0$处有(局部)最大值，这可能是应用定理12 的最佳方式。对任意$k$如果$\Delta_k<0$，那么$f$在$x_0$ 处没有最大值。同样的，如果$H_{x_0}(f)$是负定的，那么$f$在$x_0$处有(局部)最小值。通过改变$H_{x_0}(f)$的符号以及利用行列式的性质，可以得出如果$k$为奇数时$\Delta_k<0$，$k$为偶数时$\Delta_k>0$，那么$H_{x_0}(f)$是负定的，如果$k$为奇数时$\Delta_k\leq0$，$k$为偶数时$\Delta_k\geq0$，那么$H_{x_0}(f)$是负定的，从而当$k$为奇数时$\Delta_k<0$，当$k$为偶数时$\Delta>0$，那么$f$在$x_0$处有最小值。

如果对某些奇数$k,\Delta_k>0$，对某些偶数$k,\Delta<0$，那么$f$在$x_0$处不可能有最小值。事实上，如果对面某些$k,\Delta_k<0$，$f$在$x_0$既没有最大值也没有最小值，$x_0$肯定是$f$的鞍点。

这个定理在力学中也非常有用，这时$f$是一个系统的势能，那么最小值对应稳定态，最大值与鞍点对应不稳定态。

$\textbf{例1：}$说明矩阵

$$\begin{bmatrix} a&b\\ b&d \end{bmatrix}$$

是正定的，当且仅当$a>0,ad-b^2>0$。

$\textbf{解：}$正定意味着

$$\text{如果}(x,y)\neq(0,0)\text{，那么} \begin{bmatrix} x&y \end{bmatrix} \begin{bmatrix} a&b\\ b&d \end{bmatrix} \begin{bmatrix} x\\ y \end{bmatrix}>0$$

即$ax^2+2bxy+dy^2>0$。首先假设对于所有的$(x,y)\neq(0,0)$该不等式均成立，令$y=0,x=1$我们得到$a>0$，令$y=1$，那么对所有的$x$，我们有$ax^2+2bx+d>0$，这个函数是抛物线且在$2ax+2b=0$处有最小值(因为$a>0$)，即$x=-b/a$，从而

$$a\left(-\frac{b}{a}\right)^2+2b\left(-\frac{b}{a}\right)+d>0$$

即$ad-b^2>0$。反过来可以用同样的方式来证明。

$\textbf{例2：}$研究$f(x,y)=x^2-xy+y^2$鞍点$(0,0)$的性质。

$\textbf{解：}$这里

$$\frac{\partial f}{\partial x}=2x-y,\ \frac{\partial^2f}{\partial x^2}=2,\ \frac{\partial^2f}{\partial x\partial y}=-1,\ \frac{\partial f}{\partial y}=-x+2y,\ \frac{\partial^2f}{\partial y^2}=2$$

所以海森矩阵是

$$\begin{bmatrix} -2&1\\ 1&-2 \end{bmatrix}$$

这里$\Delta_1=-2<0,\Delta_2=4-1=3>0$，所以海森矩阵是负定的，从而我们有一个局部最小值。

庞特里亚金极小值原理

庞特里亚金极小值原理是在控制向量u(t)受限制的情况下，使得目标函数J取极小，从而求解最优控制问题的原理和方法，又称极大值原理。λ是协态向量，系统模型有多少个变量就有多少个协态。s和u都是省略了符号t的，代表某一时刻的最优状态和最优控制，是一个常数。利用庞特里亚金极小值原理求解最优控制问题首先需要求解协态方程，也就是λ，然后再求解最优控制u*，求解完u*之后，即可得到最优状态。
下面以一个简单的二阶系统为例，简单说明如何用庞特里亚金极小值原理求解二阶系统的最优控制问题。

1. 问题描述

二阶系统的状态s为：$s=\left[\begin{array}{l}x\\ \dot{x}\end{array}\right]$，控制量u为：$u=[\ddot{x}]$，可以将状态s想象成x方向的位移以及x方向上的速度，将控制量u想象成x方向上的加速度，通过输入控制量来改变系统的状态。将问题定义为：试求控制u，将系统在t=2时转移到零态，并使得J取极小值。

系统模型为：
$$\begin{array}{rl}\dot{s}& =\left[\begin{array}{ll}0& 1\\ 0& 0\end{array}\right]s+\left[\begin{array}{l}0\\ 1\end{array}\right]u=\left[\begin{array}{ll}0& 1\\ 0& 0\end{array}\right]\left[\begin{array}{l}x\\ \dot{x}\end{array}\right]+\left[\begin{array}{l}0\\ 1\end{array}\right]\ddot{x}\end{array}$$
目标函数为：
$$J=\frac{1}{2}{\int }_0^2{u}^{2}dt$$

2. 求解协态方程

根据庞特里亚金极小值原理中的：
$$\dot{\lambda }(t)=-{\nabla }_{s}H\left(s^{\ast }(t),u^{\ast }(t),\lambda (t)\right)$$
先写出哈密顿函数，然后根据哈密顿函数列出协态方程，并求解。
哈密顿函数为：
$$H=\frac{1}{2}{u}^2+{\lambda }_1{s}_2+{\lambda }_{2}u$$
两个λ分别乘上对应的系统模型$\dot{s}$中的两个元素s2和u，其中s2就代表s的第二行的元素（同时也是$\dot{s}$中第一行的元素），也就是x方向的速度。u即为控制量（同时也是$\dot{s}$中第二行的元素），这样就得到了哈密顿函数。
将哈密顿函数分别对s1和s2（状态矩阵$s$中的元素）求导，并将s和u这两个常量代入可得协态方程：
$${\dot{\lambda }}_1(t)=-\frac{\partial H}{\partial s_1}=0\Rightarrow {\lambda }_1(t)=a_1$$

$${\dot{\lambda }}_2(t)=-\frac{\partial H}{\partial s_2}=-{\lambda }_1(t)\Rightarrow {\lambda }_2(t)=-a_{1}t+a_2$$
通过求解上述的微分方程即可求得λ。

3. 求解最优控制

根据庞特里亚金极小值原理中的：
$$u^{\ast }(t)=\arg \underset{u(t)}{\min }H\left(s^{\ast }(t),u(t),\lambda (t)\right)$$

最优的u*的选取是，当哈密顿函数中的s取最优时，能够使得哈密顿函数最小的那个u即为最优控制量。令导数等于0即可：
$$\frac{\partial H}{\partial u}=u+{\lambda }_2=0\Rightarrow u=-{\lambda }_2=a_{1}t-a_2$$
求得u的表达式之后，对u进行两次积分可以得到s1和s2（状态矩阵$s$中的元素）：
$$\begin{array}{l}{s}_1=\frac{1}{6}{a}_1{t}^3-\frac{1}{2}{a}_2{t}^2+a_{3}t+a_4\\ s_2=\frac{1}{2}{a}_1{t}^2-a_{2}t+a_3\end{array}$$

将初始条件和终端条件代入可求得：
$$u^{\ast }(t)=\frac{9}{2}t-5$$