まず、偏導関数 ∂x∂u と ∂y∂u を計算する。 次に、∂x∂u=0 と ∂y∂u=0 を満たす x,y を求める。 次に、それぞれの停留点におけるヘッセ行列を計算する。ヘッセ行列は以下の通り定義される。
$H = \begin{pmatrix}
\frac{\partial^2 u}{\partial x^2} & \frac{\partial^2 u}{\partial x \partial y} \\
\frac{\partial^2 u}{\partial y \partial x} & \frac{\partial^2 u}{\partial y^2}
\end{pmatrix}$
ヘッセ行列の行列式 det(H)=∂x2∂2u∂y2∂2u−(∂x∂y∂2u)2 を計算する。 - det(H)>0 かつ ∂x2∂2u>0 ならば、極小値を取る。 - det(H)>0 かつ ∂x2∂2u<0 ならば、極大値を取る。 - det(H)<0 ならば、鞍点となる。 - det(H)=0 ならば、判定できない。 具体的に計算する。
∂x∂u=2(1−x2)(−2x)+2y=−4x+4x3+2y ∂y∂u=2x+2y ∂x∂u=0 より −4x+4x3+2y=0 つまり y=2x−2x3 ∂y∂u=0 より 2x+2y=0 つまり y=−x 2x−2x3=−x より 3x−2x3=0 つまり x(3−2x2)=0 したがって、x=0 または x=±23 - x=0 のとき y=0 - x=23 のとき y=−23 - x=−23 のとき y=23 停留点は (0,0), (23,−23), (−23,23) 次に、二階偏導関数を計算する。
∂x2∂2u=−4+12x2 ∂x∂y∂2u=2 ∂y2∂2u=2 ヘッセ行列は H=(−4+12x2222) - (0,0) のとき H=(−4222), det(H)=−8−4=−12<0 なので鞍点。 - (23,−23) のとき H=(−4+12(23)222)=(14222), det(H)=28−4=24>0, ∂x2∂2u=14>0 なので極小値。 - (−23,23) のとき H=(−4+12(23)222)=(14222), det(H)=28−4=24>0, ∂x2∂2u=14>0 なので極小値。