まず、偏微分を計算して、極値の候補となる点を求める。
fx=∂x∂f=−3x2+12 fy=∂y∂f=−10y 極値の候補点は、fx=0 かつ fy=0 を満たす点である。 fx=0 より、 −3x2+12=0。 fy=0 より、 −10y=0。 したがって、極値の候補点は (2,0) と (−2,0) である。 次に、ヘッセ行列を計算して、極大となる点を調べる。
fxx=∂x2∂2f=−6x fyy=∂y2∂2f=−10 fxy=∂x∂y∂2f=0 ヘッセ行列は次のようになる。
H=[fxxfyxfxyfyy]=[−6x00−10] ヘッセ行列の行列式は D=fxxfyy−fxy2=(−6x)(−10)−02=60x 点 (2,0) では、D=60(2)=120>0 であり、fxx=−6(2)=−12<0 なので、(2,0) は極大点である。 極大値は f(2,0)=−(2)3+12(2)−5(0)2=−8+24−0=16 点 (−2,0) では、D=60(−2)=−120<0 なので、鞍点である。