まず、x と y を媒介変数を用いて表すことを考えます。 2x2+3y2=1 という式は、楕円を表しています。 x=21cosθ, y=31sinθ とおくと、2x2+3y2=2(21cos2θ)+3(31sin2θ)=cos2θ+sin2θ=1 となり、与えられた条件を満たします。 次に、x2−y2+xy を θ を用いて表します。 \begin{align*}
x^2 - y^2 + xy &= \frac{1}{2}\cos^2\theta - \frac{1}{3}\sin^2\theta + \frac{1}{\sqrt{6}}\cos\theta\sin\theta \\
&= \frac{1}{2}\cos^2\theta - \frac{1}{3}\sin^2\theta + \frac{1}{2\sqrt{6}}\sin(2\theta) \\
&= \frac{1}{2} \cdot \frac{1 + \cos(2\theta)}{2} - \frac{1}{3} \cdot \frac{1 - \cos(2\theta)}{2} + \frac{1}{2\sqrt{6}} \sin(2\theta) \\
&= \frac{1}{4} + \frac{1}{4}\cos(2\theta) - \frac{1}{6} + \frac{1}{6}\cos(2\theta) + \frac{1}{2\sqrt{6}}\sin(2\theta) \\
&= \frac{1}{12} + \left(\frac{1}{4} + \frac{1}{6}\right)\cos(2\theta) + \frac{1}{2\sqrt{6}}\sin(2\theta) \\
&= \frac{1}{12} + \frac{5}{12}\cos(2\theta) + \frac{1}{2\sqrt{6}}\sin(2\theta)
\end{align*}
f(θ)=125cos(2θ)+261sin(2θ) とおくと、f(θ) の最大値を求めるために、 f(θ)=Asin(2θ+α) の形に変形します。 A=(125)2+(261)2=14425+241=14425+1446=14431=1231 よって、
x2−y2+xy=121+1231sin(2θ+α) sin(2θ+α) の最大値は1なので、 求める最大値は 121+1231=121+31