まず、x2y+xy2−x2−2xy−y2+x+y を因数分解します。 \begin{align*}
x^2y + xy^2 - x^2 - 2xy - y^2 + x + y &= xy(x+y) - (x^2+2xy+y^2) + x+y \\
&= xy(x+y) - (x+y)^2 + (x+y) \\
&= (x+y)(xy - (x+y) + 1) \\
&= (x+y)(xy - x - y + 1)
\end{align*}
x+y=u, xy=v とおくと、x2+xy+y2=(x+y)2−xy=u2−v=6 より、v=u2−6 したがって、x2y+xy2−x2−2xy−y2+x+y=(x+y)(xy−x−y+1)=u(u2−6−u+1)=u(u2−u−5)=u3−u2−5u x,y は実数なので、t2−ut+v=0 は実数解を持つ。したがって、判別式 D=u2−4v≥0 より、 u2−4(u2−6)≥0 u2−4u2+24≥0 −3u2+24≥0 −8≤u≤8 −22≤u≤22 f(u)=u3−u2−5u とおくと、 f′(u)=3u2−2u−5=(3u−5)(u+1) f′(u)=0 より、u=−1,5/3 f(−22)=(−22)3−(−22)2−5(−22)=−162−8+102=−62−8 f(22)=(22)3−(22)2−5(22)=162−8−102=62−8 f(−1)=(−1)3−(−1)2−5(−1)=−1−1+5=3 f(5/3)=(5/3)3−(5/3)2−5(5/3)=125/27−25/9−25/3=125/27−75/27−225/27=−175/27 −22≤−1<5/3≤22 f(−22)=−62−8≈−16.485 f(22)=62−8≈0.485 f(5/3)=−175/27≈−6.48 f(−22)=−62−8 f(22)=62−8 求める値の範囲は [−62−8,3]