まず、x4+2x2y2+y4の形になるように式を変形します。 そのためには、13x2y2を加える必要があります。 x4−11x2y2+y4=x4+2x2y2+y4−13x2y2 (x2+y2)2−13x2y2 ここで、13x2y2=(13xy)2なので、 (x2+y2)2−(13xy)2 これは、a2−b2=(a+b)(a−b)の公式を使って因数分解できます。 (x2+y2+13xy)(x2+y2−13xy) ただし、整数係数での因数分解を求められている場合、ここまでの計算は適切ではありません。
与式を x4−11x2y2+y4 とします。 x4−11x2y2+y4=(x2+axy+y2)(x2+bxy+y2) とおいて、係数を比較します。 展開すると、x4+(a+b)x3y+(2+ab)x2y2+(a+b)xy3+y4 となります。 x3yとxy3の係数は0なので、a+b=0 よって、b=−a x2y2の係数は−11なので、2+ab=−11 つまり、ab=−13 b=−aを代入すると、−a2=−13 つまり、a2=13。 したがって、a=±13 となり、整数係数ではありません。 次に、
x4−11x2y2+y4=(x2+axy−y2)(x2+bxy−y2) とおいて、係数を比較します。 展開すると、x4+(a+b)x3y+(ab−2)x2y2−(a+b)xy3+y4 となります。 x3yとxy3の係数は0なので、a+b=0 よって、b=−a x2y2の係数は−11なので、ab−2=−11 つまり、ab=−9 b=−aを代入すると、−a2=−9 つまり、a2=9。 a=3のとき、b=−3 よって、x4−11x2y2+y4=(x2+3xy−y2)(x2−3xy−y2)