まずは式を整理します。
xの次数が一番低いので、xについて整理します。 x3+x2y−x2+xy+y2−y=x3+(y−1)x2+yx+y2−y x3+x2y−x2+xy+y2−y=y2+(x2+x−1)y+x3−x2 しかし、この式を単純に因数分解するのは難しいようです。別の方法を試します。
元の式をもう一度見て、x2の項とyの項をそれぞれまとめてみます。 x3+x2y−x2+xy+y2−y=x3−x2+x2y+xy+y2−y =x2(x−1)+xy(x+1)+y(y−1) この式もあまりうまくいきません。
別の方法を試してみます。全体を眺めて、何か共通因数が見つけられないか探します。特に見当たらないので、いくつかの項を組み合わせて共通因数を見つけ出すことを試みます。
x3−x2+x2y+xy+y2−y =x2(x−1)+y(x2+x+y−1) この方法でもうまくいきません。
与えられた式を以下のように変形します。
x3+x2y−x2+xy+y2−y=x3−x2+x2y+xy+y2−y =x2(x−1)+xy+x2y+y2−y =x2(x−1)+xy(1+x)+y(y−1) 与式を整理して、以下のようにします。
x3+x2y−x2+xy+y2−y =x3−x2+x2y+xy+y2−y =x2(x−1)+xy(x+1)+y(y−1) この式は因数分解できそうにありません。問題文に誤りがある可能性も考慮します。
試しに、x=1を代入すると、1+y−1+y+y2−y=y2+yとなります。 y=0を代入すると、x3−x2=x2(x−1)となります。 x=0を代入すると、y2−y=y(y−1)となります。 さて、もう一度与式を見てみます。
x3+x2y−x2+xy+y2−y =x3+x2y−x2+xy+y2−y =x2(x+y−1)+y(x+y−1) =(x2+y)(x+y−1)