まず、与えられた多項式を x について整理します。 3x2+(2y−11)x−(y2−y−6) 次に、x に関する2次式と見て、因数分解できるか試します。定数項 −(y2−y−6) を因数分解します。 y2−y−6=(y−3)(y+2) よって、3x2+(2y−11)x−(y−3)(y+2) を因数分解することを考えます。 全体を因数分解できると仮定すると、
(3x+ay+b)(x+cy+d) の形になると考えられます。 3x2+(2y−11)x−(y−3)(y+2)=(3x+Ay+B)(x+Cy+D) とおきます。 AC=−1になるような数を見つける必要があります。 (y−3)(y+2)=−(y−3)(y+2)であるため、A=(y−3) , C=(y+2) もしくは、A=(y+2) , C=(y−3)を考えます。 (i) (3x+(y−3))(x−(y+2))の場合 3x2−3xy−6x+xy−y2−2y−3x+3y+6=3x2−2xy−9x−y2+y+6 これは与えられた式とは異なるので、この場合はうまくいきません。
(ii) (3x+(y+2))(x−(y−3))の場合 3x2−3xy+9x+xy−y2+3y+2x−2y+6=3x2−2xy+11x−y2+y+6 xyの係数とxの係数が一致しないので、これも異なっています。
正しい組み合わせは
3x2+(2y−11)x−(y2−y−6)=(3x+a)(x+b) とおき、a,b は y の式とします。 3x2+(2y−11)x−(y−3)(y+2)=(3x+y+2)(x−y+3)と予想して展開します。 (3x+y+2)(x−y+3)=3x2−3xy+9x+xy−y2+3y+2x−2y+6=3x2−2xy+11x−y2+y+6 符号が違うので、(3x−(y+2))(x+(y−3))を試します。 (3x−y−2)(x+y−3)=3x2+3xy−9x−xy−y2+3y−2x−2y+6=3x2+2xy−11x−y2+y+6 符号がうまく合いました。
したがって、3x2+2xy−y2−11x+y+6=(3x−y−2)(x+y−3)