与えられた式を因数分解するために、項をグループ化して共通因子をくくり出すことを試みます。
まず、x を含む項と y を含む項をまとめます。 x2+xy−2x−3y−3=(x2+xy−2x)−(3y+3) 次に、x を含む項から x をくくり出します。 x(x+y−2)−3(y+1) このままでは因数分解が進まないので、別のグループ化を試みます。
x2+xy−2x−3y−3=x2−2x+xy−3y−3 ここで、x2−2x に何かを足して平方の形にすることを考えます。(x−1)2=x2−2x+1 なので、x2−2x=(x−1)2−1 与式に代入すると、
(x−1)2−1+xy−3y−3=(x−1)2+xy−3y−4 ここからもうまく因数分解できなさそうです。最初のGroupingを少し変えてみましょう。
x2+xy−2x−3y−3=(x2−2x−3)+(xy−3y) x2−2x−3=(x−3)(x+1) xy−3y=y(x−3) 従って、
(x−3)(x+1)+y(x−3) (x−3)(x+1+y)