まず、式を整理し、共通因数を見つけやすいように並べ替える。
2a2b−3ab+a−2b−2=2a2b−2b−3ab+a−2 次に、最初の2つの項と、次の2つの項をそれぞれまとめることを試みる。
2b(a2−1)−3ab+a−2=2b(a−1)(a+1)−3ab+a−2 式全体で共通因数が見つからないため、別の方法を試す。
2a2b−3ab+a−2b−2 を a について整理する。 a(2ab−3b+1)−2b−2 これも共通因数を見つけるのが難しそうなので、b について整理する。 b(2a2−3a−2)+a−2 2a2−3a−2 を因数分解してみる。 2a2−3a−2=(2a+1)(a−2) よって、
b(2a2−3a−2)+a−2=b(2a+1)(a−2)+(a−2) b(2a+1)(a−2)+(a−2)=(a−2)[b(2a+1)+1] b(2a+1)+1=2ab+b+1 したがって、
(a−2)(2ab+b+1)