この式は2次式であり、因数分解の公式やたすき掛けを利用して解くことができます。
x2 の係数は1なので、(x+ay)(x+by) の形に因数分解できると考えられます。 x2−4xy−5y2=(x+ay)(x+by) を展開すると、 x2+(a+b)xy+aby2 となります。 係数を比較すると、
を満たす a と b を見つければ良いことになります。 ab=−5 より、aとbは異符号であり、絶対値の差が4となる組み合わせを考えます。 a=1,b=−5 または a=−1,b=5 が考えられます。 a+b=−4 となるのは a=1,b=−5 の場合なので、 x2−4xy−5y2=(x+y)(x−5y) となります。