まず、与えられた式を注意深く見ると、きれいに因数分解できる形にはなっていません。しかし、問題文は「因数分解しなさい」となっているので、何か工夫が必要です。
x2+5xy−20y−16=x2+5yx+(−20y−16) となります。しかし、このままでは解けません。
別の方法を試します。
x2−16+5xy−20y と変形します。 すると、x2−16 は (x−4)(x+4) と因数分解できます。 5xy−20y は 5y(x−4) と因数分解できます。 したがって、
x2−16+5xy−20y=(x−4)(x+4)+5y(x−4) となります。
ここで、共通因数 (x−4) が現れたので、これでくくると、 (x−4)(x+4)+5y(x−4)=(x−4)(x+4+5y) となります。