まず、与えられた二次式を因数分解します。
8x2+6xy−5y2 を (ax−y)(bx+cy) の形に因数分解することを考えます。展開すると、 (ax−y)(bx+cy)=abx2+(ac−b)xy−cy2 この式が 8x2+6xy−5y2 と等しくなるように、a, b, c を定めます。 係数を比較すると、以下の連立方程式が得られます。
\begin{align} \label{eq:1} ab &= 8 \\ ac - b &= 6 \\ c &= 5\end{align}
5a−b=6 となります。したがって、 b=5a−6 です。 これを最初の式 ab=8 に代入すると、 a(5a−6)=8 となります。 5a2−6a=8 5a2−6a−8=0 (5a+4)(a−2)=0 a=2 または a=−4/5 です。 a=2 のとき、b=5(2)−6=10−6=4。したがって、 (2x−y)(4x+5y)=8x2+10xy−4xy−5y2=8x2+6xy−5y2. a=−4/5のとき、b=5(−4/5)−6=−4−6=−10. したがって, (−4/5x−y)(−10x+5y)=8x2−2xy+10xy−5y2=8x2+8xy−5y2. これは元の式ではない。 したがって、a=2, b=4, c=5 となります。