まず、与えられた式が (x+ア)(x−イ)2 の形に変形できると仮定します。 (x−イ)2 を展開すると x2−2イx+イ2 となります。 したがって、
(x+ア)(x−イ)2=(x+ア)(x2−2イx+イ2)=x3+(ア−2イ)x2+(イ2−2アイ)x+アイ2 となります。
この式と x3−5x2+3x+9 の係数を比較すると、次の関係が得られます。 \begin{align*}
ア - 2イ &= -5 \\
イ^2 - 2アイ &= 3 \\
ア イ^2 &= 9
\end{align*}
3つ目の式 アイ2=9 より、アは9の約数であると考えられます。 ア = 1, 3, 9 の場合を試してみましょう。
もしア = 1なら、イ2=9 より イ=±3 です。 イ=3 なら ア−2イ=1−2(3)=−5 となり、これは1つ目の式を満たします。 イ=−3 なら ア−2イ=1−2(−3)=7=−5 となり、これは1つ目の式を満たしません。 イ=3 の場合、イ2−2アイ=9−2(1)(3)=3 となり、2つ目の式も満たします。 したがって、ア = 1, イ = 3 が解である可能性があります。
もしア = 3なら、3イ2=9 より イ2=3 となり、イ=±3 となりますが、イは整数である必要があります。 もしア = 9なら、9イ2=9 より イ2=1 となり イ=±1 です。 イ=1 なら ア−2イ=9−2(1)=7=−5 となり、これは1つ目の式を満たしません。 イ=−1 なら ア−2イ=9−2(−1)=11=−5 となり、これも1つ目の式を満たしません。 以上の検討から、ア = 1, イ = 3 である可能性が高いです。
この場合、与えられた式は (x+1)(x−3)2 となります。 (x+1)(x−3)2=(x+1)(x2−6x+9)=x3−6x2+9x+x2−6x+9=x3−5x2+3x+9 となり、確かに与えられた式と一致します。