(1) x3+ax+b が (x+1)2 で割り切れるので、ある1次式 x+c が存在して、 x3+ax+b=(x+1)2(x+c) と表せる。展開すると、
x3+ax+b=(x2+2x+1)(x+c)=x3+(c+2)x2+(2c+1)x+c 両辺の係数を比較して、
\begin{align*}
x^2: \quad &c+2 = 0 \\
x: \quad &a = 2c+1 \\
定数項: \quad &b = c
\end{align*}
c+2=0 より c=−2。これを a=2c+1 と b=c に代入すると、 a=2(−2)+1=−4+1=−3 (2) 別解:
P(x)=x3+ax+b とおく。 P(x) が (x+1)2 で割り切れるとき、P(x) は (x+1) で割り切れるので、P(−1)=0。 また、P′(x)=3x2+a であり、P′(x) も (x+1) を因数に持つから、P′(−1)=0。 したがって、
\begin{align*}
P(-1) &= (-1)^3 + a(-1) + b = -1 - a + b = 0 \\
P'(-1) &= 3(-1)^2 + a = 3 + a = 0
\end{align*}
3+a=0 より a=−3。 −1−a+b=0 に a=−3 を代入すると、 −1−(−3)+b=−1+3+b=2+b=0 より b=−2。