(1) det(A−tE)=0 を満たす t を求める。 まず、A−tE を計算します。 A−tE=563−4−5−3−2−22−t100010001=5−t63−4−5−t−3−2−22−t 次に、det(A−tE) を計算します。 \begin{align*} \det(A - tE) &= (5-t)((-5-t)(2-t) - (-2)(-3)) - (-4)(6(2-t) - (-2)(3)) + (-2)(6(-3) - (3)(-5-t)) \\ &= (5-t)((-10+5t-2t+t^2)-6) + 4(12-6t+6) - 2(-18+15+3t) \\ &= (5-t)(t^2+3t-16) + 4(18-6t) - 2(-3+3t) \\ &= 5t^2 + 15t - 80 - t^3 - 3t^2 + 16t + 72 - 24t + 6 - 6t \\ &= -t^3 + 2t^2 + t - 2\end{aligned}
したがって、det(A−tE)=−t3+2t2+t−2=−(t3−2t2−t+2)=0 因数定理を用いると、
t3−2t2−t+2=t2(t−2)−(t−2)=(t2−1)(t−2)=(t−1)(t+1)(t−2)=0 よって、t=1,−1,2 (2) (1) で求めた t の値に対して、(A−tE)x=0 の一般解を求める。 A−E=463−4−6−3−2−21 463−4−6−3−2−21xyz=000 簡約化すると、100−100010xyz=000 x=y,z=0 となるので、一般解は x=c1110 A+E=663−4−4−3−2−23 663−4−4−3−2−23xyz=000 簡約化すると、310−2−10−110xyz=000 x=3z,y=4z となるので、一般解は x=c213/41/3 簡単にする為に x=c23/34/31 x=c2341 A−2E=363−4−7−3−2−20 363−4−7−3−2−20xyz=000 簡約化すると、100010−2/3−1/30xyz=000 x=(2/3)z,y=(1/3)z となるので、一般解は x=c3213