回転軸の方向ベクトル l は、Tl=l を満たす。つまり、l は T の固有値 1 に対応する固有ベクトルである。 Tl=l は (T−I)l=0 と書き換えられる。ここで I は単位行列である。 T−I=716−72−323−763−62−7=71−12−32−463−6−5 (T−I)l=0 は −12−32−463−6−5xyz=000 となる。 この連立一次方程式を解く。1行目と2行目は比例関係にあるので、独立な式は2つだけである。
−x+2y+3z=0 −3x+6y−5z=0 1行目の式を3倍して2行目の式から引くと、
(−3x+6y−5z)−3(−x+2y+3z)=−14z=0 より z=0 である。 よって、−x+2y=0 より x=2y となる。 したがって、固有ベクトル l は 2yy0=y210 と表せる。 l は方向ベクトルなので、大きさが1になるように正規化する。 ∥210∥=22+12+02=5 よって、l=51210 回転角 θ の余弦 cosθ は、tr(T)=1+2cosθ という公式を使って求める。 tr(T)=71(6+3+2)=711 711=1+2cosθ 2cosθ=711−1=74 cosθ=72