行列Aが直交行列であるためには、ATA=I(Iは単位行列)が成り立つことを示す必要があります。ここで、ATはAの転置行列です。 $A^T = \begin{pmatrix}
\cos \alpha & \cos \beta \sin \alpha & \sin \beta \sin \alpha \\
-\sin \alpha & \cos \beta \cos \alpha & \sin \beta \cos \alpha \\
0 & -\sin \beta & \cos \beta
\end{pmatrix}$
$A^T A = \begin{pmatrix}
\cos \alpha & \cos \beta \sin \alpha & \sin \beta \sin \alpha \\
-\sin \alpha & \cos \beta \cos \alpha & \sin \beta \cos \alpha \\
0 & -\sin \beta & \cos \beta
\end{pmatrix}
\begin{pmatrix}
\cos \alpha & -\sin \alpha & 0 \\
\cos \beta \sin \alpha & \cos \beta \cos \alpha & -\sin \beta \\
\sin \beta \sin \alpha & \sin \beta \cos \alpha & \cos \beta
\end{pmatrix}$
(1,1)要素: cos2α+cos2βsin2α+sin2βsin2α=cos2α+sin2α(cos2β+sin2β)=cos2α+sin2α=1 (1,2)要素: −cosαsinα+cosβsinαcosβcosα+sinβsinαsinβcosα=−cosαsinα+cosαsinα(cos2β+sin2β)=−cosαsinα+cosαsinα=0 (1,3)要素: 0−cosβsinαsinβ+sinβsinαcosβ=0 (2,1)要素: −sinαcosα+cosβcosαcosβsinα+sinβcosαsinβsinα=−sinαcosα+cosαsinα(cos2β+sin2β)=−sinαcosα+cosαsinα=0 (2,2)要素: sin2α+cos2βcos2α+sin2βcos2α=sin2α+cos2α(cos2β+sin2β)=sin2α+cos2α=1 (2,3)要素: 0−cosβcosαsinβ+sinβcosαcosβ=0 (3,1)要素: 0−sinβcosβsinα+cosβsinβsinα=0 (3,2)要素: 0−sinβcosβcosα+cosβsinβcosα=0 (3,3)要素: 0+sin2β+cos2β=1 よって、$A^T A = \begin{pmatrix}
1 & 0 & 0 \\
0 & 1 & 0 \\
0 & 0 & 1
\end{pmatrix} = I$