OA=AG/2 , OB=BH/2であり、OAとOBの内積を計算することでcosαを求める。 まず、座標を設定する。A(0, 0, 0), B(2, 0, 0), C(2, 2, 0), D(0, 2, 0), E(0, 0, 2), F(2, 0, 2), G(2, 2, 2), H(0, 2, 2)とする。
すると、
AG=(2,2,2) BH=(−2,2,2) となる。よって、
OA=AG/2=(1,1,1) OB=BH/2=(−1,1,1) OA⋅OB=(1)(−1)+(1)(1)+(1)(1)=−1+1+1=1 ∣OA∣=12+12+12=3 ∣OB∣=(−1)2+12+12=3 cosα=∣OA∣∣OB∣OA⋅OB=331=31