まず、平面ABCの方程式を求める。平面上の任意の点をP(x, y, z)とする。ベクトルAP, AB, ACは同一平面上にあるため、
AP=(x−1,y,z) AB=(−1,2,0) AC=(−1,0,−1) これらのベクトルが一次従属である条件は、以下の行列式が0になることである。
x−1−1−1y20z0−1=0 これを計算すると、
(x−1)(−2−0)−y(1−0)+z(0−(−2))=0 −2(x−1)−y+2z=0 −2x+2−y+2z=0 2x+y−2z=2 これが平面ABCの方程式である。
次に、直線OHは平面ABCに垂直なので、その方向ベクトルは平面の法線ベクトルと平行である。平面ABCの法線ベクトルは n=(2,1,−2) である。 OH=tn=(2t,t,−2t) と表せる。点Hは平面ABC上にあるので、Hの座標を平面ABCの方程式に代入すると、
2(2t)+t−2(−2t)=2 4t+t+4t=2 したがって、Hの座標は
H=(2⋅92,92,−2⋅92)=(94,92,−94) 線分OHの長さは
∣OH∣=(94)2+(92)2+(−94)2=8116+814+8116=8136=94=32