まず、∠AOB=90∘の条件から、a、bの関係式を求める。 OA=(4,a,b), OB=(2,3,2)であるから、OA⋅OB=0となる。 4⋅2+a⋅3+b⋅2=0 8+3a+2b=0 3a+2b=−8 次に、4点O, A, B, Cが同一平面上にある条件を考える。
3点O, B, Cを含む平面上に点Aがあるという条件は、OAがOBとOCの線形結合で表せるということである。 OA=sOB+tOC (4,a,b)=s(2,3,2)+t(0,5,1) (4,a,b)=(2s,3s+5t,2s+t) このベクトル方程式から、次の3つの式を得る。
これを残りの2式に代入すると、
これらの式を3a+2b=−8に代入する。 3(6+5t)+2(4+t)=−8 18+15t+8+2t=−8 よって、a=6+5(−2)=6−10=−4 b=4+(−2)=2