まず、与えられたベクトル方程式 −5OA+7OB+8OC=0 を変形する。 7OB+8OC=5OA 次に、点Pは直線BC上にあるので、OP は OB と OC の線形結合で表せる。すなわち、OP=sOB+tOC (ただし、s+t=1) と表せる。また、点Pは直線OA上にあるので、ある実数kを用いて OP=kOA と表せる。 したがって、sOB+tOC=kOA となる。 7OB+8OC=5OA より、OB=75OA−78OC −5OA+7OB+8OC=0 を OA について解くと、 OA=57OB+58OC. この式より点Aは線分BCの外分点であることがわかる。
また、PはOA上にあるので OP=kOA と書ける。 また、PはBC上にあるので OP=sOB+tOC, s+t=1 と書ける。 したがって、 kOA=sOB+tOC. OA=57OB+58OC を代入すると、 k(57OB+58OC)=sOB+tOC. 係数を比較して、s=57k, t=58k. s+t=1 より、57k+58k=1。 515k=1 より、k=31。 したがって、OP=31OA. OP=∣OP∣=31∣OA∣=31×1=31 また、s=57k=57×31=157 t=58k=58×31=158 OP=157OB+158OC. 点PはBCを 8:7 に内分する。
ここで、円の中心OからBCに下ろした垂線の足をMとする。
∣OB∣=∣OC∣=1 OM=2OB+OC BC=OC−OB BC=21−OM2 OP⊥BC ではないので、OMは簡単に求められない。 OA=57OB+58OC. OA=57OB+8OC. ∣OA∣2=251(49∣OB∣2+64∣OC∣2+112OB⋅OC)=1. 49+64+112OB⋅OC=25. 112OB⋅OC=−88. OB⋅OC=−11288=−1411. BC=OC−OB BC2=∣BC∣2=(OC−OB)2=∣OC∣2+∣OB∣2−2OB⋅OC =1+1−2(−1411)=2+711=714+11=725. BC=725=75=757 三角形ABCの面積をSとすると、
S=21∣AB×AC∣