この問題はメネラウスの定理を用いて解くことができます。直線ARが辺BQと交わる点Oについて、三角形BCQにメネラウスの定理を適用すると、以下の式が成り立ちます。
RCBR⋅OQCO⋅ABQA=1 問題文より、BR:RC=2:1、AQ:QB=3:2なので、QA:AB=3:5となります。 これを上記の式に代入すると、
12⋅OQCO⋅53=1 56⋅OQCO=1 OQCO=65 よって、OQ:OC=6:5となります。 次に、三角形ABOと点Q、点R、点Cについて考えます。ここで、ベクトルを用いると、
AO=sAC+tAR と表すことができます。
ここでAR=3AB+2ACと表すことができ、AQ=52ABと表せます。点Oは線分CQ上にあるので、 AO=kAQ+(1−k)AC AO=k52AB+(1−k)AC と表すことができます。これは点Oが線分AR上にあることより、
AO=lAR と表すことができます。
AO=l3AB+2AC AB,ACは一次独立なので係数を比較すると、 52k=3l, 1−k=32l これにより、k=85, l=43が得られます。 AO=43AR よって、AO:OR=3:1となります。