円に内接する四角形では、対角の和が180度であるという性質を利用します。つまり、∠A + ∠C = 180° です。したがって、cos C = cos(180° - A) = -cos A となります。
四角形ABCDを、対角線BDで2つの三角形ABDとBCDに分割します。
余弦定理を三角形ABDとBCDに適用して、BDの長さを2通りの式で表し、cos Aを求めます。
まず、三角形ABDにおいて、余弦定理より
BD2=AB2+AD2−2⋅AB⋅AD⋅cosA BD2=32+22−2⋅3⋅2⋅cosA=9+4−12cosA=13−12cosA 次に、三角形BCDにおいて、余弦定理より
BD2=BC2+CD2−2⋅BC⋅CD⋅cosC BD2=62+52−2⋅6⋅5⋅cosC=36+25−60cosC=61−60cosC ここで、cosC=−cosA なので、 BD2=61+60cosA したがって、
13−12cosA=61+60cosA −12cosA−60cosA=61−13 −72cosA=48 cosA=−7248=−32