まず、座標を設定する。Aを原点とし、B(3, 0, 0), C(0, 3, 0), D(0, 0, 2)とする。すると、P(t, 0, 0), Q(0, t, 0), R(0, 0, 2-t)となる。
次に、MはBCの中点なので、M=(23+0,20+3,20+0)=(23,23,0)である。 直線AMの式を求める。AMベクトルはM−A=(23,23,0)なので、直線AMはp=k(23,23,0)=(23k,23k,0)と表せる。 直線PQの式を求める。PQベクトルはQ−P=(−t,t,0)なので、直線PQはq=P+s(Q−P)=(t,0,0)+s(−t,t,0)=(t−st,st,0)と表せる。 HはAMとPQの交点なので、(23k,23k,0)=(t−st,st,0)が成り立つ。 よって、23k=t−stかつ23k=stである。これより、t−st=stなので、t=2stとなり、s=21となる。 すると、H=(t−st,st,0)=(2t,2t,0)となる。 R=(0,0,2−t)なので、HR2=(2t−0)2+(2t−0)2+(0−(2−t))2=4t2+4t2+(t−2)2=2t2+t2−4t+4=23t2−4t+4である。 よって、HR2=23t2−4t+4となる。