まず、β−α と γ−α を計算する。 β−α=3−(1−i)=2+i γ−α=(3+5i)−(1−i)=2+6i 次に、γ−αβ−α を計算する。 γ−αβ−α=2+6i2+i 複素数の割り算を行うために、分母の共役複素数を分子と分母にかける。
2+6i2+i=(2+6i)(2−6i)(2+i)(2−6i)=4−36i24−12i+2i−6i2=4+364−10i+6=4010−10i=41−i=41−41i 偏角を求める。41−41i は第4象限にあるので、偏角は −4π となる。 よって、argγ−αβ−α=−4π+2nπ (n:整数) 絶対値を求める。
γ−αβ−α=41−41i=(41)2+(−41)2=161+161=162=81=81=221=42 問題文の形式に合うように変形する。
argγ−αβ−α=−41π+2nπ なので、1 に入るのは 4 。 γ−αβ−α=42=162=81 なので、 γ−αβ−α=162=81 となる。 ルートの中身をみると2 に入るのは 1 、 3 に入るのは 8 。