まず、行列式を計算しやすくするために、行の基本変形を行います。具体的には、2行目から1行目を、3行目から1行目を、4行目から1行目を引きます。
10001a−1b−1c−11a2−1b2−1c2−11a3−1b3−1c3−1 次に、1列目に関して余因子展開を行います。
a−1b−1c−1a2−1b2−1c2−1a3−1b3−1c3−1 各列から、a−1,b−1,c−1 をそれぞれ因数としてくくりだすことができます。a2−1=(a−1)(a+1), a3−1=(a−1)(a2+a+1) となることを利用します。 (a−1)(b−1)(c−1)111a+1b+1c+1a2+a+1b2+b+1c2+c+1 次に、2行目から1行目を、3行目から1行目を引きます。
(a−1)(b−1)(c−1)100a+1b−ac−aa2+a+1b2+b−a2−ac2+c−a2−a さらに、b2+b−a2−a=(b−a)(b+a+1)、c2+c−a2−a=(c−a)(c+a+1) を利用して、2列目からb−a,c−a をそれぞれ因数としてくくりだします。 (a−1)(b−1)(c−1)(b−a)(c−a)100a+111a2+a+1b+a+1c+a+1 再度余因子展開すると、
(a−1)(b−1)(c−1)(b−a)(c−a)11b+a+1c+a+1 (a−1)(b−1)(c−1)(b−a)(c−a)(c+a+1−b−a−1) (a−1)(b−1)(c−1)(b−a)(c−a)(c−b) したがって、与えられた行列式は (a−1)(b−1)(c−1)(b−a)(c−a)(c−b) と因数分解できます。