行列式を計算するために、行または列に関して展開することを考えます。しかし、計算を簡単にするために、まず行基本変形を使って行列の成分を簡略化することを試みます。
(1) 第2行から第1行を引く:R2→R2−R1 $\begin{vmatrix}
x & y & x & x \\
0 & 0 & y-x & y-x \\
y & y & y & x \\
x & x & y & x
\end{vmatrix}$
(2) 第4行から第1行を引く:R4→R4−R1 $\begin{vmatrix}
x & y & x & x \\
0 & 0 & y-x & y-x \\
y & y & y & x \\
0 & x-y & y-x & 0
\end{vmatrix}$
(3) 第3行から第1行を引く:R3→R3−R1 $\begin{vmatrix}
x & y & x & x \\
0 & 0 & y-x & y-x \\
y-x & y-x & 0 & 0 \\
0 & x-y & y-x & 0
\end{vmatrix}$
ここで、第1列に関して展開します。
x0x−yx−yy−x0y−xy−x00−(y−x)y0x−yxy−xy−xxy−x0 最初の3x3行列式を展開すると、
0−(y−x)(0)+(y−x)[(x−y)(y−x)]=(y−x)2(x−y)=−(y−x)3 2番目の3x3行列式を展開します:
y[(y−x)0−(y−x)(y−x)]−x[0−(y−x)(x−y)]+x[0−(x−y)0]=−y(y−x)2+x(y−x)(x−y)=−y(y−x)2−x(y−x)2=−(x+y)(y−x)2 したがって、
x[−(y−x)3]−(y−x)[−(x+y)(y−x)2]=−x(y−x)3+(y−x)3(x+y)=(y−x)3(−x+x+y)=y(y−x)3=y(y3−3y2x+3yx2−x3) したがって、与えられた行列式の因数分解の結果は y(y−x)3となります。