与えられた行列の階数を求めるためには、行列を簡約化して、線形独立な行の数を数えます。
まず、行列の各行から最初の行を引くことを考えます。
abbbbabbbbabbbba→ab−ab−ab−aba−b00b0a−b0b00a−b 次に、第2行以降を (a−b) で割ることを考えます。ただし、a=b を仮定します。 ab−ab−ab−aba−b00b0a−b0b00a−b→a−(a−b)−(a−b)−(a−b)b(a−b)00b0(a−b)0b00(a−b)→a−1−1−1b100b010b001 次に、第2行以降を第1行に足します。
a−1−1−1b100b010b001→a−3−1−1−1b+1100b+1010b+1001 次に、第2,3,4行に1行目をそれぞれ加えて簡約化します。
a−3−1−1−1b+1100b+1010b+1001 ここで、次の式が成り立つことに注意してください。
(a−b)+(n−1)b=a+(n−1)b ここで、元の行列の階数は、a+3b=0 かつ a=b のとき4となります。 もし、a=b ならば、与えられた行列は次のようになります。 aaaaaaaaaaaaaaaa このとき、階数は1です(a=0 の場合。 a=0 なら階数は0)。 もし a+3b=0 であれば、ランクは3になります。(ただし、a=b) このとき、a=−3b であり、a=b より b=0。 まとめると:
* a=b かつ a=0 ならば、階数は1 * a=b=0 ならば、階数は0 * a=b かつ a+3b=0 ならば、階数は4 * a=b かつ a+3b=0 ならば、階数は3