ここでは,正方行列の対角化について説明する。 イメージしやすいように,はじめは正方行列の次数が2の場合について説明し,それが一般化できるという議論の形をとる。
$n$次正方行列$A,B$に対し,$n$次正則行列$P$が存在し
が成り立つとき,$A$と$B$は相似(similar)であるといい,正則行列によるこのような変換を,相似変換(similar transformation)という。
正方行列$A$が相似変換によって対角行列,すなわち
の形の行列に変換できるとき,$A$は対角化可能(diagonalizable)であるという
$2$次の正方行列$A$に対し,それぞれ固有値$\lambda_1, \lambda_2$に属する線形独立な固有ベクトル$\bm{p}_1,\bm{p}_2$があるとする。 これらを列とする行列$P=(\bm{p}_1,\bm{p}_2)$を作り,$A$を作用すると
が得られる。 よって,これに,左から$P^{-1}$を作用することで
と,行列$A$は対角化される。
しかし,$2$次の正方行列$A$が,2つの線形独立な固有ベクトルを持つとは限らない。 例えば
という行列の固有方程式は
であるから,固有値は重複度2を持つ1つのみで,対応する固有ベクトルは$c\bm{e}_1$($c$は0でない定数)という形のものに限られる。 すると$P$は
という形のものに限られ,正則でない(逆行列を持たない)ため,上の対角化の手続きを行うことができない。
異なる固有値に属する固有ベクトルは線形独立であるため問題ないが,重複度が2以上の固有値がある場合に$A$が対角化可能であるためには,重複する固有値に対応する固有ベクトルが線形独立になっていないといけないということである。
これらの議論は,任意の次数に一般化出来て,次のことが言える:
定理: $n$次正方行列$A$は,$n$個の線形独立な固有ベクトルを持つとき,対角化可能である。
定理: $n$次正方行列$A,B$が可換なら($AB=BA$なら),同時に両者の固有ベクトルとなるベクトル,すなわち$\lambda,\mu \in C$に対し
となるベクトル$\bm{x}$が存在する。 このようなベクトルを,$A,B$の同時固有ベクトル(common eigenvector)という。
実際,$\bm{x}$を$n$次正方行列$A,B$の同時固有ベクトル,$\lambda,\mu$をそれぞれの固有値とすると
となるから
が成り立つ。 よって,もし$A,B$の固有値に縮退がなく,$n$個の線形独立な固有ベクトルの組を共有していれば,$A,B$は可換である。 反対に,$A,B$が可換なら
より,$B\bm{x}$も固有値$\lambda$に対応する$A$の固有ベクトルとなる。 固有ベクトルに縮退がなければ$B\bm{x}$も$\bm{x}$に比例しないといけないから,$\bm{x}$は$B$の固有ベクトルでもある。
この性質は固有値に縮退がある場合にも成り立つ。 そしてこのことから,次のことが言える:
定理: $n$次正方行列$A,B$がともに対角化可能で,互いに可換であるなら,それらは同時対角化可能(simultaneously diagonalizable)である。 すなわち
がともに対角行列であるような$n$次正方行列$P$が存在する。