群論における群の規約表現 について勉強していた時に不変部分空間というタームが出てきて詰まったのでメモ．
表現行列
$T$ を $V \rightarrow V$ への自己準同型写像としたとき，$V$ の部分空間 $W$ で $T(W) \subset W$ となるものを $f$ の不変部分空間といいます．
ここで $W$ の基底を $(\boldsymbol{w}_1, \boldsymbol{w}_2,,, \boldsymbol{w}_k)$, それを延長した $V/W$ の基底を $(v_{k+1},,, v_n)$ とします．このとき $f(W) \subset W$ より
$$\begin{align*} f(\boldsymbol{w}_1) &= b_{11} \boldsymbol{w}_1 + b_{21} \boldsymbol{w}_2 + \cdots b_{k1} \boldsymbol{w}_k \\ f(\boldsymbol{w}_i) &= b_{i1} \boldsymbol{w}_1 + b_{2i} \boldsymbol{w}_2 + \cdots b_{ki} \boldsymbol{w}_k \\ f(\boldsymbol{w}_k) &= b_{k1} \boldsymbol{w}_1 + b_{2k} \boldsymbol{w}_2 + \cdots b_{kk} \boldsymbol{w}_k \end{align*}$$
と変換されるはずです．これは
$$ (f(\boldsymbol{w}_1), \cdots f(\boldsymbol{w}_k)) = (\boldsymbol{w}_1, \cdots \boldsymbol{w}_k) A $$
とも表されます．
一方$\boldsymbol{v}$ については必ずしも閉じていないので,
$$ (\boldsymbol{v}_{k+1}, \cdots \boldsymbol{v}_n) = (\boldsymbol{w}_1, \cdots \boldsymbol{w}_k; \boldsymbol{v}_{k+1}, \cdots \boldsymbol{v}_n) \begin{eqnarray} \left( \begin{array}{c} B \\ C \end{array} \right)\end{eqnarray} $$
と変換されるはずです．よって $(\boldsymbol{w}, \boldsymbol{v})$ を基底として用いたときの $f$ の表現行列は
$$ \begin{eqnarray} \left( \begin{array}{cc} A & B \\ O & C \end{array} \right)\end{eqnarray} $$
となります．以下の図のようになります．
射影行列を用いた判定方法
Wikipedia を参照しました．いま基底を
$$ (\boldsymbol{w}_1, \cdots \boldsymbol{w}_k; \boldsymbol{v}_{k+1}, \cdots \boldsymbol{v}_n) $$
ととっているので，$V \rightarrow W$ への射影行列 $P$ は $P(w + w^{\prime}) = w$ を満たします．つまり上の図において $B, C = 0$, $A = E$ であるということなので,
$$ P = \begin{eqnarray} \left( \begin{array}{cc} E & O \\ O & O \end{array} \right)\end{eqnarray} $$
です．
与えられた(写像の)行列 $T$ が不変部分空間を持つかどうかは，ある射影行列 $P$ ($P^2 = P$ を満たすもの)が存在して
$$ PTP = TP $$
が成立することであるようです．このとき $E - P$ も射影行列であり，さらに
$$ (E - P)T(E - P) = T(E - P) $$
も成立しているのであれば,
$$ \begin{eqnarray} \left( \begin{array}{cc} A & O \\ O & C \end{array} \right)\end{eqnarray} $$
のように交差項もなくなります．
ここの射影行列 $P$ って，手当たりしだいに見つけるしかないんですかね．ジョルダン標準型を使えばいいのかもしれないですけど．