線形代数

一次独立

いずれも $\bold{0}$ でないベクトル $\bold{a_1,a_2,\dots,a_n}$ について $c_1\bold{a_1}+c_2\bold{a_2}+\cdots+c_n\bold{a_n}=\bold{0}$ が成り立つのが $c_1=c_2=\cdots=c_n=0$ だけの場合、$\bold{a_1,a_2,\dots,a_n}$ を一次独立 (linearly independent) という。 また、一次独立でないものを一次従属 (linearly dependent) という。

定理

あるベクトル $\bold{b}$ が一次独立なベクトル $\bold{a_1,a_2,\dots,a_n}$ の線型結合で表されるとき、その表し方は1通りである。

証明

別の数の組 $\{c_1,\dots,c_n\}$ と $\{c_1',\dots,c_n'\}$ を用いて

$$\begin{aligned} \bold{b}&=c_1\bold{a_1}+\cdots+c_n\bold{a_n}\\ \bold{b}&=c_1'\bold{a_1}+\cdots+c_n'\bold{a_n} \end{aligned}$$

と2通りの表し方ができると仮定する。

このとき

$$(c_1-c_1')\bold{a_1}+\cdots+(c_n-c_n')\bold{a_n}=\bold{0}$$

となる。ここで $\bold{a_1,\dots,a_n}$ は一次独立であるので

$$c_1-c_1'=\cdots=c_n-c_n'=0\\ \therefore c_1=c_1',\dots,c_n=c_n'$$

となり、これは矛盾する。

階数

任意の行列 $A$ は行基本変形を繰り返すことによって階段行列にすることができる。

行列 $A$ の階段行列の中の少なくとも1つは $0$ でない成分をもつ行の個数を行列 $A$ の階数 (rank) といい、以下 $\text{rank}(A)$ で表す。

$n$ 元連立方程式の係数行列を $A$、定数項ベクトルを $\bold{b}$、係数行列と定数項ベクトルを連結した拡大係数行列を $Ab$ とおくと、以下の関係が成り立つ。

$$\begin{aligned} \text{rank}(A)&=\text{rank}(A\bold{b})\land\begin{cases} \text{rank}(A)=n&\iff\text{解は1つ}\\ \text{rank}(A)\lt n&\iff\text{解は不定であり、}n-\text{rank}(A)\,\text{個の任意定数で表せる} \end{cases}\\ \text{rank}(A)&\ne\text{rank}(A\bold{b})\iff\text{解なし (不能)} \end{aligned}$$

行列式

行列式 (determinant) とは正方行列に対して定義される量であり、以下行列 $A$ の行列式を $|A|$ で表す。

性質

• 転置不変性

  $$|A|=|A^t|$$

• 交代性

  行 or 列を入れ替えると、行列式の値は $-1$ 倍になる。

• 多重線形性

  ある行 or 列の定数倍を他の行 or 列に加えても行列式の値は変化しない。

求め方: サラスの方法

サラスの方法は、2次あるいは3次正方行列において、左下から右下へ向かう方向に $+$, 右上から左下に向う方向に $-$ の符号を付けて積をとり、それらの和をとることで行列式を求める。

例

2次正方行列 $A=\left(\begin{matrix} a_{11}&a_{12}\\ a_{21}&a_{22} \end{matrix}\right)$ の行列式は

$$|A|=a_{11}a_{22}-a_{12}a_{21}$$

で計算できる。

3次正方行列 $A=\left(\begin{matrix} a_{11}&a_{12}&a_{13}\\ a_{21}&a_{22}&a_{23}\\ a_{31}&a_{32}&a_{33} \end{matrix}\right)$ の行列式は

$$|A|=a_{11}a_{22}a_{33}+a_{12}a_{23}a_{31}+a_{13}a_{21}a_{32}-a_{31}a_{22}a_{13}-a_{32}a_{23}a_{11}-a_{33}a_{21}a_{12}$$

で計算できる。

ただし、4次以上の正方行列に対してサラスの方法は使えない。

求め方: 余因子展開

行列 $A$ から $i$ 行 $j$ 列を取り除いた小行列式を $M_{i,j}$ と表すとき

$$\tilde{a}_{i,j}=(-1)^{i+j}|M_{i,j}|$$

を $A$ の**$(i,j)$ 余因子 (cofactor)** といい、$\tilde{a}_{i,j}$ で表す。

行列 $A$ を $n$次正方行列とすると、$A$ の行列式は次のように与えられる。

第 $i$ 列に沿った余因子展開

$$\begin{aligned} |A|&=a_{i,1}(-1)^{i+1}|M_{i,1}|+a_{i,2}(-1)^{i+2}|M_{i,2}|+\cdots+a_{i,n}(-1)^{i+n}|M_{i,n}|\\ &=\sum_{j'=1}^n{a_{i,j'}(-1)^{i+j'}|M_{i,j'}|}\\ &=\sum_{j'=1}^n{a_{i,j'}\tilde{a}_{i,j'}} \end{aligned}$$

第 $j$ 行に沿った余因子展開

$$\begin{aligned} |A|&=a_{1,j}(-1)^{1+j}|M_{1,j}|+a_{2,j}(-1)^{2,j}|M_{2,j}|+\cdots+a_{n,j}(-1)^{n+j}|M_{n,j}|\\ &=\sum_{i'=1}^n{a_{i',j}(-1)^{i'+j}|M_{i'+j}|}\\ &=\sum_{i'=1}^n{a_{i',j}\tilde{a}_{i',j}} \end{aligned}$$

例題

• $\begin{vmatrix}1&0&2\\-1&-1&1\\2&1&2\end{vmatrix}$ を第1行に沿って余因子展開せよ
• $\begin{vmatrix}1&4&7\\2&5&8\\3&6&9\end{vmatrix}$ を第1列に沿って余因子展開せよ
• $\begin{vmatrix}-2&1&0&2\\1&0&-1&2\\-4&2&3&1\\2&0&1&-1\end{vmatrix}$ を第2列に沿って余因子展開せよ

逆行列

正方行列 $A$ に対して $AX=XA=E$ となる正方行列 $X$ が存在するとき、行列 $A$ は「正則である (regular)」という。 このとき、$X$ を $A$ の逆行列 (inverse matrix) といい、以下 $A^{-1}$ で表す。

$n$次正方行列 $A$ が正則であるとき、その逆行列 $A^{-1}$ は

$$A^{-1}=\frac1{|A|}\tilde{A}$$

と表せる。

ここで、$\tilde{A}$ を $A$ の**余因子行列 (cofactor matrix)**といい、以下のように定義される。

$$\tilde{A}=\left(\begin{array}{ccccc} \tilde{a}_{11}&\tilde{a}_{12}&\cdots&\tilde{a}_{1n}\\ \tilde{a}_{21}&\tilde{a}_{22}&\cdots&\tilde{a}_{2n}\\ \vdots&\vdots&\ddots&\vdots\\ \tilde{a}_{n1}&\tilde{a}_{n2}&\cdots&\tilde{a}_{nn}\\ \end{array}\right)^t=\left(\begin{array}{ccccc} \tilde{a}_{11}&\tilde{a}_{21}&\cdots&\tilde{a}_{n1}\\ \tilde{a}_{12}&\tilde{a}_{22}&\cdots&\tilde{a}_{n2}\\ \vdots&\vdots&\ddots&\vdots\\ \tilde{a}_{1n}&\tilde{a}_{2n}&\cdots&\tilde{a}_{nn}\\ \end{array}\right)$$

性質

$$n\text{次正方行列が正則}\iff\text{rank}(A)=n\iff|A|\ne0$$

例題

• $A=\left(\begin{matrix}a&b\\c&d\end{matrix}\right)$ の逆行列を求めよ

固有ベクトルと固有値

ある $n$次正方行列 $A$ に対し $A\bold{x}=\lambda\bold{x}$ を満たす $n$ 次元列ベクトル $\bold{x}\;(\bold{x}\ne\bold{0})$ が存在するとする。 このとき、$\lambda$ を $A$ の固有値 (eigenvalue) といい、$\bold{x}$ を $\lambda$ に対する固有ベクトル (eigenvector) という。

また、$A$ の相異なる固有ベクトル $\lambda_1,\lambda_2,\dots,\lambda_k$ は一次独立である。

A の相異なる固有値 λ_1, λ_2, ..., λ_k に対する固有ベクトル x_1, x_2, ..., x_k が一次独立であることの証明

$k=1$ のとき、成立は明らか。

$k=m$ のとき、成立を仮定する。

$k=m+1$ とき

$$c_1\bold{x_1}+c_2\bold{x_2}+\cdots+c_m\bold{x_m}+c_{m+1}\bold{x_{m+1}}=\bold{0}\tag{1}$$

について考える。

(1) の両辺に左から $A$ をかけると、$A\bold{x}_i=\lambda_i\bold{x}_i$ より

$$c_1\lambda_1\bold{x_1}+c_2\lambda_2\bold{x_2}+\cdots+c_m\lambda_m \bold{x_m}+c_{m+1}\lambda_{m+1}\bold{x_{m+1}}=\bold{0}\tag{2}$$

(1) の両辺に左から $\lambda_{m+1}$ をかけると

$$c_1\lambda_{m+1}\bold{x_1}+c_2\lambda_{m+1}\bold{x_2}+\cdots+c_m\lambda_{m+1} \bold{x_m}+c_{m+1}\lambda_{m+1}\bold{x_{m+1}}=\bold{0}\tag{3}$$

ここで $\text{(2)}-\text{(3)}$ を考えると

$$c_1(\lambda_1-\lambda_{m+1})\bold{x_1}+c_2(\lambda_2-\lambda_{m+1})\bold{x_2}+\cdots+c_m(\lambda_m-\lambda_{m+1})\bold{x_m}=\bold{0}$$

仮定より $\bold{x_1},\bold{x_2},\dots,\bold{x_m}$ は一次独立であるから

$$c_i(\lambda_i-\lambda_{m+1})=0\;(i=1,2,\dots,m)$$

ここで $\lambda_i-\lambda_{m+1}\ne0\enspace(i=1,2,\dots,m)$ であるので

$$c_1=c_2=\cdots=c_m=0$$

これを (1) に代入すると

$$\begin{aligned} c_{m+1}\bold{x_{m+1}}&=\bold{0}\\ \therefore c_{m+1}&=0 \end{aligned}$$

以上より $\bold{x_1},\bold{x_2},\dots,\bold{x_{m+1}}$ は一次独立。

求め方

$$\begin{aligned} A\bold{x}&=\lambda\bold{x}\\ (A-\lambda E)\bold{x}&=\bold{0} \end{aligned}$$

ここで、上記の式が $\bold{x}=\bold{0}$ 以外の解をもつことから

$$\begin{aligned} |A-\lambda E|=0 \end{aligned}$$

が導け、これを固有方程式という。 固有方程式は $\lambda$ についての $n$ 元連立方程式である。

例題

• $A=\left(\begin{matrix}2&3\\4&1\end{matrix}\right)$ の固有値・固有ベクトルを求めよ
• $A=\left(\begin{matrix}2&1&1\\1&2&1\\1&1&2\end{matrix}\right)$ の固有値・固有ベクトルを求めよ

対角化

$n$次正方行列 $A$ に対し、適切な正則行列 $P$ が存在して

$$P^{-1}AP=\left(\begin{array}{cccc} \lambda_1&0&\cdots&0\\ 0&\lambda_2&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&\lambda_n \end{array}\right)$$

のような対角行列にできる時、行列 $A$ は対角化可能であるといい、このときの行列 $P$ を変換行列という。

ここで $\lambda_0,\lambda_1\,\cdots,\lambda_n$ は行列 $A$ の固有値である。

行列 P が逆行列をもつことの証明

$$\begin{aligned} (\bold{x_1},\bold{x_2},\cdots,\bold{x_n})\left(\begin{array}{c} c_1\\ c_2\\ \vdots\\ c_n \end{array}\right)=0 \end{aligned}$$

とする。

ここで $\text{rank}(P)<n$ とすると、 $c_1=c_2=\cdots=c_n=0$ という自明な解以外の解をもってしまうので、これは $\bold{x_1},\bold{x_2},\cdots,\bold{x_n}$ が一次独立であることに矛盾する。

よって $\text{rank}(P)=n$ であり、$P$ は正則である。(逆行列をもつ)

P^(-1)AP が対角行列であることの証明

P^{-1}AP&=P^{-1}A(\bold{x_1},\bold{x_2},\cdots,\bold{x_n})\\ &=P^{-1}(A\bold{ x_1 },A\bold{x_2},\cdots,A\bold{x_n})\\ &=P^{-1}(\lambda_1\bold{x_1},\lambda_2\bold {x_2},\cdots,\lambda_n\bold{x_n})\\ &=P^{-1}(\bold{x_1},\bold{x_2},\cdots,\bold {x_n})\left(\begin{array} {cccc} \lambda_1&0&\cdots&0\\ 0&\lambda_2&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&0&\lambda_n \end{array}\right)\\ &=\left(\begin{array} {cccc} \lambda_1&0&\cdots&0\\ 0&\lambda_2&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&0&\lambda_n \end{array}\right) \end{aligned}

定理

$n$次正方行列 $A$ の $n$ 個の一次独立な固有ベクトルを $\bold{x_1},\bold{x_2},\cdots,\bold{x_n}$ とする。 それらを並べた行列 $(\bold{x_1},\bold{x_2},\cdots,\bold{x_n})$ を $P$ とすると、行列 $A$ は次のように対角化できる。

$$P^{-1}AP=\left(\begin{array}{cccc} \lambda_1&0&\cdots&0\\ 0&\lambda_2&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&\lambda_n \end{array}\right)$$

対角化できない例

$$A=\left(\begin{matrix} -3&-1\\ 1&-1 \end{matrix}\right)\\$$

行列 $A$ の固有方程式を解くと

$$\begin{aligned} \begin{vmatrix} -3-\lambda&-1\\ 1&-1-\lambda \end{vmatrix}&=(-3-\lambda)(-1-\lambda)+1\\ &=\lambda^2+4\lambda+4\\ &=(\lambda+2)^2=0\\ \therefore\lambda&=-2\\ \left(\begin{matrix} -1&-1\\ 1&1 \end{matrix}\right)\left(\begin{matrix} x\\ y \end{matrix}\right)&=\left(\begin{matrix} 0\\ 0 \end{matrix}\right)\iff{x+y=0} \end{aligned}$$

ここで $x=s$ とおくと $y=-s$

$$\therefore{\left(\begin{matrix} x\\ y \end{matrix}\right)=s\left(\begin{matrix} 1\\ -1 \end{matrix}\right)}$$

これ以外に独立な固有ベクトルがとれないので対角化不可能。

応用例: 対角化を使った A^n の計算

$$\begin{aligned} (P^{-1}AP)^k&=(P^{-1}AP)(P^{-1}AP)\cdots(P^{-1}AP)\\ &=P^{-1}A^kP\\ A^k&=P(P^{-1}AP)^kP^{-1}\\ &=P\left(\begin{matrix} \lambda_1^k&0&\cdots&0\\ 0&\lambda_2^k&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&\lambda_n^k \end{matrix}\right)P^{-1} \end{aligned}$$

と求められる。

例題

• 行列 $A=\left(\begin{matrix}-2&1\\5&2\end{matrix}\right)$ を変換行列 $P$ を用いて対角化せよ
• 行列 $A=\left(\begin{matrix}-2&2&4\\-2&3&2\\-2&1&4\end{matrix}\right)$ を変換行列 $P$ を用いて対角化せよ

参考文献

• ヨビノリたくみ, 線形代数 - YouTube, 2019
• Wikipedia, 正則行列
• Wikipedia, 余因子展開