【数学の基礎】線形代数学

線形代数の基礎概念

▽ベクトルと行列

線形代数の基礎として、ベクトルと行列の概念を理解することが重要です。ベクトルは一列に並んだ数値の集合で、数値それぞれが「要素」と呼ばれます。例えば、2次元ベクトル

$$\mathbf{v}=\left(\begin{array}{c}{v}_1{v}_2\end{array}\right)$$

などです。行列は行と列からなる数値の配列で、統計分析では行列を用いることで複数の変数を扱うことができます。

▽行列の演算

加算

例）

スカラー倍

例）

積

例）

統計学に必要な線形代数の計算

▽行列の逆行列

逆行列 ${\mathbf{A}}^{-1}$ は、

$$\mathbf{A}{\mathbf{A}}^{-1}=\mathbf{I}$$

を満たす行列です。統計学では、回帰分析や分散共分散行列の計算に用いられます。

▽行列式の計算

行列式は、行列の「拡大縮小」の度合いを示す値で、逆行列の計算や行列の性質を調べるのに使われます。例えば

$$\text{det}(\mathbf{A})=0$$

の場合、逆行列が存在しないことを示します。

▽連立一次方程式と行列による解法

連立一次方程式は行列を用いて効率的に解くことができます。例えば、方程式

$$\mathbf{A}\mathbf{x}=\mathbf{b}$$

に対して、逆行列を使って $\mathbf{x}={\mathbf{A}}^{-1}\mathbf{b}$ の形で解を得ます。

▽固有値と固有ベクトル

行列の固有値と固有ベクトルは、データの方向性や分散を理解する際に役立ちます。例えば、主成分分析では、データの分散が最も大きい方向を見つけるために固有ベクトルを用います。

統計学における線形代数の応用

▽最小二乗法と回帰分析

最小二乗法は、観測データとモデルの誤差を最小にする方法です。行列を用いた最小二乗法では、方程式

$${\mathbf{X}}^{\mathrm{\top }}\mathbf{X}\mathbf{b}={\mathbf{X}}^{\mathrm{\top }}\mathbf{y}$$

の形で解を求めます。

▽分散共分散行列の計算

分散共分散行列は、データ間の分散と共分散を行列の形で表したもので、相関やデータのばらつきを分析するために用います。例えば、データ行列 $\mathbf{X}$ の分散共分散行列 $\mathbf{S}$ は、

$$\mathbf{S}=\frac{1}{n-1}{\mathbf{X}}^{\mathrm{\top }}\mathbf{X}$$

で求めます。

▽主成分分析（PCA）

主成分分析は、データを低次元空間に変換して可視化したり、データの次元削減を行う手法です。PCAでは、分散共分散行列の固有ベクトルを用いて主成分を求めます。

おわりに