正定値行列・半正定値行列

2026/01/19 16:22 投稿

正定値行列と半正定値行列の様々な性質について述べる。
なお、本稿では特に断りがない限り実行列のみを扱う。

目次

• 実対称行列の性質
  • 定義
  • 固有値・固有ベクトル
  • 対角化 (固有値分解)
• 正定値行列・半正定値行列
  • 定義
  • 錐結合
  • 固有値
  • 行列式
  • 逆行列
  • 平方根
  • 回転・伸縮による分解
• 半正定値行列のCholesky分解
  • 分解の存在
  • 分解の一意性
• 正定値行列のCholesky分解
  • 分解の存在
  • 分解の一意性
• 特異値分解 (SVD)
  • full SVD
  • thin SVD
• 参考
  • 正定値行列・半正定値行列
  • QR分解
  • Cholesky分解

実対称行列の性質

正定値行列・半正定値行列は対称行列でもあるので、まずは準備として実対称行列において成り立つ性質を確認する。

定義

正方行列\(A\)が対称行列であるとは、

\begin{align*} A^\top = A \end{align*}

が成り立つことである。

固有値・固有ベクトル

一般に実行列の固有値は複素数値を取り得るが、実対称行列では固有値が実数にしかならないことを証明する。

\(A\)を実対称行列とし、\(\lambda,v\)を\(A\)の任意の固有対 (=固有値と固有ベクトル) とする。
このとき、

\begin{align*} v^\ast Av &= v^\ast \lambda v \\ &= \lambda v^\ast v \\ &= \lambda \|v\|^2 \end{align*}

という関係が成り立つ。(\(v^\ast\)は\(v\)の随伴、つまり複素共役の転置)
一方、\(A\)が実対称行列であることから、

\begin{align*} v^\ast Av &= \left(A^\ast v\right)^\ast v \\ &= (Av)^\ast v \\ &= (\lambda v)^\ast v \\ &= \bar{\lambda}v^\ast v \\ &= \bar{\lambda}\|v\|^2 \end{align*}

という関係も成り立つ。
固有ベクトルの定義から\(v\neq0\)なので、\(\lambda=\bar{\lambda}\)となり\(\lambda\)は実数であることがわかる。

また、固有ベクトルについて、

\begin{align*} A\bar{v} &= \overline{Av} \\ &= \overline{\lambda v} \\ &= \lambda\bar{v} \end{align*}

となることから、

\begin{align*} A(v+\bar{v}) &= Av + A\bar{v} \\ &= \lambda v + \lambda\bar{v} \\ &= \lambda(v+\lambda{v}) \end{align*}

となり、実ベクトル\(v+\bar{v}\)は\(\lambda\)に対応する固有ベクトルの一つになる。

対角化 (固有値分解)

実対称行列\(A\)が実直交行列\(P\)によって対角化できることを証明する。

対角化したときの\(D\)と\(P\)の性質について考える。
\(P\)の\(i\)列目の列ベクトルを\(p_i\)と表し、\(D\)の\(i,i\)成分を\(d_i\)と表す。
\(P\)は直交行列なので、

\begin{align*} Ap_i &= PDP^\top p_i \\ &= PDe_i \\ &= P(d_ie_i) \\ &= d_iPe_i \\ &= d_ip_i \end{align*}

が成り立ち、\(d_i\)は\(A\)の固有値に、\(p_i\)は\(A\)の固有ベクトルになることがわかる。

また、\(\lambda\)を\(A\)の固有値とすると、\(Av=\lambda v\)となるような\(v\neq0\)が存在するので、

\begin{align*} DP^\top v &= P^\top PDP^\top v \\ &= P^\top Av \\ &= P^\top (\lambda v) \\ &= \lambda P^\top v \\ \end{align*}

\begin{align*} (D-\lambda I)P^\top v &= 0 \\ \end{align*}

が成り立つ。\(P^\top v\neq0\)なので、

\begin{align*} 0 &= \det(D-\lambda I) \\ &= \prod_{i=1}^n (d_i-\lambda) \end{align*}

となり、\(D\)のいずれかの成分が\(\lambda\)と一致することがわかる。
これはつまり、\(D\)の対角成分は\(A\)の固有値と (値の重複を含めて) 一対一に対応することを意味する。

\(A\)の0ではない固有値\(d_i\)の (重複を含めた) 個数が\(k\)であるとき (つまり\(A\)のランクが\(k\leq n\)のとき) 、\(d_{k+1}=d_{k+2}=\cdots=d_{n}=0\)となるように対角化すると、

\begin{align*} A &= PDP^\top \\ &= \sum_{i=1}^n d_ip_ip_i^\top \\ &= \sum_{i=1}^k d_ip_ip_i^\top \\ &= \tilde{P}\tilde{D}\tilde{P}^\top \\ \end{align*}

となり、\(k\times k\)行列\(\tilde{D}\)と\(n\times k\)行列\(\tilde{P}\)によって固有値分解することもできる。

正定値行列・半正定値行列

正定値行列・半正定値行列の定義を確認し、その性質やそこから導き出される系を紹介する。

定義

実対称行列\(A\)が半正定値行列であるとは、任意の\(x\)に対して

\begin{align*} x^\top Ax \geq 0 \end{align*}

が成立することである。

同様に、実対称行列\(A\)が正定値行列であるとは、任意の\(x\neq0\)に対して

\begin{align*} x^\top Ax > 0 \end{align*}

が成立することである。
正定値行列は半正定値行列の一種である。

例

単位行列\(I\)は正定値行列である。

\begin{align*} x^\top Ix &= \|x\|^2 \\ &> 0 \end{align*}

全成分が1である行列\(J\) (all-ones matrixなどと呼ばれる) は半正定値行列である。

\begin{align*} x^\top Jx &= \sum_{i=1}^n\sum_{j=1}^nx_ix_j \\ &= \left(\sum_{i=1}^nx_i\right)^2 \\ &\geq 0 \end{align*}

錐結合

半正定値行列は錐結合に対して閉じている。つまり、\(A,B\)が半正定値行列のとき、任意の\(a,b\geq0\)に対して、\(aA+bB\)もまた半正定値行列になる。
これは、

\begin{align*} x^\top (aA+bB) x &= a\left(x^\top Ax\right) + b\left(x^\top Bx\right) \\ &\geq 0+0 \\ &= 0 \end{align*}

となることから確かめられる。
錐結合に対して閉じた集合のことを凸錐と言う。半正定値行列全体の集合も凸錐になる。

固有値

\(\lambda, v\)を正定値行列\(A\)の任意の固有対とする。
このとき、

\begin{align*} 0 &< v^\top Av \\ &= v^\top \lambda v \\ &= \lambda\|v\|^2 \end{align*}

なので、

\begin{align*} 0 = \frac{0}{\|v\|^2} < \lambda \end{align*}

が成立する。したがって、正定値行列の固有値は全て正である。
同様に半正定値行列に関しては、固有値は全て非負であると言える。

逆に対称行列\(A\)の固有値が全て正ならば、\(A=PDP^\top\)と対角化したとき任意の\(x\neq0\)に対して、

\begin{align*} x^\top Ax &= x^\top PDP^\top x \\ &= \left(P^\top x\right)^\top D\left(P^\top x\right) \\ \end{align*}

となる。
\(y:=P^\top x\)とすると、\(P\)は直交行列であることから正則なので\(y\neq0\)が成り立つ。また、\(D\)は各成分が\(A\)の固有値と一致する対角行列なので、\(D = \mathrm{diag}(\lambda_1, \lambda_2, \cdots, \lambda_n)\)となる。
したがって、

\begin{align*} x^\top Ax &= \left(P^\top x\right)^\top D\left(P^\top x\right) \\ &= y^\top Dy \\ &= \begin{pmatrix}y_1 & y_2 & \cdots & y_n\end{pmatrix} \begin{pmatrix} \lambda_1 & 0 & \cdots & 0 \\ 0 & \lambda_2 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & \lambda_n \\ \end{pmatrix} \begin{pmatrix}y_1 \\ y_2 \\ \vdots \\ y_n\end{pmatrix} \\ &= \begin{pmatrix}y_1 & y_2 & \cdots & y_n\end{pmatrix} \begin{pmatrix}\lambda_1y_1 \\ \lambda_2y_2 \\ \vdots \\ \lambda_ny_n\end{pmatrix} \\ &= \lambda_1y_1^2 + \lambda_2y_2^2 + \cdots + \lambda_ny_n^2 \end{align*}

となるが、\(y\neq0\)かつ、固有値は全て正なので、

\begin{align*} x^\top Ax &= \lambda_1y_1^2 + \lambda_2y_2^2 + \cdots + \lambda_ny_n^2 \\ &> 0 \end{align*}

となって、\(A\)は正定値行列であることがわかる。
同様に、対称行列\(A\)の固有値が全て非負ならば\(A\)が半正定値行列であることも言える。

行列式

半正定値行列\(A=PDP^\top\)の行列式は

\begin{align*} \mathrm{det}(A) &= \mathrm{det}\left(PDP^\top\right) \\ &= \mathrm{det}\left(P\right)\mathrm{det}\left(D\right)\mathrm{det}\left(P^\top\right) \\ &= \mathrm{det}\left(D\right)\mathrm{det}\left(PP^\top\right) \\ &= \mathrm{det}\left(D\right)\mathrm{det}\left(I\right) \\ &= \prod_{i=1}^n\lambda_i \\ \end{align*}

となる。
特に\(A\)が正定値行列の場合、その固有値は全て正なので行列式は正となる。したがって、正定値行列は正則であると言える。
一方、一般の半正定値行列の場合は\(D\)の対角成分に0が含まれる可能性があることから、正則にならない場合がある。

逆行列

正定値行列\(A=PDP^\top\)では\(D\)の対角成分\(\lambda_i\)が全て正であることから、その逆数を取った行列が\(D^{-1}\)となるので、\(PD^{-1}P^\top\)が\(A\)の逆行列になることがわかる。
また、\(A^{-1}=PD^{-1}P^\top\)は固有値が全て正の対象行列なので、逆行列\(A^{-1}\)も正定値行列になる。

平方根

半正定値行列\(A\)を\(A=PDP^\top\)と分解したとき、\(D\)の対角成分\(\lambda_1, \lambda_2, \cdots, \lambda_n\)は\(A\)の固有値と一致するが、半正定値行列の固有値は非負なので、それぞれ\(\sqrt{\lambda_i}\)を定義することができる。したがって、

\begin{align*} D^{1/2} := \begin{pmatrix} \sqrt{\lambda_1} & 0 & \cdots & 0 \\ 0 & \sqrt{\lambda_2} & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & \sqrt{\lambda_n} \end{pmatrix} \end{align*}

と定義すれば、

\begin{align*} A &= PDP^\top \\ &= PD^{1/2}D^{1/2}P^\top \\ &= PD^{1/2}P^\top PD^{1/2}P^\top \\ \end{align*}

となって、\(A\)の平方根\(A^{1/2}=PD^{1/2}P^\top\)が必ず存在することがわかる。
また、\(A^{1/2}\)は固有値が非負の対称行列なので、半正定値行列になる。\(A\)が正定値行列ならば、同様に\(A^{1/2}\)も正定値行列になる。

また、\(A=B^2\)となるような半正定値行列\(B\)が存在するとき、\(A=PDP^\top\)と固有値分解したときの\(D\)の各成分\(\lambda_i\)と\(P\)の列ベクトル\(p_i\)について

\begin{align*} 0 &= (A-\lambda_iI)p_i \\ &= (B^2-\lambda_iI)p_i \\ &= (B+\sqrt{\lambda_i}I)(B-\sqrt{\lambda_i}I)p_i \\ \end{align*}

となる。
\(\lambda_i>0\)のとき、\(B\)は半正定値行列なので、\(-\sqrt{\lambda_i}<0\)は\(B\)の固有値となり得ず\(B+\sqrt{\lambda_i}\)は正則。したがって、

\begin{align*} (B-\sqrt{\lambda_i}I)p_i &= (B+\sqrt{\lambda_i}I)^{-1}0 \\ &= 0 \end{align*}

が成り立つ。
\(\lambda_i=0\)のときは、

\begin{align*} \|Bp_i\|^2 &= p_i^\top B^\top Bp_i \\ &= p_i^\top Ap_i \\ &= p_i^\top (A-\lambda_iI)p_i \\ &= 0 \end{align*}

となるので、\((B-\sqrt{\lambda_i}I)p_i=Bp_i=0\)が成り立つ。
したがって、\(\{\sqrt{\lambda_i}\}_{i=1}^n\)と\(\{p_i\}_{i=1}^n\)は\(B\)の固有対となり、

\begin{align*} P^\top BP &= P^\top B \begin{pmatrix} p_1 & \cdots & p_n \end{pmatrix} \\ &= P^\top \begin{pmatrix} \sqrt{\lambda_1}p_1 & \cdots & \sqrt{\lambda_n}p_n \end{pmatrix} \\ &= \begin{pmatrix} \sqrt{\lambda_1}e_1 & \cdots & \sqrt{\lambda_n}e_n \end{pmatrix} \\ &= D^{1/2} \end{align*}

が成り立つ。よって\(B=PD^{1/2}P^\top\)となり、\(A\)の平方根は半正定値行列の範囲の中では一意になることがわかる。
このように、それ自体が半正定値行列となる平方根のことを主平方根と言う。

同様に、半正定値行列には半正定値な\(n\)乗根が一意に存在するということも成り立つ。

なお、主\(n\)乗根について

\begin{align*} \det(A) &= \det\left(\left(A^{1/n}\right)^n\right) \\ &= \det\left(A^{1/n}\right)^n \\ \end{align*}

が成り立つが、主\(n\)乗根は半正定値であることから行列式が非負なので、

\begin{align*} \det\left(A^{1/n}\right) &= \det(A)^\frac{1}{n} \end{align*}

となる。

回転・伸縮による分解

\(R\)を直交行列とすると、\(1=\det(I)=\det(RR^\top)=\det(R)^2\)なので\(\det(R)=\pm1\)となる。
その中でも特に\(\det(R)=1\)となるような直交行列\(R\)を回転行列と言う。また、\(n\)次元の回転行列全体の集合を

\begin{align*} \mathrm{SO}(n) := \left\{ R\in \mathbb{R}^{n\times n} \middle| RR^\top=I \land \det(R)=1 \right\} \end{align*}

と表し、特殊直交群と呼ぶ。

半正定値行列\(A\)を\(A=PDP^\top\)と分解したとき、\(D,P\)は固有値の順番を入れ替えることで\(\det(P)=1\)となるように\(P\)を選ぶことができる。
\(R:=P^\top, S:=D^{1/2}\)とすると、

\begin{align*} A &= PDP^\top \\ &= R^\top SSR \\ &= (SR)^\top SR \end{align*}

と分解することができる。\(R\)は回転行列であり、\(S\)は各軸方向への伸縮を行う行列である。
この分解は半正定値行列の幾何学的な理解のために用いられることがある。

半正定値行列のCholesky分解

半正定値行列\(A\)に対して、

\begin{align*} A = LL^\top \end{align*}

となるような下三角行列\(L\)が存在することを証明する。

分解の存在

対角化

\(A\)を半正定値行列とする。
\(A\)は対称行列でもあるので、\(A=PDP^\top\)と対角化することができる。

\(D\)の各成分は非負なのでそれぞれ平方根を取った実行列\(D^{1/2}\)を定義することができ、\(A\)を

\begin{align*} A &= PDP^\top \\ &= PD^{1/2}D^{1/2}P^\top \\ &= PD^{1/2}\left(PD^{1/2}\right)^\top \\ \end{align*}

と表すことができる。

QR分解

補題としてQR分解を証明する。

下三角行列による分解

QR分解を用いると、\(\left(PD^{1/2}\right)^\top=QR\)となるような直交行列\(Q\)と上三角行列\(R\)を得ることができる。
したがって、

\begin{align*} A &= PD^{1/2}\left(PD^{1/2}\right)^\top \\ &= (QR)^\top QR \\ &= R^\top Q^\top QR \\ &= R^\top R \\ \end{align*}

が成り立つ。上三角行列の転置は下三角行列なので、\(L:=R^\top\)とすることで、

\begin{align*} A &= R^\top R \\ &= LL^\top \end{align*}

と表すことができる。

逆に、\(n\times m\)行列\(B\)によって\(A=BB^\top\)と表されるとき、任意の\(x\)に対して

\begin{align*} x^\top Ax &= x^\top BB^\top x \\ &= \left(B^\top x\right)^\top B^\top x \\ &= \left\|B^\top x\right\|^2 \\ &\geq 0 \end{align*}

となるので、\(A\)は半正定値行列になる。(このとき\(A\)を\(B\)のGram行列という)
当然、\(B\)が\(n\times n\)の下三角行列である場合も\(A\)は半正定値行列になる。

したがって、半正定値行列\(A\)は下三角行列\(L\)によってパラメーター化可能であると言える。言い換えれば、\(L\)を下三角行列の範囲で変動させたとき、\(A=LL^\top\)はあらゆる半正定値行列になり得ることになる。
\(A\)の成分が\(n^2\)個であるのに対して、\(L\)の下三角成分は\(\frac{1}{2}n(n+1)\)個であり、およそ半分のパラメーターで表現することが可能になる。また、\(L\)は下三角行列でさえあれば良いので、下三角成分は実数全体の値を独立に取ることができ、パラメーター同士に特に制約条件は課されない。

分解の一意性

半正定値行列の場合この分解は一意にはならないことに注意が必要である。
例えば、

\begin{align*} A = \begin{pmatrix} 0 & 0 \\ 0 & 1 \end{pmatrix} \end{align*}

に対しては、

\begin{align*} L = \begin{pmatrix} 0 & 0 \\ 0 & 1 \end{pmatrix} \end{align*}

\begin{align*} L = \begin{pmatrix} 0 & 0 \\ 1 & 0 \end{pmatrix} \end{align*}

の2つの下三角行列で\(A=LL^\top\)が成立する。

正定値行列のCholesky分解

正定値行列も半正定値行列の一種なので、下三角行列による分解が可能である。

\begin{align*} A = LL^\top \end{align*}

正定値行列においては、特に対角成分が正となる\(L\)が存在することを示す。

分解の存在

正定値行列\(A\)を下三角行列\(L\)によって\(A=LL^\top\)と分解したとき、\(A\)は正則なので

\begin{align*} 0 &\neq \det(A) \\ &= \det(LL^\top) \\ &= \det(L)^2 \end{align*}

となるが、下三角行列の行列式は対角成分の積であることが帰納的に言えるので、\(L\)の対角成分は0以外の値を取ることになる。

ここで、次のような直交行列を考える。

\begin{align*} F = \begin{pmatrix} \mathrm{sign}(L_{1,1}) & 0 & \cdots & 0 \\ 0 & \mathrm{sign}(L_{2,2}) & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & \mathrm{sign}(L_{n,n}) \\ \end{pmatrix} \end{align*}

\(L':=LF\)としたとき、\(A = LL^\top = LFF^\top L^\top = L'L'^\top\)となり、

\begin{align*} L'_{i,i} &= L_{i,i}F_{i,i} \\ &= L_{i,i}\mathrm{sign}(L_{i,i}) \\ &= |L_{i,i}| \\ &> 0 \end{align*}

となる。
よって、正定値行列\(A\)については、特に対角成分が正となる下三角行列\(L'\)によって\(A=L'L'^\top\)と分解することができる。

分解の一意性

正定値行列\(A\)が、対角成分が正の2つの下三角行列\(L_1, L_2\)によって分解可能であるとする。
つまり、

\begin{align*} A &= L_1L_1^\top \\ A &= L_2L_2^\top \end{align*}

が成り立つとする。

このとき、\(A\)が正則であることから\(L_1, L_2\)も正則なので、\(L_1^{-1}, L_2^{-1}\)が存在し、

\begin{align*} I &= L_1^{-1}L_1L_1^\top\left(L_1^\top\right)^{-1} \\ &= L_1^{-1}L_2L_2^\top\left(L_1^\top\right)^{-1} \\ &= L_1^{-1}L_2\left(L_1^{-1}L_2\right)^\top \\ &=: MM^\top \end{align*}

となる。この関係から、\(M:=L_1^{-1}L_2\)は直交行列になる。
また、\(L_1\)は下三角行列なので、\(L_1^{-1}\)も下三角行列。また下三角行列同士の積も下三角行列なので、\(M\)は下三角行列となる。
\(M\)は下三角行列かつ直交行列なので、各成分が\(\pm1\)の対角行列でしかあり得ない。

更に、前提から\(L_1\)の対角成分は全て正なので、\(L_1^{-1}\)の対角成分も全て正。
また、\(L_2\)の対角成分は全て正なので、\(M=L_1^{-1}L_2\)の対角成分も正になる。
したがって、\(M=I\)となる。

つまり、

\begin{align*} I = M = L_1^{-1}L_2 \end{align*}

となるので、\(L_1=L_2\)が成立する。

よって、正定値行列\(A\)に対する「対角成分が正の下三角行列」による\(A=LL^\top\)の分解は一意になる。
このような下三角行列による分解をCholesky分解と言う。

特異値分解 (SVD)

せっかくなので、半正定値行列の固有値分解を用いて、任意の\(m\times n\)行列\(A\)が特異値分解(Singular Value Decomposition, SVD) 可能であることも証明しておこう。

full SVD

\(m\geq n\)とする。(\(m<n\)なら転置に対して特異値分解を行えば良い)
\(A^\top A\)は\(n\times n\)対称行列であり、\(x^\top A^\top Ax = \|Ax\|^2\geq0\)となることから半正定値行列である。よって、\(A^\top A=VDV^\top\)と固有値分解することができ、\(D\)の各成分は非負である。
\(D\)は各成分が\(d_1\geq d_2\geq\cdots\geq d_n\geq0\)となるように選ぶことにし、\(\sigma_i:=\sqrt{d_i}\)とする。また、\(n<i\leq m\)に対しては\(\sigma_i:=0\)とする。

\(\sigma_i\neq0\)のとき、\(V\)の列ベクトル\(v_i\)に対して\(u_i:=\frac{1}{\sigma_i}Av_i\)と定める。このとき、

\begin{align*} (Av_i)^\top (Av_j) &= v_i^\top A^\top Av_j \\ &= v_i^\top VDV^\top v_j\\ &= e_i^\top De_j \\ &= d_i\delta_{i,j} \\ &= \sigma_i^2\delta_{i,j} \\ \end{align*}

となることから、\(\{u_i\}_i\)は正規直交系になると言える。
また、\(\sigma_i=0\)のときは、\(j\neq i\)なる\(u_j\)全てと直交するように単位ベクトル\(u_i\)を適当に選ぶ。このときも、\(i\leq n\)ならば

\begin{align*} \|Av_i\|^2 &= \sigma_i^2 \\ &= 0 \end{align*}

となるので、\(Av_i=\sigma_i u_i\)が成り立つ。
このようにして得られた\(u_i\)を用いて、各列ベクトルが\(u_i\)になるように\(m\times m\)行列\(U\)を構成すると、\(U\)は直交行列になる。

このとき、\(1\leq i\leq m\)と\(1\leq j\leq n\)に対して、

\begin{align*} \left(U^\top AV\right)_{i,j} &= e_i^\top U^\top AVe_j \\ &= u_i^\top Av_j \\ &= u_i^\top (\sigma_ju_j) \\ &= \sigma_j\delta_{i,j} \\ \end{align*}

となるので、\(m\times n\)行列\(\Sigma\)を\(\Sigma_{i,j}=\sigma_j\delta_{i,j}\)となるように定めれば、

\begin{align*} U^\top AV &= \Sigma \\ \end{align*}

つまり、

\begin{align*} A &= U\Sigma V^\top \\ \end{align*}

が成り立つ。
\(\Sigma\)の成分の中で\(0\)ではないものを(非零) 特異値と言う。

thin SVD

\(A^\top A\)のランクを\(k\leq n\)としたとき、特異値分解を行うと

\begin{align*} A &= U\Sigma V^\top \\ &= \left( \begin{array}{ccc:ccc} u_{1,1} & \cdots & u_{1,k} & u_{1,k+1} & \cdots & u_{1,m} \\ \vdots && \vdots & \vdots && \vdots \\ u_{m,1} & \cdots & u_{m,k} & u_{m,k+1} & \cdots & u_{m,m} \\ \end{array} \right) \left( \begin{array}{ccc:ccc} \sigma_1 &&& 0 & \cdots & 0 \\ & \ddots && \vdots && \vdots \\ && \sigma_k & 0 & \cdots & 0 \\ \hdashline 0 & \cdots & 0 & 0 & \cdots & 0 \\ \vdots && \vdots & \vdots && \vdots \\ 0 & \cdots & 0 & 0 & \cdots & 0 \\ \end{array} \right) \left( \begin{array}{ccc} v_{1,1} & \cdots & v_{n,1} \\ \vdots && \vdots \\ v_{1,k} & \cdots & v_{n,k} \\ \hdashline v_{1,k+1} & \cdots & v_{n,k+1} \\ \vdots && \vdots \\ v_{1,n} & \cdots & v_{n,n} \\ \end{array} \right) \\ \end{align*}

と表すことができる。
ここで、\(U,V\)の\(a\)列目から\(b\)列目までを取り出した行列を\(U_{a:b},V_{a:b}\)と表すことにする。\(\tilde{\Sigma}:=\mathrm{diag}(\sigma_1,\cdots,\sigma_k)\)とすると、

\begin{align*} A &= \left( \begin{array}{c:c} U_{1:k} & U_{k+1:m} \end{array} \right) \left( \begin{array}{c:c} \tilde{\Sigma} & 0 \\ \hdashline 0 & 0 \end{array} \right) \left( \begin{array}{c} V_{1:k}^\top \\ \hdashline V_{k+1:n}^\top \end{array} \right) \\ &= \left( \begin{array}{c:c} U_{1:k} & U_{k+1:m} \end{array} \right) \left( \begin{array}{c:c} \tilde{\Sigma}V_{1:k}^\top \\ \hdashline 0 \end{array} \right) \\ &= U_{1:k}\tilde{\Sigma}V_{1:k}^\top \end{align*}

と表すことができる。
ここで、\(\tilde{\Sigma}\)の対角成分は全て正である。
また、\(U\)の列ベクトルが正規直交系であることから\(U_{1:k}\)の列ベクトルも正規直交系となり、したがって\(U_{1:k}^\top U_{1:k}=I\)が成り立つ。\(V\)についても同様に\(V_{1:k}^\top V_{1:k}=I\)が成り立つ。

このような形式の特異値分解はthin SVDあるいはeconomy SVDなどと呼ばれる。

参考

• 実対称行列の4つの大切な性質 - 理数アラカルト -

正定値行列・半正定値行列

• 正定値行列・半正定値行列の定義・性質3つとその証明 | 数学の景色
• 半正定値行列の平方根行列の存在と一意性 - Lilliput Steps
• 正定値行列について - 数学についていろいろ解説するブログ

QR分解

• QR分解とは？ ～具体例と証明～   - 理数アラカルト -
• 行列のQR分解と応用（固有値・最小二乗法） | 高校数学の美しい物語

Cholesky分解

• コレスキー分解とは？ ～解説・具体例～ - 理数アラカルト -
• Cholesky decomposition - Wikipedia