SVD: Teoria e Aplicações Avançadas

Existência da SVD

Teorema. Para qualquer $A \in M_{m\times n}(\mathbb{R})$, existem matrizes $U \in M_{m\times m}$ ortogonal, $V \in M_{n\times n}$ ortogonal, e $\Sigma \in M_{m\times n}$ com entradas não-negativas somente na diagonal principal ($\sigma_1 \geq \cdots \geq \sigma_{\min(m,n)} \geq 0$) tais que $A = U\Sigma V^T$.

Prova: $A^TA$ é simétrica semi-definida positiva; pelo Teorema Espectral, $A^TA = V\Lambda V^T$ com $\lambda_i \geq 0$. Defina $\sigma_i = \sqrt{\lambda_i}$ e $u_i = Av_i/\sigma_i$ para $\sigma_i > 0$; então $\langle u_i,u_j\rangle = v_i^TA^TAv_j/\sigma_i\sigma_j = \lambda_j\delta_{ij}/\sigma_i\sigma_j = \delta_{ij}$. Complete $U$ com base de $\ker A^T$.

Desigualdade de Von Neumann

Para $A,B \in M_{n\times n}$:

com igualdade $\iff A = UBV$ para $U,V$ ortogonais. Este é o Lema de von Neumann (1937), fundamental em teoria de otimização matricial.