Lição 117 — Decomposição em valores singulares (SVD)
A = U Σ Vᵀ funciona para qualquer matriz real. Valores singulares revelam a estrutura geométrica. Base de compressão de imagens, recomendação, PCA e pseudoinversa.
Used in: 3.º ano do EM (17-18 anos) · Equiv. Lineare Algebra LK alemão · Equiv. H2 Math singapurense · Equiv. Math III japonês avançado
Rigorous notation, full derivation, hypotheses
Definição e teorema
Teorema da SVD
"Any matrix A with rank r can be written as a product where U is orthogonal (), is diagonal (, nonnegative entries decreasing), and V is orthogonal (). The diagonal entries are the singular values of A." — Understanding Linear Algebra, §6.3
"Theorem (Existence of SVD). Every real matrix A has a singular value decomposition. The singular values are the positive square roots of the nonzero eigenvalues of ." — A First Course in Linear Algebra, §SVD
Conexão com autovalores
Os 4 subespaços fundamentais via SVD
Teorema de Eckart-Young
Pseudoinversa de Moore-Penrose
Exemplos resolvidos
Exercise list
30 exercises · 7 with worked solution (25%)
- Ex. 117.1UnderstandingAnswer key
Explique a diferença entre autovalores e valores singulares de uma matriz . Para que tipo de matriz eles coincidem?
- Ex. 117.2Application
Calcule a SVD de .
- Ex. 117.3Application
Calcule a SVD compacta de . Qual o posto de ?
- Ex. 117.4ApplicationAnswer key
Se a SVD de tem valores singulares , qual o posto de ? Qual a dimensão de ?
- Ex. 117.5Application
A SVD de tem valores singulares . Calcule o erro de Frobenius e o erro espectral da melhor aproximação de posto 1.
- Ex. 117.6Application
Descreva como calcular a pseudoinversa de com valores singulares e posto 2. Qual a dimensão de ?
- Ex. 117.7Understanding
Uma matriz tem valores singulares e . Calcule e interprete o que isso significa para resolver numericamente.
- Ex. 117.8Application
Uma matriz tem valores singulares . Qual o menor tal que a aproximação de posto explica pelo menos 95% da variância de Frobenius?
- Ex. 117.9Application
Mostre que, para uma matriz simétrica positiva semi-definida , a SVD tem e . O que os valores singulares são, nesse caso?
- Ex. 117.10Modeling
Uma imagem em tons de cinza é uma matriz . Se você guardar a SVD truncada com componentes, quantos floats armazena em comparação com a imagem original? Qual o fator de compressão?
- Ex. 117.11Understanding
Qual afirmação sobre a interpretação de e na SVD é correta?
- Ex. 117.12Application
A SVD de tem valores singulares . Calcule a norma espectral e a norma de Frobenius .
- Ex. 117.13ApplicationAnswer key
Uma imagem tem posto numérico . Qual a taxa de compressão ao guardar a SVD completa de posto em vez da matriz original?
- Ex. 117.14Application
Explique geometricamente o que a SVD diz sobre como a matriz transforma a esfera unitária de . Quais são os semi-eixos do elipsoide resultante?
- Ex. 117.15Application
Mostre que na SVD se tem para todo . Use isso para verificar que .
- Ex. 117.16Modeling
Em latent semantic analysis (LSA), a SVD de uma matriz termo-documento é truncada nos maiores valores singulares. Explique conceitualmente por que isso captura "tópicos latentes" nos documentos.
- Ex. 117.17Proof
Enuncie o Teorema de Eckart-Young e esboce a ideia da demonstração de que é de fato a melhor aproximação de posto em norma espectral.
- Ex. 117.18Application
Se tem valores singulares , quais são os valores singulares de ? Calcule e .
- Ex. 117.19Application
Uma matrix tem valores singulares . Usando threshold relativo ao maior singular, qual o posto numérico?
- Ex. 117.20Application
Prove que uma matriz ortogonal tem todos os valores singulares iguais a 1. Qual o número de condicionamento de uma matriz ortogonal?
- Ex. 117.21Modeling
Explique como a SVD da matriz de retornos de ações identifica "fatores de risco" num portfólio. O que os primeiros vetores singulares representam economicamente?
- Ex. 117.22ApplicationAnswer key
Prove que e têm os mesmos valores singulares não-nulos.
- Ex. 117.23ApplicationAnswer key
Derive a solução de ridge regression em termos da SVD de .
- Ex. 117.24ApplicationAnswer key
A curva de juros (yield curve) brasileira tem dados diários de yields em 10 maturidades diferentes. SVD dessa matriz identifica 3 fatores principais. Quais são esses fatores, economicamente?
- Ex. 117.25Application
Para quais valores de a SVD truncada de uma imagem ocupa menos memória que a imagem original? Derive a condição geral.
- Ex. 117.26Understanding
A norma de Frobenius é igual a:
- Ex. 117.27Application
Se tem valores singulares , quais são os valores singulares de ?
- Ex. 117.28Proof
Demonstre que as colunas de e na SVD de formam bases ortonormais dos 4 subespaços fundamentais de . Enuncie cada subespaço e sua base explicitamente.
- Ex. 117.29ModelingAnswer key
Descreva o algoritmo de recomendação por SVD colaborativo: dado uma matriz usuário-item esparsa, como a SVD truncada pode prever ratings ausentes e recomendar itens?
- Ex. 117.30Challenge
Descreva o algoritmo de SVD randomizada de Halko-Martinsson-Tropp (2011) em 5 passos. Por que ele é vantajoso para matrizes grandes de baixo posto numérico? Qual a complexidade comparada com SVD exata?
Fontes
- Understanding Linear Algebra — David Austin · Grand Valley State University · CC-BY-SA · Principal referência para geometria, exemplos e exercícios de SVD (§6.3–6.4).
- A First Course in Linear Algebra — Rob Beezer · University of Puget Sound · GNU FDL · Demonstrações rigorosas de existência de SVD, pseudoinversa e subespaços (§SVD).
- Álgebra Linear (REAMAT UFRGS) — Reamat Colaborativo · UFRGS · CC-BY-SA · Exercícios em PT-BR de compressão, posto numérico e regularização.
- Introduction to Applied Linear Algebra (VMLS) — Boyd, Vandenberghe · Stanford · CC-BY-NC-ND · Contexto de aplicações em ML e engenharia.