Lección 117 — Descomposición en valores singulares (SVD)
A = U Σ Vᵀ funciona para cualquier matriz real. Valores singulares revelan la estructura geométrica. Base de compresión de imágenes, recomendación, PCA y pseudoinversa.
Used in: 3.º año de Bachillerato (17-18 años) · Equiv. Lineare Algebra LK alemán · Equiv. H2 Math singapurense · Equiv. Math III japonés avanzado
Rigorous notation, full derivation, hypotheses
Definición y teorema
Teorema de la SVD
"Any matrix A with rank r can be written as a product where U is orthogonal (), is diagonal (, nonnegative entries decreasing), and V is orthogonal (). The diagonal entries are the singular values of A." — Understanding Linear Algebra, §6.3
"Theorem (Existence of SVD). Every real matrix A has a singular value decomposition. The singular values are the positive square roots of the nonzero eigenvalues of ." — A First Course in Linear Algebra, §SVD
Conexión con autovalores
Los 4 subespacios fundamentales vía SVD
Teorema de Eckart-Young
Pseudoinversa de Moore-Penrose
Ejemplos resueltos
Exercise list
30 exercises · 7 with worked solution (25%)
- Ex. 117.1UnderstandingAnswer key
Explique la diferencia entre autovalores y valores singulares de una matriz . ¿Para qué tipo de matriz coinciden?
- Ex. 117.2Application
Calcule la SVD de .
- Ex. 117.3Application
Calcule la SVD compacta de . ¿Cuál es el rango de ?
- Ex. 117.4ApplicationAnswer key
Si la SVD de tiene valores singulares , ¿cuál es el rango de ? ¿Cuál es la dimensión de ?
- Ex. 117.5Application
La SVD de tiene valores singulares . Calcule el error de Frobenius y el error espectral de la mejor aproximación de rango 1.
- Ex. 117.6Application
Describa cómo calcular la pseudoinversa de con valores singulares y rango 2. ¿Cuál es la dimensión de ?
- Ex. 117.7Understanding
Una matriz tiene valores singulares y . Calcule e interprete qué significa esto para resolver numéricamente.
- Ex. 117.8Application
Una matriz tiene valores singulares . ¿Cuál es el menor tal que la aproximación de rango explica al menos 95% de la varianza de Frobenius?
- Ex. 117.9Application
Demuestre que, para una matriz simétrica positiva semidefinida , la SVD tiene y . ¿Qué son los valores singulares, en este caso?
- Ex. 117.10Modeling
Una imagen en tonos de gris es una matriz . Si guardas la SVD truncada con componentes, ¿cuántos floats almacenas en comparación con la imagen original? ¿Cuál es el factor de compresión?
- Ex. 117.11Understanding
¿Cuál afirmación sobre la interpretación de y en la SVD es correcta?
- Ex. 117.12Application
La SVD de tiene valores singulares . Calcule la norma espectral y la norma de Frobenius .
- Ex. 117.13ApplicationAnswer key
Una imagen tiene rango numérico . ¿Cuál es la tasa de compresión al guardar la SVD completa de rango en vez de la matriz original?
- Ex. 117.14Application
Explique geométricamente qué dice la SVD sobre cómo la matriz transforma la esfera unitaria de . ¿Cuáles son los semiejes del elipsoide resultante?
- Ex. 117.15Application
Demuestre que en la SVD se tiene para todo . Use esto para verificar que .
- Ex. 117.16Modeling
En latent semantic analysis (LSA), la SVD de una matriz término-documento se trunca en los mayores valores singulares. Explique conceptualmente por qué esto captura "tópicos latentes" en los documentos.
- Ex. 117.17Proof
Enuncie el Teorema de Eckart-Young y bosqueje la idea de la demostración de que es de hecho la mejor aproximación de rango en norma espectral.
- Ex. 117.18Application
Si tiene valores singulares , ¿cuáles son los valores singulares de ? Calcule y .
- Ex. 117.19Application
Una matrix tiene valores singulares . Usando threshold relativo al mayor singular, ¿cuál es el rango numérico?
- Ex. 117.20Application
Pruebe que una matriz ortogonal tiene todos los valores singulares iguales a 1. ¿Cuál es el número de condicionamiento de una matriz ortogonal?
- Ex. 117.21Modeling
Explique cómo la SVD de la matriz de retornos de acciones identifica "factores de riesgo" en un portafolio. ¿Qué representan económicamente los primeros vectores singulares ?
- Ex. 117.22ApplicationAnswer key
Pruebe que y tienen los mismos valores singulares no nulos.
- Ex. 117.23ApplicationAnswer key
Derive la solución de ridge regression en términos de la SVD de .
- Ex. 117.24ApplicationAnswer key
La curva de rendimiento (yield curve) brasileña tiene datos diarios de rendimientos en 10 madureces diferentes. SVD de esa matriz identifica 3 factores principales. ¿Cuáles son esos factores, económicamente?
- Ex. 117.25Application
¿Para cuáles valores de la SVD truncada de una imagen ocupa menos memoria que la imagen original? Derive la condición general.
- Ex. 117.26Understanding
La norma de Frobenius es igual a:
- Ex. 117.27Application
Si tiene valores singulares , ¿cuáles son los valores singulares de ?
- Ex. 117.28Proof
Demuestre que las columnas de y en la SVD de forman bases ortonormales de los 4 subespacios fundamentales de . Enuncie cada subespacio y su base explícitamente.
- Ex. 117.29ModelingAnswer key
Describa el algoritmo de recomendación por SVD colaborativa: dada una matriz usuario-ítem dispersa, ¿cómo puede la SVD truncada predecir ratings ausentes y recomendar ítems?
- Ex. 117.30Challenge
Describa el algoritmo de SVD randomizada de Halko-Martinsson-Tropp (2011) en 5 pasos. ¿Por qué es ventajoso para matrices grandes de bajo rango numérico? ¿Cuál es la complejidad comparada con SVD exacta?
Fuentes
- Understanding Linear Algebra — David Austin · Grand Valley State University · CC-BY-SA · Referencia principal para geometría, ejemplos y ejercicios de SVD (§6.3–6.4).
- A First Course in Linear Algebra — Rob Beezer · University of Puget Sound · GNU FDL · Demostraciones rigurosas de existencia de SVD, pseudoinversa y subespacios (§SVD).
- Álgebra Linear (REAMAT UFRGS) — Reamat Colaborativo · UFRGS · CC-BY-SA · Ejercicios en PT-BR de compresión, rango numérico y regularización.
- Introduction to Applied Linear Algebra (VMLS) — Boyd, Vandenberghe · Stanford · CC-BY-NC-ND · Contexto de aplicaciones en ML e ingeniería.