Math ClubMath Club
v1 · padrão canônico

Lesson 118 — Principal Component Analysis (PCA)

Hotelling 1933: diagonalize the sample covariance matrix to find directions of maximum variance. Scores, explained variance, scree plot. Connection to SVD. Applications in ML, finance, genomics.

Used in: 3rd year HS (17-18 years old) · German Stochastik LK equiv. · Singapore H2 Math Statistics equiv. · Japanese advanced Math B equiv.

Σ=VΛVT,zk=VkT(xxˉ)\Sigma = V \Lambda V^T, \quad z_k = V_k^T (x - \bar{x})

A PCA (Hotelling, 1933) diagonaliza a matriz de covariância amostral Σ\Sigma dos dados centralizados. Os autovetores vkv_k (colunas de VV) são as direções de máxima variância; os autovalores λk\lambda_k são as variâncias nessas direções. Projetar em VkV_k preserva o máximo da variância total com menor número de dimensões.

Choose your door

Rigorous notation, full derivation, hypotheses

Definição matemática

Setup e covariância amostral

"The covariance matrix Σ\Sigma is always symmetric and positive semidefinite. Its eigenvalues are nonnegative and the eigenvectors form an orthonormal basis of Rd\mathbb{R}^d." — Introduction to Applied Linear Algebra (VMLS), §10.1

Componentes principais

Otimalidade

"The principal components are the eigenvectors of the data covariance matrix, ordered by decreasing eigenvalue. The first principal component captures the maximum variance; successive components capture maximum residual variance subject to orthogonality." — Understanding Linear Algebra, §7.1

Conexão com SVD

Reconstrução e erro de aproximação

x^i=xˉ+k=1Kzikvk\hat{x}_i = \bar{x} + \sum_{k=1}^K z_{ik}\, v_k
what this means · Manter K componentes minimiza o erro de reconstrução quadrático médio entre todas as projeções de posto K (Eckart-Young aplicado a PCA).

Erro de reconstrução: 1Nixix^i2=k>Kλk\frac{1}{N}\sum_i \|x_i - \hat{x}_i\|^2 = \sum_{k > K} \lambda_k.

Exemplos resolvidos

Exercise list

42 exercises · 10 with worked solution (25%)

Application 19Understanding 2Challenge 7Proof 14
  1. Ex. 118.1Understanding

    Seja TL(V,W)T \in \mathcal{L}(V, W). Prove que T=0T = 0 se e somente se todos os valores singulares de TT são 0.

    Select the correct option
    Select an option first
    Show solution
    Se todos os valores singulares são 0 então TT=0T^*T = 0, logo Tv2=TTv,v=0\|Tv\|^2 = \langle T^*Tv, v\rangle = 0 para todo vv, portanto T=0T = 0. A recíproca é imediata. (Resp: A)
    Show step-by-step (with the why)
    1. Defina valores singulares de T como as raízes quadradas dos autovalores de TTT^*T.
    2. Se T=0T = 0: TT=0T^*T = 0, todos os autovalores de TTT^*T são 0.
    3. Se todos os valores singulares são 0: TTv,v=Tv2=0\langle T^*Tv, v\rangle = \|Tv\|^2 = 0 para todo vv.
    4. Logo Tv=0Tv = 0 para todo vv, portanto T=0T = 0.
  2. Ex. 118.2ApplicationAnswer key

    Seja TL(C2)T \in \mathcal{L}(\mathbb{C}^2) definido por T(x,y)=(4y,x)T(x, y) = (-4y, x). Encontre os valores singulares de TT.

    Select the correct option
    Select an option first
    Show solution
    Calcule TT^*: como T(x,y),(u,v)=4yu+xv\langle T(x,y),(u,v)\rangle = -4yu+xv, temos T(u,v)=(v,4u)T^*(u,v)=(v,-4u). Então TT(x,y)=T(4y,x)=(x,4(4y))=(x,16y)T^*T(x,y) = T^*(-4y,x) = (x,-4(-4y)) = (x,16y). Autovalores de TTT^*T: 1 e 16. Valores singulares: 1 e 4. (Resp: A)
    Show step-by-step (with the why)
    1. Identifique TT^* via T(x,y),(u,v)=(x,y),T(u,v)\langle T(x,y),(u,v)\rangle = \langle (x,y), T^*(u,v)\rangle.
    2. (4y,x),(u,v)=4yu+xv=(x,y),(v,4u)\langle (-4y,x),(u,v)\rangle = -4yu + xv = \langle (x,y),(v,-4u)\rangle.
    3. Logo T(u,v)=(v,4u)T^*(u,v)=(v,-4u).
    4. TT(x,y)=T(4y,x)=(x,16y)T^*T(x,y) = T^*(-4y,x)=(x,16y).
    5. Autovalores de TTT^*T: 1 e 16; valores singulares: 1 e 4.
  3. Ex. 118.3Proof

    Seja TL(V,W)T \in \mathcal{L}(V, W) e s>0s > 0. Prove que ss é valor singular de TT se e somente se existem vetores não nulos vVv \in V e wWw \in W tais que Tv=swTv = sw e Tw=svT^*w = sv.

    Select the correct option
    Select an option first
    Show solution
    Se s>0s > 0 é valor singular: TTv=s2vT^*Tv = s^2 v. Defina w=Tv/sw = Tv/s. Então Tv=swTv = sw e Tw=T(Tv/s)=s2v/s=svT^*w = T^*(Tv/s) = s^2v/s = sv. A recíproca: de Tv=swTv = sw e Tw=svT^*w = sv segue TTv=s2vT^*Tv = s^2v. (Resp: A)
  4. Ex. 118.4Application

    Dê um exemplo de TL(C2)T \in \mathcal{L}(\mathbb{C}^2) tal que 0 seja o único autovalor de TT e os valores singulares de TT sejam 5 e 0.

    Select the correct option
    Select an option first
    Show solution
    Tome T(x,y)=(5y,0)T(x,y) = (5y, 0). Então T2(x,y)=T(5y,0)=(0,0)T^2(x,y) = T(5y,0) = (0,0), logo 0 é o único autovalor. TT(x,y)=(0,25y)T^*T(x,y) = (0, 25y), com autovalores 25 e 0, portanto valores singulares 5 e 0. (Resp: A)
  5. Ex. 118.5Application

    Seja TL(V,W)T \in \mathcal{L}(V, W) com maior valor singular s1s_1 e menor valor singular sns_n. Prove que {Tv:vV,v=1}=[sn,s1]\{\|Tv\| : v \in V, \|v\|=1\} = [s_n, s_1].

    Select the correct option
    Select an option first
    Show solution
    Como T=s1,e1f1++sn,enfnT = s_1\langle \cdot, e_1\rangle f_1 + \cdots + s_n\langle \cdot, e_n\rangle f_n (SVD), o máximo de Tv\|Tv\| com v=1\|v\|=1 é s1s_1 (atingido em v=e1v=e_1) e o mínimo é sns_n (atingido em v=env=e_n). Por continuidade da esfera, todos os valores intermediários são atingidos. (Resp: A)
  6. Ex. 118.6Application

    Encontre os valores singulares do operador diferenciação DL(P2(R))D \in \mathcal{L}(\mathcal{P}_2(\mathbb{R})) definido por Dp=pDp = p', com produto interno p,q=01pq\langle p,q\rangle = \int_0^1 pq.

    Select the correct option
    Select an option first
    Show solution
    Com produto interno p,q=01p(x)q(x)dx\langle p,q\rangle = \int_0^1 p(x)q(x)\,dx, o adjunto DD^* é determinado via integração por partes: Dp,q=p(1)q(1)p(0)q(0)p,Dq\langle Dp,q\rangle = p(1)q(1) - p(0)q(0) - \langle p, Dq\rangle. Os valores singulares são as raízes quadradas dos autovalores de DDD^*D restritos a P2\mathcal{P}_2. (Resp: A)
  7. Ex. 118.7Proof

    Seja TL(V)T \in \mathcal{L}(V) auto-adjunto, ou seja F=C\mathbb{F} = \mathbb{C} e TT normal. Se λ1,,λn\lambda_1, \ldots, \lambda_n são os autovalores de TT (com multiplicidade), mostre que os valores singulares de TT são λ1,,λn|\lambda_1|, \ldots, |\lambda_n| em ordem decrescente.

    Select the correct option
    Select an option first
    Show solution
    T normal (ou auto-adjunto): pelo teorema espectral, T=kλk,ekekT = \sum_k \lambda_k \langle \cdot, e_k\rangle e_k. Então TT=kλk2,ekekT^*T = \sum_k |\lambda_k|^2 \langle \cdot, e_k\rangle e_k. Os autovalores de TTT^*T são λk2|\lambda_k|^2, logo valores singulares de T são λk|\lambda_k| em ordem decrescente. (Resp: A)
    Show step-by-step (with the why)
    1. T auto-adjunto ou T normal (complexo): teorema espectral dá base ortonormal de autovetores eke_k.
    2. Escreva T=kλk,ekekT = \sum_k \lambda_k \langle \cdot, e_k\rangle e_k.
    3. Calcule TT=kλk2,ekekT^*T = \sum_k |\lambda_k|^2 \langle \cdot, e_k\rangle e_k.
    4. Autovalores de TTT^*T são λk2|\lambda_k|^2.
    5. Valores singulares de T são λk2=λk\sqrt{|\lambda_k|^2} = |\lambda_k|.
  8. Ex. 118.8Proof

    Seja TL(V,W)T \in \mathcal{L}(V, W) com Tv=s1v,e1f1++smv,emfmTv = s_1\langle v,e_1\rangle f_1 + \cdots + s_m\langle v,e_m\rangle f_m para listas ortonormais ekVe_k \in V, fkWf_k \in W e sk>0s_k > 0 decrescentes. Prove que (a) f1,,fmf_1,\ldots,f_m é base ortonormal de rangeT\text{range}\,T; (b) e1,,eme_1,\ldots,e_m é base ortonormal de (nullT)(\text{null}\,T)^\perp; (c) s1,,sms_1,\ldots,s_m são os valores singulares positivos de TT.

    Select the correct option
    Select an option first
    Show solution
    Da fórmula SVD Tv=kskv,ekfkTv = \sum_k s_k \langle v,e_k\rangle f_k: (a) f1,,fmf_1,\ldots,f_m gera rangeT\text{range}\,T pois todo TvTv é combinação desses vetores; é ortonormal pois fj,fk=sj1sk1Tej,Tek=δjk\langle f_j,f_k\rangle = s_j^{-1}s_k^{-1}\langle Te_j,Te_k\rangle = \delta_{jk}. (b) ek(nullT)e_k \in (\text{null}\,T)^\perp pois TTek=sk2ekT^*Te_k = s_k^2 e_k. (Resp: A)
  9. Ex. 118.9Application

    Seja TL(V,W)T \in \mathcal{L}(V, W). Mostre que TT e TT^* têm os mesmos valores singulares positivos.

    Select the correct option
    Select an option first
    Show solution
    Os valores singulares positivos de TT são as raízes dos autovalores não nulos de TTT^*T; os de TT^* são raízes dos autovalores não nulos de TTTT^*. Mas TTT^*T e TTTT^* têm os mesmos autovalores não nulos (ST e TS têm mesmo espectro não nulo). (Resp: A)
  10. Ex. 118.10Application

    Seja TL(V,W)T \in \mathcal{L}(V, W) com valores singulares s1,,sns_1, \ldots, s_n. Prove que se TT é invertível, então T1T^{-1} tem valores singulares 1/sn,,1/s11/s_n, \ldots, 1/s_1.

    Select the correct option
    Select an option first
    Show solution
    Da SVD T=ksk,ekfkT = \sum_k s_k \langle\cdot,e_k\rangle f_k, como T é invertível todos sk>0s_k > 0 e T1=k1sk,fkekT^{-1} = \sum_k \frac{1}{s_k}\langle\cdot,f_k\rangle e_k. Os valores singulares de T1T^{-1} são 1/sn1/s1>01/s_n \geq \cdots \geq 1/s_1 > 0. (Resp: A)
    Show step-by-step (with the why)
    1. Escreva SVD de T: T=ksk,ekfkT = \sum_k s_k \langle\cdot,e_k\rangle f_k com todos sk>0s_k > 0.
    2. Inverta: T1fk=ek/skT^{-1}f_k = e_k/s_k, portanto T1=k(1/sk),fkekT^{-1} = \sum_k (1/s_k)\langle\cdot,f_k\rangle e_k.
    3. Esta é a SVD de T1T^{-1} com valores singulares 1/sk1/s_k.
    4. Reordene: 1/sn1/s11/s_n \geq \cdots \geq 1/s_1.
  11. Ex. 118.11ProofAnswer key

    Seja TL(V,W)T \in \mathcal{L}(V, W) e v1,,vnv_1, \ldots, v_n base ortonormal de VV, com valores singulares s1,,sns_1, \ldots, s_n. (a) Prove que Tv12++Tvn2=s12++sn2\|Tv_1\|^2 + \cdots + \|Tv_n\|^2 = s_1^2 + \cdots + s_n^2. (b) Se W=VW = V e TT é operador positivo, prove que Tv1,v1++Tvn,vn=s1++sn\langle Tv_1,v_1\rangle + \cdots + \langle Tv_n,v_n\rangle = s_1 + \cdots + s_n.

    Select the correct option
    Select an option first
    Show solution
    Para (a): kTvk2=kTTvk,vk=tr(TT)=ksk2\sum_k \|Tv_k\|^2 = \sum_k \langle T^*Tv_k,v_k\rangle = \text{tr}(T^*T) = \sum_k s_k^2 (traço independe da base). Para (b) T positivo: kTvk,vk=tr(T)=ksk\sum_k \langle Tv_k,v_k\rangle = \text{tr}(T) = \sum_k s_k pois valores singulares de T positivo são seus autovalores. (Resp: A)
  12. Ex. 118.12ChallengeAnswer key

    (a) Dê exemplo de operador TT tal que os valores singulares de T2T^2 não são os quadrados dos valores singulares de TT. (b) Se TL(V)T \in \mathcal{L}(V) é normal, prove que os valores singulares de T2T^2 são os quadrados dos valores singulares de TT.

    Select the correct option
    Select an option first
    Show solution
    Contraexemplo (a): T=(0200)T = \begin{pmatrix}0&2\\0&0\end{pmatrix}. Valores singulares de T: 2, 0. T2=0T^2 = 0, valores singulares de T2T^2: 0, 0. Mas 22=402^2=4 \neq 0. Para (b) T normal: pela parte (a) do ex. 7, valores singulares de T são λk|\lambda_k|; de T² são λk2=λk2|\lambda_k^2| = |\lambda_k|^2. (Resp: A)
  13. Ex. 118.13Proof

    Sejam T1,T2L(V)T_1, T_2 \in \mathcal{L}(V). Prove que T1T_1 e T2T_2 têm os mesmos valores singulares se e somente se existem operadores unitários S1,S2L(V)S_1, S_2 \in \mathcal{L}(V) tais que T1=S1T2S2T_1 = S_1 T_2 S_2.

    Select the correct option
    Select an option first
    Show solution
    (\Rightarrow) Escrevendo SVD de T2=ksk,ekfkT_2 = \sum_k s_k\langle\cdot,e_k\rangle f_k, defina T1=ksk,S2ekS1fkT_1 = \sum_k s_k\langle\cdot,S_2e_k\rangle S_1f_k. (\Leftarrow) Se T1=S1T2S2T_1 = S_1T_2S_2 com S1,S2S_1,S_2 unitários, então T1T1=S2T2T2S2T_1^*T_1 = S_2^*T_2^*T_2S_2, que tem os mesmos autovalores que T2T2T_2^*T_2. (Resp: A)
  14. Ex. 118.14Application

    Seja TL(V,W)T \in \mathcal{L}(V, W) e sns_n o menor valor singular de TT. Prove que snvTvs_n \|v\| \leq \|Tv\| para todo vVv \in V.

    Select the correct option
    Select an option first
    Show solution
    Da SVD: escreva v=kakek+uv = \sum_k a_k e_k + u onde unullTu \in \text{null}\,T. Então Tv2=ksk2ak2sn2kak2sn2v2\|Tv\|^2 = \sum_k s_k^2|a_k|^2 \geq s_n^2\sum_k|a_k|^2 \leq s_n^2\|v\|^2. Tome raiz quadrada. (Resp: A)
  15. Ex. 118.15Application

    Seja TL(V)T \in \mathcal{L}(V) com valores singulares s1sns_1 \geq \cdots \geq s_n. Prove que se λ\lambda é autovalor de TT, então s1λsns_1 \geq |\lambda| \geq s_n.

    Select the correct option
    Select an option first
    Show solution
    Se Tv=λvTv = \lambda v com v=1\|v\|=1: λ=Tv|\lambda| = \|Tv\|. Pelo ex. 4, Tv[sn,s1]\|Tv\| \in [s_n, s_1]. Logo snλs1s_n \leq |\lambda| \leq s_1. (Resp: A)
  16. Ex. 118.16Proof

    Seja TL(V,W)T \in \mathcal{L}(V, W). Prove que (T)=(T)(T^*)^\dagger = (T^\dagger)^*.

    Select the correct option
    Select an option first
    Show solution
    Da SVD T=ksk,ekfkT = \sum_k s_k\langle\cdot,e_k\rangle f_k: T=k1sk,fkekT^\dagger = \sum_k \frac{1}{s_k}\langle\cdot,f_k\rangle e_k, logo (T)=k1sk,ekfk(T^\dagger)^* = \sum_k \frac{1}{s_k}\langle\cdot,e_k\rangle f_k. Por outro lado, T=ksk,fkekT^* = \sum_k s_k\langle\cdot,f_k\rangle e_k e (T)=k1sk,ekfk(T^*)^\dagger = \sum_k \frac{1}{s_k}\langle\cdot,e_k\rangle f_k. Os dois coincidem. (Resp: A)
  17. Ex. 118.17Application

    Seja TL(V)T \in \mathcal{L}(V). Prove que TT é auto-adjunto se e somente se TT^\dagger é auto-adjunto.

    Select the correct option
    Select an option first
    Show solution
    Da SVD de T e do resultado do ex. 16: (T)=(T)(T^\dagger)^* = (T^*)^\dagger. Se TT é auto-adjunto (T=TT^* = T), então (T)=T(T^\dagger)^* = T^\dagger, logo TT^\dagger é auto-adjunto. A recíproca segue analogamente aplicando o mesmo argumento a TT^\dagger. (Resp: A)
  18. Ex. 118.18ProofAnswer key

    Seja TL(V)T \in \mathcal{L}(V). Prove que se tanto TT quanto T-T são operadores positivos, então T=0T = 0.

    Select the correct option
    Select an option first
    Show solution
    Se TT e T-T são positivos: para todo vv, Tv,v0\langle Tv,v\rangle \geq 0 e Tv,v0\langle -Tv,v\rangle \geq 0. Logo Tv,v=0\langle Tv,v\rangle = 0 para todo vv. Operador positivo com forma quadrática nula é zero. (Resp: A)
  19. Ex. 118.19Application

    O operador TL(F4)T \in \mathcal{L}(\mathbb{F}^4) com matriz (2100121001210012)\begin{pmatrix}2&-1&0&0\\-1&2&-1&0\\0&-1&2&-1\\0&0&-1&2\end{pmatrix} na base padrão é positivo e invertível. Justifique.

    Select the correct option
    Select an option first
    Show solution
    A matriz é simétrica (auto-adjunta em R\mathbb{R}). Seus autovalores são λk=22cos(kπ/5)\lambda_k = 2 - 2\cos(k\pi/5) para k=1,,4k=1,\ldots,4 (matriz do Laplaciano discreto), todos positivos. Logo é operador positivo. Determinante positivo implica invertibilidade. (Resp: A)
  20. Ex. 118.20Application

    Seja nn inteiro positivo e TL(Fn)T \in \mathcal{L}(\mathbb{F}^n) o operador cuja matriz (na base padrão) tem todas as entradas iguais a 1. Mostre que TT é um operador positivo.

    Select the correct option
    Select an option first
    Show solution
    A matriz J de todos 1s é simétrica (auto-adjunta). Tv,v=(ivi)20\langle Tv,v\rangle = (\sum_i v_i)^2 \geq 0 para todo vv. Logo T é positivo. Os autovalores são n (multiplicidade 1, autovetor (1,,1)(1,\ldots,1)) e 0 (multiplicidade n-1). (Resp: A)
  21. Ex. 118.21Challenge

    Seja nn inteiro com n>1n > 1. Mostre que existe uma matriz n×nn \times n com todas as entradas positivas e A=AA = A^*, mas cujo operador associado não é positivo.

    Select the correct option
    Select an option first
    Show solution
    Para n=2n=2: A=(1221)A = \begin{pmatrix}1&2\\2&1\end{pmatrix}. Entradas positivas, A=AA=A^*. Autovalores: 1±2=31\pm2 = 3 e 1-1. Como 1<0-1 < 0, A não é positivo. (Resp: A)
  22. Ex. 118.22Proof

    Seja TL(V)T \in \mathcal{L}(V) auto-adjunto. Prove que TT é um operador positivo se e somente se para toda base ortonormal e1,,ene_1, \ldots, e_n de VV, todas as entradas diagonais da matriz de TT nessa base são não-negativas.

    Select the correct option
    Select an option first
    Show solution
    (\Rightarrow) Se T positivo: Tek,ek0\langle Te_k,e_k\rangle \geq 0 para qualquer base ortonormal. (\Leftarrow) Pelo teorema espectral, escreva T=jλjPjT = \sum_j \lambda_j P_j; a condição das diagonais implica jλjek,vj20\sum_j \lambda_j |\langle e_k,v_j\rangle|^2 \geq 0 para toda base. Isso força λj0\lambda_j \geq 0. (Resp: A)
  23. Ex. 118.23Application

    Prove que a soma de dois operadores positivos em VV é um operador positivo.

    Select the correct option
    Select an option first
    Show solution
    Sejam S,TS, T positivos. Para todo vv: (S+T)v,v=Sv,v+Tv,v0+0=0\langle (S+T)v, v\rangle = \langle Sv,v\rangle + \langle Tv,v\rangle \geq 0 + 0 = 0. Além disso (S+T)=S+T=S+T(S+T)^* = S^* + T^* = S + T. Logo S+TS+T é auto-adjunto e positivo. (Resp: A)
  24. Ex. 118.24ApplicationAnswer key

    Seja SL(V)S \in \mathcal{L}(V) um operador positivo invertível e TL(V)T \in \mathcal{L}(V) um operador positivo. Prove que S+TS + T é invertível.

    Select the correct option
    Select an option first
    Show solution
    Para todo v0v \neq 0: (S+T)v,v=Sv,v+Tv,v\langle (S+T)v,v\rangle = \langle Sv,v\rangle + \langle Tv,v\rangle. Como S é invertível e positivo, Sv,v>0\langle Sv,v\rangle > 0 (todo autovalor positivo). Logo (S+T)v,v>0\langle (S+T)v,v\rangle > 0, portanto (S+T)v0(S+T)v \neq 0 para v0v \neq 0; S+T é injetivo e logo invertível. (Resp: A)
  25. Ex. 118.25Proof

    Seja TL(V)T \in \mathcal{L}(V). Prove que TT é operador positivo se e somente se a pseudoinversa TT^\dagger é operador positivo.

    Select the correct option
    Select an option first
    Show solution
    Da SVD de T positivo: T=kλk,ekekT = \sum_k \lambda_k \langle\cdot,e_k\rangle e_k com λk0\lambda_k \geq 0. Então T=k:λk>01λk,ekekT^\dagger = \sum_{k: \lambda_k>0} \frac{1}{\lambda_k}\langle\cdot,e_k\rangle e_k, que também é positivo (autovalores positivos). A recíproca segue aplicando o mesmo argumento a TT^\dagger e usando (T)=T(T^\dagger)^\dagger = T. (Resp: A)
  26. Ex. 118.26Application

    Seja TL(V)T \in \mathcal{L}(V) operador positivo e SL(W,V)S \in \mathcal{L}(W, V). Prove que STSS^*TS é operador positivo em WW.

    Select the correct option
    Select an option first
    Show solution
    Para todo wWw \in W: STSw,w=TSw,Sw0\langle S^*TSw, w\rangle = \langle TSw, Sw\rangle \geq 0 pois T positivo. Além disso (STS)=STS=STS(S^*TS)^* = S^*T^*S = S^*TS (T auto-adjunto). Logo STSS^*TS é auto-adjunto e positivo em W. (Resp: A)
    Show step-by-step (with the why)
    1. Calcule (STS)=ST(S)=STS(S^*TS)^* = S^*T^*(S^*)^* = S^*TS (auto-adjunto).
    2. Para qualquer wWw \in W: STSw,w=Sw,TSw=TSw,Sw\langle S^*TSw, w\rangle = \langle Sw, T^*Sw\rangle = \langle TSw, Sw\rangle.
    3. Como SwVSw \in V e T é positivo: TSw,Sw0\langle TSw, Sw\rangle \geq 0.
    4. Logo STSS^*TS é positivo em W.
  27. Ex. 118.27Application

    Seja TT operador positivo em VV e v,wVv, w \in V tais que Tv=wTv = w e Tw=vTw = v. Prove que v=wv = w.

    Select the correct option
    Select an option first
    Show solution
    De Tv=wTv = w e Tw=vTw = v: T(vw)=wv=(vw)T(v-w) = w-v = -(v-w). Logo vwv-w é autovetor de T com autovalor 1-1. Mas T positivo implica todos os autovalores não-negativos; contradição com 1<0-1 < 0, a menos que vw=0v-w=0. (Resp: A)
  28. Ex. 118.28Application

    Seja TT operador positivo em VV e UU subespaço de VV invariante sob TT. Prove que TUL(U)T|_U \in \mathcal{L}(U) é operador positivo em UU.

    Select the correct option
    Select an option first
    Show solution
    T|U está bem definido pois U é T-invariante. Para uUu \in U: TUu,u=Tu,u0\langle T|_U u, u\rangle = \langle Tu, u\rangle \geq 0 pois T é positivo. Além disso (TU)=TU=TU(T|_U)^* = T^*|_U = T|_U (pois T auto-adjunto). Logo T|U é positivo. (Resp: A)
  29. Ex. 118.29ApplicationAnswer key

    Seja TL(V)T \in \mathcal{L}(V) operador positivo. Prove que TkT^k é operador positivo para todo inteiro positivo kk.

    Select the correct option
    Select an option first
    Show solution
    Por indução: T positivo (base). Se TkT^k é positivo, então Tk+1=TTkT^{k+1} = T \cdot T^k. Para todo vv: Tk+1v,v=T(Tkv),TkvTkv,v/Tkv20\langle T^{k+1}v,v\rangle = \langle T(T^kv),T^kv\rangle \cdot \langle T^kv,v\rangle / \|T^kv\|^2 \geq 0. Alternativa direta: autovalores de TkT^k são λjk0\lambda_j^k \geq 0. (Resp: A)
  30. Ex. 118.30UnderstandingAnswer key

    Seja TL(V)T \in \mathcal{L}(V) auto-adjunto e αR\alpha \in \mathbb{R}. (a) Prove que TαIT - \alpha I é positivo sse α\alpha é menor ou igual a todo autovalor de TT. (b) Prove que αIT\alpha I - T é positivo sse α\alpha é maior ou igual a todo autovalor de TT.

    Select the correct option
    Select an option first
    Show solution
    T auto-adjunto tem autovalores reais λj\lambda_j. TαIT - \alpha I tem autovalores λjα\lambda_j - \alpha. É positivo sse todos λjα0\lambda_j - \alpha \geq 0, i.e., αλj\alpha \leq \lambda_j para todo jj. Analogamente para αIT\alpha I - T. (Resp: A)
  31. Ex. 118.31Proof

    Seja TT operador positivo em VV e v1,,vmVv_1, \ldots, v_m \in V. Prove que j=1mk=1mTvk,vj0\sum_{j=1}^m \sum_{k=1}^m \langle Tv_k, v_j\rangle \geq 0.

    Select the correct option
    Select an option first
    Show solution
    Seja u=v1++vmu = v_1 + \cdots + v_m. Então j=1mk=1mTvk,vj=T(kvk),jvj=Tu,u0\sum_{j=1}^m\sum_{k=1}^m \langle Tv_k,v_j\rangle = \langle T(\sum_k v_k), \sum_j v_j\rangle = \langle Tu,u\rangle \geq 0 pois T positivo. (Resp: A)
    Show step-by-step (with the why)
    1. Defina u=k=1mvku = \sum_{k=1}^m v_k.
    2. Expanda Tu,u=T(kvk),jvj\langle Tu, u\rangle = \langle T(\sum_k v_k), \sum_j v_j\rangle.
    3. Pela bilinearidade: =jkTvk,vj= \sum_j\sum_k \langle Tv_k, v_j\rangle.
    4. T positivo implica Tu,u0\langle Tu,u\rangle \geq 0.
  32. Ex. 118.32Challenge

    Seja TL(V)T \in \mathcal{L}(V) auto-adjunto. Prove que existem operadores positivos A,BL(V)A, B \in \mathcal{L}(V) tais que T=ABT = A - B, TT=A+B\sqrt{T^*T} = A + B e AB=BA=0AB = BA = 0.

    Select the correct option
    Select an option first
    Show solution
    Pelo teorema espectral: T=jλjPjT = \sum_j \lambda_j P_j. Defina A=λj>0λjPjA = \sum_{\lambda_j>0}\lambda_j P_j e B=λj<0(λj)PjB = \sum_{\lambda_j<0}(-\lambda_j)P_j. Então A e B são positivos, T=ABT = A-B, TT=A+B\sqrt{T^*T} = A+B (pois λjPj|\lambda_j|P_j), e AB=BA=0AB=BA=0 (projetores em autoespaços diferentes são ortogonais). (Resp: A)
  33. Ex. 118.33Proof

    Seja TT operador positivo em VV. Prove que null(T)=nullT\text{null}(\sqrt{T}) = \text{null}\,T e range(T)=rangeT\text{range}(\sqrt{T}) = \text{range}\,T.

    Select the correct option
    Select an option first
    Show solution
    Pelo teorema espectral: T=jλjPjT = \sum_j \lambda_j P_j e T=jλjPj\sqrt{T} = \sum_j \sqrt{\lambda_j} P_j. Então null(T)=λj=0range(Pj)=null(T)\text{null}(\sqrt{T}) = \bigoplus_{\lambda_j=0}\text{range}(P_j) = \text{null}(T). Similarmente para o range. (Resp: A)
  34. Ex. 118.34ChallengeAnswer key

    Seja TL(V)T \in \mathcal{L}(V) operador positivo. Prove que existe polinômio pp com coeficientes reais tal que T=p(T)\sqrt{T} = p(T).

    Select the correct option
    Select an option first
    Show solution
    T positivo tem autovalores reais não-negativos λ1,,λm\lambda_1, \ldots, \lambda_m (distintos). Pelo teorema de interpolação de Lagrange, existe polinômio real p com p(λj)=λjp(\lambda_j) = \sqrt{\lambda_j} para todo j. Então p(T)=jp(λj)Pj=jλjPj=Tp(T) = \sum_j p(\lambda_j) P_j = \sum_j \sqrt{\lambda_j} P_j = \sqrt{T}. (Resp: A)
  35. Ex. 118.35Proof

    Sejam SS e TT operadores positivos em VV. Prove que STST é operador positivo se e somente se SS e TT comutam.

    Select the correct option
    Select an option first
    Show solution
    (\Leftarrow) Se ST=TS: (ST)=TS=TS=ST(ST)^* = T^*S^* = TS = ST (auto-adjunto). STv,v=T1/2ST1/2(T1/2v),T1/2v\langle STv,v\rangle = \langle T^{1/2}ST^{1/2}(T^{-1/2}v), T^{1/2}v\rangle — use que T1/2ST1/2T^{1/2}ST^{1/2} é positivo (ex.26) e argumento de congruência. (\Rightarrow) Se ST é positivo, então ST é auto-adjunto: ST=(ST)=TSST = (ST)^* = TS. (Resp: A)
  36. Ex. 118.36Application

    Mostre que o operador identidade em F2\mathbb{F}^2 tem infinitas raízes quadradas auto-adjuntas.

    Select the correct option
    Select an option first
    Show solution
    Uma raiz quadrada auto-adjunta de I satisfaz A2=IA^2 = I e A=AA^* = A. Toda matriz da forma A=(cosθsinθsinθcosθ)A = \begin{pmatrix}\cos\theta & \sin\theta \\ \sin\theta & -\cos\theta\end{pmatrix} satisfaz A2=IA^2 = I e A=AA=A^* para qualquer θ\theta. São infinitas. (Resp: A)
  37. Ex. 118.37ProofAnswer key

    Seja TL(V)T \in \mathcal{L}(V) e e1,,ene_1, \ldots, e_n base ortonormal de VV. Prove que TT é operador positivo se e somente se existem v1,,vnVv_1, \ldots, v_n \in V com Tek,ej=vk,vj\langle Te_k, e_j\rangle = \langle v_k, v_j\rangle para todos j,kj, k.

    Select the correct option
    Select an option first
    Show solution
    (\Rightarrow) T positivo: T=TTT = \sqrt{T}\sqrt{T}, tome vk=Tekv_k = \sqrt{T}e_k. Então Tek,ej=Tek,Tej=vk,vj\langle Te_k,e_j\rangle = \langle \sqrt{T}e_k,\sqrt{T}e_j\rangle = \langle v_k,v_j\rangle. (\Leftarrow) A matriz de Gram [vk,vj][\langle v_k,v_j\rangle] é sempre PSD, portanto T é PSD e auto-adjunto, logo positivo. (Resp: A)
  38. Ex. 118.38Challenge

    Seja a matriz de Hilbert n×nn \times n com entrada na linha jj, coluna kk igual a 1j+k1\frac{1}{j+k-1}. Prove que o operador em Fn\mathbb{F}^n associado a essa matriz é positivo e invertível.

    Select the correct option
    Select an option first
    Show solution
    A matriz de Hilbert é simétrica. Entrada (j,k)(j,k): Hjk=01xj1xk1dx=xj1,xk1H_{jk} = \int_0^1 x^{j-1}x^{k-1}\,dx = \langle x^{j-1},x^{k-1}\rangle no produto interno de L2[0,1]L^2[0,1]. É portanto uma matriz de Gram de vetores linearmente independentes 1,x,,xn11, x, \ldots, x^{n-1}. Toda matriz de Gram de vetores LI é positiva invertível. (Resp: A)
    Show step-by-step (with the why)
    1. Identifique Hjk=1j+k1=01xj+k2dx=01xj1xk1dxH_{jk} = \frac{1}{j+k-1} = \int_0^1 x^{j+k-2}\,dx = \int_0^1 x^{j-1}x^{k-1}\,dx.
    2. Com produto interno f,g=01fgdx\langle f,g\rangle = \int_0^1 fg\,dx: Hjk=ej,ekH_{jk} = \langle e_j, e_k\rangle onde ej=xj1e_j = x^{j-1}.
    3. H é a matriz de Gram de 1,x,,xn11, x, \ldots, x^{n-1} em L2[0,1]L^2[0,1].
    4. Estes polinômios são linearmente independentes, portanto a matriz de Gram é positiva definitiva.
  39. Ex. 118.39Application

    Seja TL(V)T \in \mathcal{L}(V) operador positivo e uVu \in V com u=1\|u\| = 1 e TuTv\|Tu\| \geq \|Tv\| para todo vVv \in V com v=1\|v\| = 1. Mostre que uu é autovetor de TT correspondente ao maior autovalor de TT.

    Select the correct option
    Select an option first
    Show solution
    T positivo: valores singulares de T = autovalores λ1λn0\lambda_1 \geq \cdots \geq \lambda_n \geq 0. Tu=s1=λ1\|Tu\| = s_1 = \lambda_1 (máximo atingido) implica uu é autovetor do maior valor singular = maior autovalor λ1\lambda_1. (Resp: A)
  40. Ex. 118.40ChallengeAnswer key

    Para TL(V)T \in \mathcal{L}(V) e u,vVu, v \in V, defina u,vT=Tu,v\langle u,v\rangle_T = \langle Tu,v\rangle. (a) Prove que ,T\langle \cdot,\cdot\rangle_T é produto interno sse TT é operador positivo invertível. (b) Prove que todo produto interno em VV é da forma ,T\langle\cdot,\cdot\rangle_T para algum operador positivo invertível TT.

    Select the correct option
    Select an option first
    Show solution
    (a) Para produto interno: simetria (TT auto-adjunto), positividade (TT positivo) e definida positiva (TT invertível). (b) Dado produto interno B(,)B(\cdot,\cdot) em V, pelo teorema de representação de Riesz existe TT auto-adjunto com B(u,v)=Tu,vB(u,v) = \langle Tu,v\rangle; T é positivo invertível pois B é produto interno. (Resp: A)
  41. Ex. 118.41Proof

    Sejam SS e TT operadores positivos em VV. Prove que null(S+T)=nullSnullT\text{null}(S + T) = \text{null}\,S \cap \text{null}\,T.

    Select the correct option
    Select an option first
    Show solution
    (\supset) Se vnullSnullTv \in \text{null}\,S \cap \text{null}\,T: (S+T)v=Sv+Tv=0(S+T)v = Sv + Tv = 0. (\subset) Se (S+T)v=0(S+T)v=0: (S+T)v,v=Sv,v+Tv,v=0\langle (S+T)v,v\rangle = \langle Sv,v\rangle + \langle Tv,v\rangle = 0. Como Sv,v0\langle Sv,v\rangle \geq 0 e Tv,v0\langle Tv,v\rangle \geq 0, ambos devem ser zero, logo Sv=Tv=0Sv = Tv = 0. (Resp: A)
  42. Ex. 118.42Challenge

    O operador segunda derivada T=D2T = D^2 do Exercício 31(b) da Seção 7A (em funções com condições de contorno adequadas) satisfaz que T-T é operador positivo. Mostre isso via integração por partes.

    Select the correct option
    Select an option first
    Show solution
    Via integração por partes com condições de contorno que fazem os termos de borda zero (ex: f(0)=f(1)=0f(0)=f(1)=0): D2f,f=01ffdx=01(f)2dx0\langle -D^2f, f\rangle = -\int_0^1 f''f\,dx = \int_0^1 (f')^2\,dx \geq 0. Autovalores de D2-D^2 são k2π2>0k^2\pi^2 > 0. (Resp: A)

Fontes

  • Understanding Linear Algebra — David Austin · Grand Valley State University · CC-BY-SA · Capítulo 7: PCA via SVD, variância explicada, scree plot, aplicações.
  • Introduction to Applied Linear Algebra (VMLS) — Stephen Boyd, Lieven Vandenberghe · Stanford University · CC-BY-NC-ND · Cap. 10: teoria rigorosa de PCA, otimalidade, conexão SVD, aplicações ML.
  • OpenIntro Statistics — Diez, Çetinkaya-Rundel, Barr · CC-BY-SA · §8.3: perspectiva estatística, variância explicada, interpretação de componentes, exercícios de dados reais.

Updated on 2026-05-06 · Author(s): Clube da Matemática

Found an error? Open an issue on GitHub or submit a PR — open source forever.