Clube da MatemáticaClube da Matemática
v1 · padrão canônico

Lição 118 — Análise de Componentes Principais (PCA)

Hotelling 1933: diagonalizar a covariância para encontrar direções de máxima variância. Scores, variância explicada, scree plot. Conexão com SVD. Aplicação em ML, finanças, genômica.

Usado em: 3.º ano do EM (17-18 anos) · Equiv. Stochastik LK alemão · Equiv. H2 Math Statistics singapurense · Equiv. Math B japonês avançado

Σ=VΛVT,zk=VkT(x−xˉ)\Sigma = V \Lambda V^T, \quad z_k = V_k^T (x - \bar{x})

A PCA (Hotelling, 1933) diagonaliza a matriz de covariância amostral Σ\Sigma dos dados centralizados. Os autovetores vkv_k (colunas de VV) são as direções de máxima variância; os autovalores λk\lambda_k são as variâncias nessas direções. Projetar em VkV_k preserva o máximo da variância total com menor número de dimensões.

Escolha sua porta

Notação rigorosa, derivação completa, hipóteses

Definição matemática

Setup e covariância amostral

"The covariance matrix Σ\Sigma is always symmetric and positive semidefinite. Its eigenvalues are nonnegative and the eigenvectors form an orthonormal basis of Rd\mathbb{R}^d." — Introduction to Applied Linear Algebra (VMLS), §10.1

Componentes principais

Otimalidade

"The principal components are the eigenvectors of the data covariance matrix, ordered by decreasing eigenvalue. The first principal component captures the maximum variance; successive components capture maximum residual variance subject to orthogonality." — Understanding Linear Algebra, §7.1

Conexão com SVD

Reconstrução e erro de aproximação

x^i=xˉ+∑k=1Kzik vk\hat{x}_i = \bar{x} + \sum_{k=1}^K z_{ik}\, v_k
o que isso quer dizer · Manter K componentes minimiza o erro de reconstrução quadrático médio entre todas as projeções de posto K (Eckart-Young aplicado a PCA).

Erro de reconstrução: 1N∑i∥xi−x^i∥2=∑k>Kλk\frac{1}{N}\sum_i \|x_i - \hat{x}_i\|^2 = \sum_{k > K} \lambda_k.

Exemplos resolvidos

Lista de exercícios

42 exercícios · 10 com solução desenvolvida (25%)

Aplicação 19Compreensão 2Desafio 7Demonstração 14
  1. Ex. 118.1Compreensão

    Seja T∈L(V,W)T \in \mathcal{L}(V, W). Prove que T=0T = 0 se e somente se todos os valores singulares de TT são 0.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Se todos os valores singulares são 0 então T∗T=0T^*T = 0, logo ∥Tv∥2=⟨T∗Tv,v⟩=0\|Tv\|^2 = \langle T^*Tv, v\rangle = 0 para todo vv, portanto T=0T = 0. A recíproca é imediata. (Resp: A)
    Ver passo a passo (com o porquê)
    1. Defina valores singulares de T como as raízes quadradas dos autovalores de T∗TT^*T.
    2. Se T=0T = 0: T∗T=0T^*T = 0, todos os autovalores de T∗TT^*T são 0.
    3. Se todos os valores singulares são 0: ⟨T∗Tv,v⟩=∥Tv∥2=0\langle T^*Tv, v\rangle = \|Tv\|^2 = 0 para todo vv.
    4. Logo Tv=0Tv = 0 para todo vv, portanto T=0T = 0.
  2. Ex. 118.2AplicaçãoGabarito

    Seja T∈L(C2)T \in \mathcal{L}(\mathbb{C}^2) definido por T(x,y)=(−4y,x)T(x, y) = (-4y, x). Encontre os valores singulares de TT.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Calcule T∗T^*: como ⟨T(x,y),(u,v)⟩=−4yu+xv\langle T(x,y),(u,v)\rangle = -4yu+xv, temos T∗(u,v)=(v,−4u)T^*(u,v)=(v,-4u). Então T∗T(x,y)=T∗(−4y,x)=(x,−4(−4y))=(x,16y)T^*T(x,y) = T^*(-4y,x) = (x,-4(-4y)) = (x,16y). Autovalores de T∗TT^*T: 1 e 16. Valores singulares: 1 e 4. (Resp: A)
    Ver passo a passo (com o porquê)
    1. Identifique T∗T^* via ⟨T(x,y),(u,v)⟩=⟨(x,y),T∗(u,v)⟩\langle T(x,y),(u,v)\rangle = \langle (x,y), T^*(u,v)\rangle.
    2. ⟨(−4y,x),(u,v)⟩=−4yu+xv=⟨(x,y),(v,−4u)⟩\langle (-4y,x),(u,v)\rangle = -4yu + xv = \langle (x,y),(v,-4u)\rangle.
    3. Logo T∗(u,v)=(v,−4u)T^*(u,v)=(v,-4u).
    4. T∗T(x,y)=T∗(−4y,x)=(x,16y)T^*T(x,y) = T^*(-4y,x)=(x,16y).
    5. Autovalores de T∗TT^*T: 1 e 16; valores singulares: 1 e 4.
  3. Ex. 118.3Demonstração

    Seja T∈L(V,W)T \in \mathcal{L}(V, W) e s>0s > 0. Prove que ss é valor singular de TT se e somente se existem vetores não nulos v∈Vv \in V e w∈Ww \in W tais que Tv=swTv = sw e T∗w=svT^*w = sv.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Se s>0s > 0 é valor singular: T∗Tv=s2vT^*Tv = s^2 v. Defina w=Tv/sw = Tv/s. Então Tv=swTv = sw e T∗w=T∗(Tv/s)=s2v/s=svT^*w = T^*(Tv/s) = s^2v/s = sv. A recíproca: de Tv=swTv = sw e T∗w=svT^*w = sv segue T∗Tv=s2vT^*Tv = s^2v. (Resp: A)
  4. Ex. 118.4Aplicação

    Dê um exemplo de T∈L(C2)T \in \mathcal{L}(\mathbb{C}^2) tal que 0 seja o único autovalor de TT e os valores singulares de TT sejam 5 e 0.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Tome T(x,y)=(5y,0)T(x,y) = (5y, 0). Então T2(x,y)=T(5y,0)=(0,0)T^2(x,y) = T(5y,0) = (0,0), logo 0 é o único autovalor. T∗T(x,y)=(0,25y)T^*T(x,y) = (0, 25y), com autovalores 25 e 0, portanto valores singulares 5 e 0. (Resp: A)
  5. Ex. 118.5Aplicação

    Seja T∈L(V,W)T \in \mathcal{L}(V, W) com maior valor singular s1s_1 e menor valor singular sns_n. Prove que {∥Tv∥:v∈V,∥v∥=1}=[sn,s1]\{\|Tv\| : v \in V, \|v\|=1\} = [s_n, s_1].

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Como T=s1⟨⋅,e1⟩f1+⋯+sn⟨⋅,en⟩fnT = s_1\langle \cdot, e_1\rangle f_1 + \cdots + s_n\langle \cdot, e_n\rangle f_n (SVD), o máximo de ∥Tv∥\|Tv\| com ∥v∥=1\|v\|=1 é s1s_1 (atingido em v=e1v=e_1) e o mínimo é sns_n (atingido em v=env=e_n). Por continuidade da esfera, todos os valores intermediários são atingidos. (Resp: A)
  6. Ex. 118.6Aplicação

    Encontre os valores singulares do operador diferenciação D∈L(P2(R))D \in \mathcal{L}(\mathcal{P}_2(\mathbb{R})) definido por Dp=p′Dp = p', com produto interno ⟨p,q⟩=∫01pq\langle p,q\rangle = \int_0^1 pq.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Com produto interno ⟨p,q⟩=∫01p(x)q(x) dx\langle p,q\rangle = \int_0^1 p(x)q(x)\,dx, o adjunto D∗D^* é determinado via integração por partes: ⟨Dp,q⟩=p(1)q(1)−p(0)q(0)−⟨p,Dq⟩\langle Dp,q\rangle = p(1)q(1) - p(0)q(0) - \langle p, Dq\rangle. Os valores singulares são as raízes quadradas dos autovalores de D∗DD^*D restritos a P2\mathcal{P}_2. (Resp: A)
  7. Ex. 118.7Demonstração

    Seja T∈L(V)T \in \mathcal{L}(V) auto-adjunto, ou seja F=C\mathbb{F} = \mathbb{C} e TT normal. Se λ1,…,λn\lambda_1, \ldots, \lambda_n são os autovalores de TT (com multiplicidade), mostre que os valores singulares de TT são ∣λ1∣,…,∣λn∣|\lambda_1|, \ldots, |\lambda_n| em ordem decrescente.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    T normal (ou auto-adjunto): pelo teorema espectral, T=∑kλk⟨⋅,ek⟩ekT = \sum_k \lambda_k \langle \cdot, e_k\rangle e_k. Então T∗T=∑k∣λk∣2⟨⋅,ek⟩ekT^*T = \sum_k |\lambda_k|^2 \langle \cdot, e_k\rangle e_k. Os autovalores de T∗TT^*T são ∣λk∣2|\lambda_k|^2, logo valores singulares de T são ∣λk∣|\lambda_k| em ordem decrescente. (Resp: A)
    Ver passo a passo (com o porquê)
    1. T auto-adjunto ou T normal (complexo): teorema espectral dá base ortonormal de autovetores eke_k.
    2. Escreva T=∑kλk⟨⋅,ek⟩ekT = \sum_k \lambda_k \langle \cdot, e_k\rangle e_k.
    3. Calcule T∗T=∑k∣λk∣2⟨⋅,ek⟩ekT^*T = \sum_k |\lambda_k|^2 \langle \cdot, e_k\rangle e_k.
    4. Autovalores de T∗TT^*T são ∣λk∣2|\lambda_k|^2.
    5. Valores singulares de T são ∣λk∣2=∣λk∣\sqrt{|\lambda_k|^2} = |\lambda_k|.
  8. Ex. 118.8Demonstração

    Seja T∈L(V,W)T \in \mathcal{L}(V, W) com Tv=s1⟨v,e1⟩f1+⋯+sm⟨v,em⟩fmTv = s_1\langle v,e_1\rangle f_1 + \cdots + s_m\langle v,e_m\rangle f_m para listas ortonormais ek∈Ve_k \in V, fk∈Wf_k \in W e sk>0s_k > 0 decrescentes. Prove que (a) f1,…,fmf_1,\ldots,f_m é base ortonormal de range T\text{range}\,T; (b) e1,…,eme_1,\ldots,e_m é base ortonormal de (null T)⊥(\text{null}\,T)^\perp; (c) s1,…,sms_1,\ldots,s_m são os valores singulares positivos de TT.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Da fórmula SVD Tv=∑ksk⟨v,ek⟩fkTv = \sum_k s_k \langle v,e_k\rangle f_k: (a) f1,…,fmf_1,\ldots,f_m gera range T\text{range}\,T pois todo TvTv é combinação desses vetores; é ortonormal pois ⟨fj,fk⟩=sj−1sk−1⟨Tej,Tek⟩=δjk\langle f_j,f_k\rangle = s_j^{-1}s_k^{-1}\langle Te_j,Te_k\rangle = \delta_{jk}. (b) ek∈(null T)⊥e_k \in (\text{null}\,T)^\perp pois T∗Tek=sk2ekT^*Te_k = s_k^2 e_k. (Resp: A)
  9. Ex. 118.9Aplicação

    Seja T∈L(V,W)T \in \mathcal{L}(V, W). Mostre que TT e T∗T^* têm os mesmos valores singulares positivos.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Os valores singulares positivos de TT são as raízes dos autovalores não nulos de T∗TT^*T; os de T∗T^* são raízes dos autovalores não nulos de TT∗TT^*. Mas T∗TT^*T e TT∗TT^* têm os mesmos autovalores não nulos (ST e TS têm mesmo espectro não nulo). (Resp: A)
  10. Ex. 118.10Aplicação

    Seja T∈L(V,W)T \in \mathcal{L}(V, W) com valores singulares s1,…,sns_1, \ldots, s_n. Prove que se TT é invertível, então T−1T^{-1} tem valores singulares 1/sn,…,1/s11/s_n, \ldots, 1/s_1.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Da SVD T=∑ksk⟨⋅,ek⟩fkT = \sum_k s_k \langle\cdot,e_k\rangle f_k, como T é invertível todos sk>0s_k > 0 e T−1=∑k1sk⟨⋅,fk⟩ekT^{-1} = \sum_k \frac{1}{s_k}\langle\cdot,f_k\rangle e_k. Os valores singulares de T−1T^{-1} são 1/sn≥⋯≥1/s1>01/s_n \geq \cdots \geq 1/s_1 > 0. (Resp: A)
    Ver passo a passo (com o porquê)
    1. Escreva SVD de T: T=∑ksk⟨⋅,ek⟩fkT = \sum_k s_k \langle\cdot,e_k\rangle f_k com todos sk>0s_k > 0.
    2. Inverta: T−1fk=ek/skT^{-1}f_k = e_k/s_k, portanto T−1=∑k(1/sk)⟨⋅,fk⟩ekT^{-1} = \sum_k (1/s_k)\langle\cdot,f_k\rangle e_k.
    3. Esta é a SVD de T−1T^{-1} com valores singulares 1/sk1/s_k.
    4. Reordene: 1/sn≥⋯≥1/s11/s_n \geq \cdots \geq 1/s_1.
  11. Ex. 118.11DemonstraçãoGabarito

    Seja T∈L(V,W)T \in \mathcal{L}(V, W) e v1,…,vnv_1, \ldots, v_n base ortonormal de VV, com valores singulares s1,…,sns_1, \ldots, s_n. (a) Prove que ∥Tv1∥2+⋯+∥Tvn∥2=s12+⋯+sn2\|Tv_1\|^2 + \cdots + \|Tv_n\|^2 = s_1^2 + \cdots + s_n^2. (b) Se W=VW = V e TT é operador positivo, prove que ⟨Tv1,v1⟩+⋯+⟨Tvn,vn⟩=s1+⋯+sn\langle Tv_1,v_1\rangle + \cdots + \langle Tv_n,v_n\rangle = s_1 + \cdots + s_n.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Para (a): ∑k∥Tvk∥2=∑k⟨T∗Tvk,vk⟩=tr(T∗T)=∑ksk2\sum_k \|Tv_k\|^2 = \sum_k \langle T^*Tv_k,v_k\rangle = \text{tr}(T^*T) = \sum_k s_k^2 (traço independe da base). Para (b) T positivo: ∑k⟨Tvk,vk⟩=tr(T)=∑ksk\sum_k \langle Tv_k,v_k\rangle = \text{tr}(T) = \sum_k s_k pois valores singulares de T positivo são seus autovalores. (Resp: A)
  12. Ex. 118.12DesafioGabarito

    (a) Dê exemplo de operador TT tal que os valores singulares de T2T^2 não são os quadrados dos valores singulares de TT. (b) Se T∈L(V)T \in \mathcal{L}(V) é normal, prove que os valores singulares de T2T^2 são os quadrados dos valores singulares de TT.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Contraexemplo (a): T=(0200)T = \begin{pmatrix}0&2\\0&0\end{pmatrix}. Valores singulares de T: 2, 0. T2=0T^2 = 0, valores singulares de T2T^2: 0, 0. Mas 22=4≠02^2=4 \neq 0. Para (b) T normal: pela parte (a) do ex. 7, valores singulares de T são ∣λk∣|\lambda_k|; de T² são ∣λk2∣=∣λk∣2|\lambda_k^2| = |\lambda_k|^2. (Resp: A)
  13. Ex. 118.13Demonstração

    Sejam T1,T2∈L(V)T_1, T_2 \in \mathcal{L}(V). Prove que T1T_1 e T2T_2 têm os mesmos valores singulares se e somente se existem operadores unitários S1,S2∈L(V)S_1, S_2 \in \mathcal{L}(V) tais que T1=S1T2S2T_1 = S_1 T_2 S_2.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    (⇒\Rightarrow) Escrevendo SVD de T2=∑ksk⟨⋅,ek⟩fkT_2 = \sum_k s_k\langle\cdot,e_k\rangle f_k, defina T1=∑ksk⟨⋅,S2ek⟩S1fkT_1 = \sum_k s_k\langle\cdot,S_2e_k\rangle S_1f_k. (⇐\Leftarrow) Se T1=S1T2S2T_1 = S_1T_2S_2 com S1,S2S_1,S_2 unitários, então T1∗T1=S2∗T2∗T2S2T_1^*T_1 = S_2^*T_2^*T_2S_2, que tem os mesmos autovalores que T2∗T2T_2^*T_2. (Resp: A)
  14. Ex. 118.14Aplicação

    Seja T∈L(V,W)T \in \mathcal{L}(V, W) e sns_n o menor valor singular de TT. Prove que sn∥v∥≤∥Tv∥s_n \|v\| \leq \|Tv\| para todo v∈Vv \in V.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Da SVD: escreva v=∑kakek+uv = \sum_k a_k e_k + u onde u∈null Tu \in \text{null}\,T. Então ∥Tv∥2=∑ksk2∣ak∣2≥sn2∑k∣ak∣2≤sn2∥v∥2\|Tv\|^2 = \sum_k s_k^2|a_k|^2 \geq s_n^2\sum_k|a_k|^2 \leq s_n^2\|v\|^2. Tome raiz quadrada. (Resp: A)
  15. Ex. 118.15Aplicação

    Seja T∈L(V)T \in \mathcal{L}(V) com valores singulares s1≥⋯≥sns_1 \geq \cdots \geq s_n. Prove que se λ\lambda é autovalor de TT, então s1≥∣λ∣≥sns_1 \geq |\lambda| \geq s_n.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Se Tv=λvTv = \lambda v com ∥v∥=1\|v\|=1: ∣λ∣=∥Tv∥|\lambda| = \|Tv\|. Pelo ex. 4, ∥Tv∥∈[sn,s1]\|Tv\| \in [s_n, s_1]. Logo sn≤∣λ∣≤s1s_n \leq |\lambda| \leq s_1. (Resp: A)
  16. Ex. 118.16Demonstração

    Seja T∈L(V,W)T \in \mathcal{L}(V, W). Prove que (T∗)†=(T†)∗(T^*)^\dagger = (T^\dagger)^*.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Da SVD T=∑ksk⟨⋅,ek⟩fkT = \sum_k s_k\langle\cdot,e_k\rangle f_k: T†=∑k1sk⟨⋅,fk⟩ekT^\dagger = \sum_k \frac{1}{s_k}\langle\cdot,f_k\rangle e_k, logo (T†)∗=∑k1sk⟨⋅,ek⟩fk(T^\dagger)^* = \sum_k \frac{1}{s_k}\langle\cdot,e_k\rangle f_k. Por outro lado, T∗=∑ksk⟨⋅,fk⟩ekT^* = \sum_k s_k\langle\cdot,f_k\rangle e_k e (T∗)†=∑k1sk⟨⋅,ek⟩fk(T^*)^\dagger = \sum_k \frac{1}{s_k}\langle\cdot,e_k\rangle f_k. Os dois coincidem. (Resp: A)
  17. Ex. 118.17Aplicação

    Seja T∈L(V)T \in \mathcal{L}(V). Prove que TT é auto-adjunto se e somente se T†T^\dagger é auto-adjunto.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Da SVD de T e do resultado do ex. 16: (T†)∗=(T∗)†(T^\dagger)^* = (T^*)^\dagger. Se TT é auto-adjunto (T∗=TT^* = T), então (T†)∗=T†(T^\dagger)^* = T^\dagger, logo T†T^\dagger é auto-adjunto. A recíproca segue analogamente aplicando o mesmo argumento a T†T^\dagger. (Resp: A)
  18. Ex. 118.18DemonstraçãoGabarito

    Seja T∈L(V)T \in \mathcal{L}(V). Prove que se tanto TT quanto −T-T são operadores positivos, então T=0T = 0.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Se TT e −T-T são positivos: para todo vv, ⟨Tv,v⟩≥0\langle Tv,v\rangle \geq 0 e ⟨−Tv,v⟩≥0\langle -Tv,v\rangle \geq 0. Logo ⟨Tv,v⟩=0\langle Tv,v\rangle = 0 para todo vv. Operador positivo com forma quadrática nula é zero. (Resp: A)
  19. Ex. 118.19Aplicação

    O operador T∈L(F4)T \in \mathcal{L}(\mathbb{F}^4) com matriz (2−100−12−100−12−100−12)\begin{pmatrix}2&-1&0&0\\-1&2&-1&0\\0&-1&2&-1\\0&0&-1&2\end{pmatrix} na base padrão é positivo e invertível. Justifique.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    A matriz é simétrica (auto-adjunta em R\mathbb{R}). Seus autovalores são λk=2−2cos⁡(kπ/5)\lambda_k = 2 - 2\cos(k\pi/5) para k=1,…,4k=1,\ldots,4 (matriz do Laplaciano discreto), todos positivos. Logo é operador positivo. Determinante positivo implica invertibilidade. (Resp: A)
  20. Ex. 118.20Aplicação

    Seja nn inteiro positivo e T∈L(Fn)T \in \mathcal{L}(\mathbb{F}^n) o operador cuja matriz (na base padrão) tem todas as entradas iguais a 1. Mostre que TT é um operador positivo.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    A matriz J de todos 1s é simétrica (auto-adjunta). ⟨Tv,v⟩=(∑ivi)2≥0\langle Tv,v\rangle = (\sum_i v_i)^2 \geq 0 para todo vv. Logo T é positivo. Os autovalores são n (multiplicidade 1, autovetor (1,…,1)(1,\ldots,1)) e 0 (multiplicidade n-1). (Resp: A)
  21. Ex. 118.21Desafio

    Seja nn inteiro com n>1n > 1. Mostre que existe uma matriz n×nn \times n com todas as entradas positivas e A=A∗A = A^*, mas cujo operador associado não é positivo.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Para n=2n=2: A=(1221)A = \begin{pmatrix}1&2\\2&1\end{pmatrix}. Entradas positivas, A=A∗A=A^*. Autovalores: 1±2=31\pm2 = 3 e −1-1. Como −1<0-1 < 0, A não é positivo. (Resp: A)
  22. Ex. 118.22Demonstração

    Seja T∈L(V)T \in \mathcal{L}(V) auto-adjunto. Prove que TT é um operador positivo se e somente se para toda base ortonormal e1,…,ene_1, \ldots, e_n de VV, todas as entradas diagonais da matriz de TT nessa base são não-negativas.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    (⇒\Rightarrow) Se T positivo: ⟨Tek,ek⟩≥0\langle Te_k,e_k\rangle \geq 0 para qualquer base ortonormal. (⇐\Leftarrow) Pelo teorema espectral, escreva T=∑jλjPjT = \sum_j \lambda_j P_j; a condição das diagonais implica ∑jλj∣⟨ek,vj⟩∣2≥0\sum_j \lambda_j |\langle e_k,v_j\rangle|^2 \geq 0 para toda base. Isso força λj≥0\lambda_j \geq 0. (Resp: A)
  23. Ex. 118.23Aplicação

    Prove que a soma de dois operadores positivos em VV é um operador positivo.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Sejam S,TS, T positivos. Para todo vv: ⟨(S+T)v,v⟩=⟨Sv,v⟩+⟨Tv,v⟩≥0+0=0\langle (S+T)v, v\rangle = \langle Sv,v\rangle + \langle Tv,v\rangle \geq 0 + 0 = 0. Além disso (S+T)∗=S∗+T∗=S+T(S+T)^* = S^* + T^* = S + T. Logo S+TS+T é auto-adjunto e positivo. (Resp: A)
  24. Ex. 118.24AplicaçãoGabarito

    Seja S∈L(V)S \in \mathcal{L}(V) um operador positivo invertível e T∈L(V)T \in \mathcal{L}(V) um operador positivo. Prove que S+TS + T é invertível.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Para todo v≠0v \neq 0: ⟨(S+T)v,v⟩=⟨Sv,v⟩+⟨Tv,v⟩\langle (S+T)v,v\rangle = \langle Sv,v\rangle + \langle Tv,v\rangle. Como S é invertível e positivo, ⟨Sv,v⟩>0\langle Sv,v\rangle > 0 (todo autovalor positivo). Logo ⟨(S+T)v,v⟩>0\langle (S+T)v,v\rangle > 0, portanto (S+T)v≠0(S+T)v \neq 0 para v≠0v \neq 0; S+T é injetivo e logo invertível. (Resp: A)
  25. Ex. 118.25Demonstração

    Seja T∈L(V)T \in \mathcal{L}(V). Prove que TT é operador positivo se e somente se a pseudoinversa T†T^\dagger é operador positivo.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Da SVD de T positivo: T=∑kλk⟨⋅,ek⟩ekT = \sum_k \lambda_k \langle\cdot,e_k\rangle e_k com λk≥0\lambda_k \geq 0. Então T†=∑k:λk>01λk⟨⋅,ek⟩ekT^\dagger = \sum_{k: \lambda_k>0} \frac{1}{\lambda_k}\langle\cdot,e_k\rangle e_k, que também é positivo (autovalores positivos). A recíproca segue aplicando o mesmo argumento a T†T^\dagger e usando (T†)†=T(T^\dagger)^\dagger = T. (Resp: A)
  26. Ex. 118.26Aplicação

    Seja T∈L(V)T \in \mathcal{L}(V) operador positivo e S∈L(W,V)S \in \mathcal{L}(W, V). Prove que S∗TSS^*TS é operador positivo em WW.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Para todo w∈Ww \in W: ⟨S∗TSw,w⟩=⟨TSw,Sw⟩≥0\langle S^*TSw, w\rangle = \langle TSw, Sw\rangle \geq 0 pois T positivo. Além disso (S∗TS)∗=S∗T∗S=S∗TS(S^*TS)^* = S^*T^*S = S^*TS (T auto-adjunto). Logo S∗TSS^*TS é auto-adjunto e positivo em W. (Resp: A)
    Ver passo a passo (com o porquê)
    1. Calcule (S∗TS)∗=S∗T∗(S∗)∗=S∗TS(S^*TS)^* = S^*T^*(S^*)^* = S^*TS (auto-adjunto).
    2. Para qualquer w∈Ww \in W: ⟨S∗TSw,w⟩=⟨Sw,T∗Sw⟩=⟨TSw,Sw⟩\langle S^*TSw, w\rangle = \langle Sw, T^*Sw\rangle = \langle TSw, Sw\rangle.
    3. Como Sw∈VSw \in V e T é positivo: ⟨TSw,Sw⟩≥0\langle TSw, Sw\rangle \geq 0.
    4. Logo S∗TSS^*TS é positivo em W.
  27. Ex. 118.27Aplicação

    Seja TT operador positivo em VV e v,w∈Vv, w \in V tais que Tv=wTv = w e Tw=vTw = v. Prove que v=wv = w.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    De Tv=wTv = w e Tw=vTw = v: T(v−w)=w−v=−(v−w)T(v-w) = w-v = -(v-w). Logo v−wv-w é autovetor de T com autovalor −1-1. Mas T positivo implica todos os autovalores não-negativos; contradição com −1<0-1 < 0, a menos que v−w=0v-w=0. (Resp: A)
  28. Ex. 118.28Aplicação

    Seja TT operador positivo em VV e UU subespaço de VV invariante sob TT. Prove que T∣U∈L(U)T|_U \in \mathcal{L}(U) é operador positivo em UU.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    T|U está bem definido pois U é T-invariante. Para u∈Uu \in U: ⟨T∣Uu,u⟩=⟨Tu,u⟩≥0\langle T|_U u, u\rangle = \langle Tu, u\rangle \geq 0 pois T é positivo. Além disso (T∣U)∗=T∗∣U=T∣U(T|_U)^* = T^*|_U = T|_U (pois T auto-adjunto). Logo T|U é positivo. (Resp: A)
  29. Ex. 118.29AplicaçãoGabarito

    Seja T∈L(V)T \in \mathcal{L}(V) operador positivo. Prove que TkT^k é operador positivo para todo inteiro positivo kk.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Por indução: T positivo (base). Se TkT^k é positivo, então Tk+1=T⋅TkT^{k+1} = T \cdot T^k. Para todo vv: ⟨Tk+1v,v⟩=⟨T(Tkv),Tkv⟩⋅⟨Tkv,v⟩/∥Tkv∥2≥0\langle T^{k+1}v,v\rangle = \langle T(T^kv),T^kv\rangle \cdot \langle T^kv,v\rangle / \|T^kv\|^2 \geq 0. Alternativa direta: autovalores de TkT^k são λjk≥0\lambda_j^k \geq 0. (Resp: A)
  30. Ex. 118.30CompreensãoGabarito

    Seja T∈L(V)T \in \mathcal{L}(V) auto-adjunto e α∈R\alpha \in \mathbb{R}. (a) Prove que T−αIT - \alpha I é positivo sse α\alpha é menor ou igual a todo autovalor de TT. (b) Prove que αI−T\alpha I - T é positivo sse α\alpha é maior ou igual a todo autovalor de TT.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    T auto-adjunto tem autovalores reais λj\lambda_j. T−αIT - \alpha I tem autovalores λj−α\lambda_j - \alpha. É positivo sse todos λj−α≥0\lambda_j - \alpha \geq 0, i.e., α≤λj\alpha \leq \lambda_j para todo jj. Analogamente para αI−T\alpha I - T. (Resp: A)
  31. Ex. 118.31Demonstração

    Seja TT operador positivo em VV e v1,…,vm∈Vv_1, \ldots, v_m \in V. Prove que ∑j=1m∑k=1m⟨Tvk,vj⟩≥0\sum_{j=1}^m \sum_{k=1}^m \langle Tv_k, v_j\rangle \geq 0.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Seja u=v1+⋯+vmu = v_1 + \cdots + v_m. Então ∑j=1m∑k=1m⟨Tvk,vj⟩=⟨T(∑kvk),∑jvj⟩=⟨Tu,u⟩≥0\sum_{j=1}^m\sum_{k=1}^m \langle Tv_k,v_j\rangle = \langle T(\sum_k v_k), \sum_j v_j\rangle = \langle Tu,u\rangle \geq 0 pois T positivo. (Resp: A)
    Ver passo a passo (com o porquê)
    1. Defina u=∑k=1mvku = \sum_{k=1}^m v_k.
    2. Expanda ⟨Tu,u⟩=⟨T(∑kvk),∑jvj⟩\langle Tu, u\rangle = \langle T(\sum_k v_k), \sum_j v_j\rangle.
    3. Pela bilinearidade: =∑j∑k⟨Tvk,vj⟩= \sum_j\sum_k \langle Tv_k, v_j\rangle.
    4. T positivo implica ⟨Tu,u⟩≥0\langle Tu,u\rangle \geq 0.
  32. Ex. 118.32Desafio

    Seja T∈L(V)T \in \mathcal{L}(V) auto-adjunto. Prove que existem operadores positivos A,B∈L(V)A, B \in \mathcal{L}(V) tais que T=A−BT = A - B, T∗T=A+B\sqrt{T^*T} = A + B e AB=BA=0AB = BA = 0.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Pelo teorema espectral: T=∑jλjPjT = \sum_j \lambda_j P_j. Defina A=∑λj>0λjPjA = \sum_{\lambda_j>0}\lambda_j P_j e B=∑λj<0(−λj)PjB = \sum_{\lambda_j<0}(-\lambda_j)P_j. Então A e B são positivos, T=A−BT = A-B, T∗T=A+B\sqrt{T^*T} = A+B (pois ∣λj∣Pj|\lambda_j|P_j), e AB=BA=0AB=BA=0 (projetores em autoespaços diferentes são ortogonais). (Resp: A)
  33. Ex. 118.33Demonstração

    Seja TT operador positivo em VV. Prove que null(T)=null T\text{null}(\sqrt{T}) = \text{null}\,T e range(T)=range T\text{range}(\sqrt{T}) = \text{range}\,T.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Pelo teorema espectral: T=∑jλjPjT = \sum_j \lambda_j P_j e T=∑jλjPj\sqrt{T} = \sum_j \sqrt{\lambda_j} P_j. Então null(T)=⨁λj=0range(Pj)=null(T)\text{null}(\sqrt{T}) = \bigoplus_{\lambda_j=0}\text{range}(P_j) = \text{null}(T). Similarmente para o range. (Resp: A)
  34. Ex. 118.34DesafioGabarito

    Seja T∈L(V)T \in \mathcal{L}(V) operador positivo. Prove que existe polinômio pp com coeficientes reais tal que T=p(T)\sqrt{T} = p(T).

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    T positivo tem autovalores reais não-negativos λ1,…,λm\lambda_1, \ldots, \lambda_m (distintos). Pelo teorema de interpolação de Lagrange, existe polinômio real p com p(λj)=λjp(\lambda_j) = \sqrt{\lambda_j} para todo j. Então p(T)=∑jp(λj)Pj=∑jλjPj=Tp(T) = \sum_j p(\lambda_j) P_j = \sum_j \sqrt{\lambda_j} P_j = \sqrt{T}. (Resp: A)
  35. Ex. 118.35Demonstração

    Sejam SS e TT operadores positivos em VV. Prove que STST é operador positivo se e somente se SS e TT comutam.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    (⇐\Leftarrow) Se ST=TS: (ST)∗=T∗S∗=TS=ST(ST)^* = T^*S^* = TS = ST (auto-adjunto). ⟨STv,v⟩=⟨T1/2ST1/2(T−1/2v),T1/2v⟩\langle STv,v\rangle = \langle T^{1/2}ST^{1/2}(T^{-1/2}v), T^{1/2}v\rangle — use que T1/2ST1/2T^{1/2}ST^{1/2} é positivo (ex.26) e argumento de congruência. (⇒\Rightarrow) Se ST é positivo, então ST é auto-adjunto: ST=(ST)∗=TSST = (ST)^* = TS. (Resp: A)
  36. Ex. 118.36Aplicação

    Mostre que o operador identidade em F2\mathbb{F}^2 tem infinitas raízes quadradas auto-adjuntas.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Uma raiz quadrada auto-adjunta de I satisfaz A2=IA^2 = I e A∗=AA^* = A. Toda matriz da forma A=(cos⁡θsin⁡θsin⁡θ−cos⁡θ)A = \begin{pmatrix}\cos\theta & \sin\theta \\ \sin\theta & -\cos\theta\end{pmatrix} satisfaz A2=IA^2 = I e A=A∗A=A^* para qualquer θ\theta. São infinitas. (Resp: A)
  37. Ex. 118.37DemonstraçãoGabarito

    Seja T∈L(V)T \in \mathcal{L}(V) e e1,…,ene_1, \ldots, e_n base ortonormal de VV. Prove que TT é operador positivo se e somente se existem v1,…,vn∈Vv_1, \ldots, v_n \in V com ⟨Tek,ej⟩=⟨vk,vj⟩\langle Te_k, e_j\rangle = \langle v_k, v_j\rangle para todos j,kj, k.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    (⇒\Rightarrow) T positivo: T=TTT = \sqrt{T}\sqrt{T}, tome vk=Tekv_k = \sqrt{T}e_k. Então ⟨Tek,ej⟩=⟨Tek,Tej⟩=⟨vk,vj⟩\langle Te_k,e_j\rangle = \langle \sqrt{T}e_k,\sqrt{T}e_j\rangle = \langle v_k,v_j\rangle. (⇐\Leftarrow) A matriz de Gram [⟨vk,vj⟩][\langle v_k,v_j\rangle] é sempre PSD, portanto T é PSD e auto-adjunto, logo positivo. (Resp: A)
  38. Ex. 118.38Desafio

    Seja a matriz de Hilbert n×nn \times n com entrada na linha jj, coluna kk igual a 1j+k−1\frac{1}{j+k-1}. Prove que o operador em Fn\mathbb{F}^n associado a essa matriz é positivo e invertível.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    A matriz de Hilbert é simétrica. Entrada (j,k)(j,k): Hjk=∫01xj−1xk−1 dx=⟨xj−1,xk−1⟩H_{jk} = \int_0^1 x^{j-1}x^{k-1}\,dx = \langle x^{j-1},x^{k-1}\rangle no produto interno de L2[0,1]L^2[0,1]. É portanto uma matriz de Gram de vetores linearmente independentes 1,x,…,xn−11, x, \ldots, x^{n-1}. Toda matriz de Gram de vetores LI é positiva invertível. (Resp: A)
    Ver passo a passo (com o porquê)
    1. Identifique Hjk=1j+k−1=∫01xj+k−2 dx=∫01xj−1xk−1 dxH_{jk} = \frac{1}{j+k-1} = \int_0^1 x^{j+k-2}\,dx = \int_0^1 x^{j-1}x^{k-1}\,dx.
    2. Com produto interno ⟨f,g⟩=∫01fg dx\langle f,g\rangle = \int_0^1 fg\,dx: Hjk=⟨ej,ek⟩H_{jk} = \langle e_j, e_k\rangle onde ej=xj−1e_j = x^{j-1}.
    3. H é a matriz de Gram de 1,x,…,xn−11, x, \ldots, x^{n-1} em L2[0,1]L^2[0,1].
    4. Estes polinômios são linearmente independentes, portanto a matriz de Gram é positiva definitiva.
  39. Ex. 118.39Aplicação

    Seja T∈L(V)T \in \mathcal{L}(V) operador positivo e u∈Vu \in V com ∥u∥=1\|u\| = 1 e ∥Tu∥≥∥Tv∥\|Tu\| \geq \|Tv\| para todo v∈Vv \in V com ∥v∥=1\|v\| = 1. Mostre que uu é autovetor de TT correspondente ao maior autovalor de TT.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    T positivo: valores singulares de T = autovalores λ1≥⋯≥λn≥0\lambda_1 \geq \cdots \geq \lambda_n \geq 0. ∥Tu∥=s1=λ1\|Tu\| = s_1 = \lambda_1 (máximo atingido) implica uu é autovetor do maior valor singular = maior autovalor λ1\lambda_1. (Resp: A)
  40. Ex. 118.40DesafioGabarito

    Para T∈L(V)T \in \mathcal{L}(V) e u,v∈Vu, v \in V, defina ⟨u,v⟩T=⟨Tu,v⟩\langle u,v\rangle_T = \langle Tu,v\rangle. (a) Prove que ⟨⋅,⋅⟩T\langle \cdot,\cdot\rangle_T é produto interno sse TT é operador positivo invertível. (b) Prove que todo produto interno em VV é da forma ⟨⋅,⋅⟩T\langle\cdot,\cdot\rangle_T para algum operador positivo invertível TT.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    (a) Para produto interno: simetria (TT auto-adjunto), positividade (TT positivo) e definida positiva (TT invertível). (b) Dado produto interno B(⋅,⋅)B(\cdot,\cdot) em V, pelo teorema de representação de Riesz existe TT auto-adjunto com B(u,v)=⟨Tu,v⟩B(u,v) = \langle Tu,v\rangle; T é positivo invertível pois B é produto interno. (Resp: A)
  41. Ex. 118.41Demonstração

    Sejam SS e TT operadores positivos em VV. Prove que null(S+T)=null S∩null T\text{null}(S + T) = \text{null}\,S \cap \text{null}\,T.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    (⊃\supset) Se v∈null S∩null Tv \in \text{null}\,S \cap \text{null}\,T: (S+T)v=Sv+Tv=0(S+T)v = Sv + Tv = 0. (⊂\subset) Se (S+T)v=0(S+T)v=0: ⟨(S+T)v,v⟩=⟨Sv,v⟩+⟨Tv,v⟩=0\langle (S+T)v,v\rangle = \langle Sv,v\rangle + \langle Tv,v\rangle = 0. Como ⟨Sv,v⟩≥0\langle Sv,v\rangle \geq 0 e ⟨Tv,v⟩≥0\langle Tv,v\rangle \geq 0, ambos devem ser zero, logo Sv=Tv=0Sv = Tv = 0. (Resp: A)
  42. Ex. 118.42Desafio

    O operador segunda derivada T=D2T = D^2 do Exercício 31(b) da Seção 7A (em funções com condições de contorno adequadas) satisfaz que −T-T é operador positivo. Mostre isso via integração por partes.

    Selecione a alternativa correta
    Selecione uma opção primeiro
    Ver solução
    Via integração por partes com condições de contorno que fazem os termos de borda zero (ex: f(0)=f(1)=0f(0)=f(1)=0): ⟨−D2f,f⟩=−∫01f′′f dx=∫01(f′)2 dx≥0\langle -D^2f, f\rangle = -\int_0^1 f''f\,dx = \int_0^1 (f')^2\,dx \geq 0. Autovalores de −D2-D^2 são k2π2>0k^2\pi^2 > 0. (Resp: A)

Fontes

  • Understanding Linear Algebra — David Austin · Grand Valley State University · CC-BY-SA · Capítulo 7: PCA via SVD, variância explicada, scree plot, aplicações.
  • Introduction to Applied Linear Algebra (VMLS) — Stephen Boyd, Lieven Vandenberghe · Stanford University · CC-BY-NC-ND · Cap. 10: teoria rigorosa de PCA, otimalidade, conexão SVD, aplicações ML.
  • OpenIntro Statistics — Diez, Çetinkaya-Rundel, Barr · CC-BY-SA · §8.3: perspectiva estatística, variância explicada, interpretação de componentes, exercícios de dados reais.

Atualizado em 2026-05-06 · Autor(es): Clube da Matemática

Achou um erro? Abra uma issue no GitHub ou submeta um PR — open source pra sempre.