Lesson 105 — Simple linear regression
Modelo OLS model, least-squares estimators, R², residuals, inference about the slope. Foundation of supervised learning and econometrics.
Used in: Stochastik LK alemão (Klasse 12) · H2 Mathematics Singapura (§14) · Math B japonês
A reta de mínimos quadrados passa pelo centroide e tem inclinação igual à covariância amostral dividida pela variância de . O intercepto é determinado a partir daí.
Rigorous notation, full derivation, hypotheses
Definição rigorosa
Modelo de regressão linear simples
"The regression equation is written as , where is the slope and is the -intercept." — OpenStax Statistics, §12.3
Decomposição da variância e R²
"The coefficient of determination is the square of the correlation coefficient . It tells you the fraction of total variability in the response that is explained by the least-squares line." — OpenIntro Statistics, §7.2, p. 331
Inferência sobre a inclinação
Reta de mínimos quadrados (dourada) minimizando a soma dos quadrados dos resíduos (laranjas). Cada resíduo e é a distância vertical do ponto à reta.
Exemplos resolvidos
Exercise list
40 exercises · 10 with worked solution (25%)
- Ex. 105.1Application
A equação é linear? Justifique.
Show solution
A equação não é linear pois contém o termo (grau 2). Uma equação linear em deve ter a forma , com apenas na primeira potência. (Resp: não é linear) - Ex. 105.2ApplicationAnswer key
Quais das equações a seguir são lineares?
a.
b.
c.
d.
Show solution
Uma equação é linear em se aparece apenas na primeira potência. (a) : linear. (b) , equivale a : linear. (c) contém : não linear. (d) , equivale a : linear (inclinação zero). (Resp: a, b, d) - Ex. 105.3UnderstandingAnswer key
Em um estudo sobre gripe, os dados incluem as colunas "Ano" e "Número de casos de gripe diagnosticados". Por que o ano é a variável independente e o número de casos é a variável dependente (e não o contrário)?
Show solution
O ano avança independentemente da quantidade de casos diagnosticados — nenhum pesquisador controla o tempo. O número de casos de gripe diagnosticados, por outro lado, pode variar em função do ano (novas cepas, campanhas de vacinação, melhoria no diagnóstico). Logo, ano é a variável independente () e número de casos é a variável dependente (). - Ex. 105.4Understanding
O que significa um valor de no coeficiente de correlação de Pearson?
Show solution
Um valor indica ausência de associação linear entre e . Isso não implica independência: variáveis com relação perfeitamente quadrática (ex.: , dados simétricos em torno de zero) podem ter . A correlação de Pearson mede apenas associação linear. - Ex. 105.5Understanding
Quando e , os dados são estatisticamente significativos? Explique o que acontece com os graus de liberdade do teste.
Show solution
Com pontos, qualquer reta passa exatamente pelos dois pontos, então sempre. Os graus de liberdade para o teste de significância são , tornando o teste impossível de aplicar. Uma correlação perfeita com dois pontos não tem valor inferencial. - Ex. 105.6Application
Com observações e , existe correlação significativa ao nível 5%? Calcule e conclua.
Show solution
. Rejeitamos : há correlação linear negativa significativa. (Resp: Rejeita )Show step-by-step (with the why)
- , , .
- Calcular .
- .
- Valor crítico bilateral: . Como , rejeitamos .
- Ex. 105.7UnderstandingAnswer key
Ao testar a significância do coeficiente de correlação de Pearson, qual é a hipótese nula?
Show solution
O teste de significância do coeficiente de correlação testa , onde é a correlação populacional. A hipótese alternativa é (bilateral) ou uma versão unilateral. Rejeitar indica associação linear significativa na população. - Ex. 105.8Understanding
Ao testar a significância do coeficiente de correlação, qual é a hipótese alternativa no caso bilateral?
Show solution
A hipótese alternativa depende do contexto. No teste bilateral, . Se há razão prévia para esperar correlação positiva, pode-se usar ; para negativa, . O mais comum em regressão simples é o teste bilateral. - Ex. 105.9ApplicationAnswer key
Se o nível de significância é e o p-valor do teste de correlação é 0,04, qual é a conclusão?
Show solution
p-valor . Rejeitamos : correlação estatisticamente significativa ao nível 5%.Show step-by-step (with the why)
- Dados: , p-valor .
- Regra: rejeitar se p-valor menor que .
- Como , rejeitamos .
- Conclusão: há evidência significativa de correlação linear ao nível 5%.
- Ex. 105.10Application
A soma dos quadrados dos erros (SSE) de um conjunto com observações é 49. Calcule o desvio padrão dos resíduos .
Show solution
; . O desvio padrão dos resíduos é aproximadamente 1,75 unidades. (Resp: )Show step-by-step (with the why)
- , . Graus de liberdade: .
- Variância residual: .
- Desvio padrão residual: .
- Ex. 105.11Application
O desvio padrão dos resíduos de um modelo de regressão é . Qual é o limite de distância vertical para identificar possíveis pontos atípicos pelo critério ?
Show solution
O desvio padrão dos resíduos é . O critério padrão para ponto suspeito de ser atípico é . (Resp: distância vertical de corte = 19,6) - Ex. 105.12Understanding
Marcus afirma que todos os pontos atípicos são pontos influentes. Ele está correto? Explique a diferença entre ponto atípico e ponto influente.
Show solution
Marcus está errado. Um ponto pode ser atípico em (alto resíduo) sem ser influente se estiver na direção dos demais dados. Um ponto influente é aquele cuja remoção altera substancialmente a reta ajustada — o que depende de sua alavancagem (posição em ), não apenas do resíduo. - Ex. 105.13Understanding
Um ponto é removido de um conjunto de dados e a reta é recalculada. O novo coeficiente de correlação é 0,98. O ponto parecia ser um outlier? Por quê?
Show solution
Se após remover o ponto a correlação subiu para , o ponto estava distorcendo a reta e reduzindo a correlação — sinal de que era influente. Um outlier influente puxa a reta para si, piorando o ajuste para os demais pontos. O salto em confirma a influência. - Ex. 105.14Understanding
Qual efeito o outlier potencial teve sobre a reta de melhor ajuste antes de ser removido?
Show solution
Um outlier influente puxa a reta de regressão na sua direção. Isso distorce tanto a inclinação quanto o intercepto estimados, reduzindo a qualidade do ajuste para os demais pontos. Por isso a reta da nova análise (sem o ponto) provavelmente tem inclinação diferente e maior correlação com os dados restantes. - Ex. 105.15UnderstandingAnswer key
Após remover o outlier potencial, o novo coeficiente de correlação é . Você está mais ou menos confiante na capacidade preditiva da nova reta de melhor ajuste?
Show solution
Com na nova análise (sem o ponto), o ajuste é muito forte. O pesquisador deve estar mais confiante nas previsões da reta recalculada, desde que o ponto tenha sido removido com justificativa substantiva (erro de medição, caso especial) e não simplesmente por conveniência. - Ex. 105.16Application
Considere uma regressão que prevê peso (kg) a partir da altura (cm) de homens adultos. Quais são as unidades do coeficiente de correlação, do intercepto e da inclinação?
Show solution
O coeficiente de correlação é adimensional (sempre entre -1 e 1). O intercepto tem a unidade de (kg). A inclinação tem unidade de = kg/cm: quantidade de kg por cm adicional de altura. (Resp: sem unidade; kg; kg/cm) - Ex. 105.17Understanding
Para uma reta de regressão, a incerteza associada à estimativa de é maior quando: (I) há muita dispersão em torno da reta, ou (II) há pouca dispersão em torno da reta. Qual caso produz maior incerteza?
Show solution
A incerteza associada à estimativa de é . Com mais dispersão em torno da reta, é maior, logo é maior. Mais ruído nos dados torna a estimativa da inclinação menos precisa. - Ex. 105.18Application
Uma reta de regressão prevê a vida útil de uma maçã com base em seu peso. Para uma maçã específica, a previsão foi de 4,6 dias e o resíduo foi de dias. Superestimamos ou subestimamos a vida útil?
Show solution
O resíduo é . Com dias e , temos dias. Como , superestimamos a vida útil da maçã. Um resíduo negativo sempre indica superestimativa. - Ex. 105.19Application
Uma reta de regressão prevê a incidência de câncer de pele (por 1.000 pessoas) a partir do número de dias ensolarados por ano. Para um ano específico, a previsão foi 1,5 casos/1.000 e o resíduo foi . Superestimamos ou subestimamos?
Show solution
O resíduo implica que casos/1000. Como o valor real (2,0) é maior que o previsto (1,5), subestimamos a incidência. Resíduo positivo indica sempre subestimativa. - Ex. 105.20ModelingAnswer key
O trem Coast Starlight percorre a rota Seattle–Los Angeles. A distância média entre paradas consecutivas é 108 milhas ( mi) e o tempo médio de viagem é 129 minutos ( min), com correlação . Escreva a equação da reta de regressão para prever o tempo de viagem a partir da distância.
Show solution
Reta: . Cada milha adicional corresponde a aproximadamente 0,777 minutos a mais de viagem. (Resp: )Show step-by-step (with the why)
- Dados: mi, mi; min, min; .
- min/milha.
- min.
- Reta: . Para mi: min.
- Ex. 105.21Modeling
Para a regressão do exercício anterior (Coast Starlight, ), calcule e interprete no contexto da viagem de trem.
Show solution
Para regressão simples, . Portanto, aproximadamente 40,4% da variabilidade no tempo de viagem entre paradas é explicada pela distância percorrida. Os 59,6% restantes refletem outros fatores (paradas não programadas, tráfego de outros trens, etc.). - Ex. 105.22Modeling
A distância entre Santa Bárbara e Los Angeles é 103 milhas. Use a reta do Exercício 105.20 () para prever o tempo de viagem. O tempo real é 168 minutos — calcule o resíduo e interprete.
Show solution
Para mi: min. O tempo real é 168 min. Resíduo: min. O modelo subestimou: o percurso levou mais tempo do que o previsto (talvez por tráfego ou paradas extras). - Ex. 105.23Understanding
A Amtrak estuda adicionar uma parada 500 milhas além de Los Angeles. Seria apropriado usar a reta do Exercício 105.20 para prever o tempo de viagem? Justifique.
Show solution
A distância máxima entre paradas nos dados do Coast Starlight é bem menor que 500 milhas. Usar o modelo para prever a 500 milhas de Los Angeles é extrapolação: estamos além do domínio dos dados. A relação linear pode não se manter nesse alcance (outros fatores entram em jogo), e a incerteza da previsão é muito maior. - Ex. 105.24Modeling
Medidas corporais: a largura escapular média é 107,20 cm ( cm) e a altura média é 171,14 cm ( cm), com . Escreva a reta de regressão para prever altura a partir da largura escapular e estime a altura de uma pessoa com largura escapular de 100 cm.
Show solution
Reta: . Para cintura escapular de 100 cm: cm. (Resp: )Show step-by-step (with the why)
- cm, cm; cm, cm; .
- cm/cm.
- cm.
- Para : cm.
- Ex. 105.25ModelingAnswer key
Para a regressão do Exercício 105.24 (largura escapular vs. altura, ), calcule e interprete no contexto.
Show solution
. Aproximadamente 44,9% da variabilidade na altura é explicada pela largura escapular. Os outros 55,1% refletem outros fatores (comprimento das pernas, proporções individuais, etc.). - Ex. 105.26Modeling
Um aluno de sua turma tem largura escapular de 100 cm e mede 160 cm de altura. Usando a reta do Exercício 105.24 (), calcule o resíduo e explique seu significado.
Show solution
Para cm (largura escapular), a reta prevê cm. O aluno mede 160 cm. Resíduo: cm. O modelo superestimou a altura desse aluno específico. - Ex. 105.27Understanding
Uma criança de 1 ano tem largura escapular de 56 cm. Seria apropriado usar a reta do Exercício 105.24 para prever a altura dessa criança? Justifique.
Show solution
Os dados da regressão foram coletados de adultos (larguras escapulares em torno de 107 cm). Uma criança de 1 ano com 56 cm de largura escapular está muito além do domínio observado. Extrapolação para crianças pequenas usando um modelo calibrado com adultos produziria previsões sem validade biológica — as proporções corporais são completamente diferentes. - Ex. 105.28Challenge
A saída de regressão para prever homicídios anuais por milhão de habitantes a partir do percentual em pobreza (20 áreas metropolitanas) fornece: intercepto = -29,901; inclinação = 2,560; ; . Escreva o modelo linear, interprete o intercepto e a inclinação, e calcule o coeficiente de correlação.
Show solution
Modelo: . ; . (Resp: )Show step-by-step (with the why)
- A saída fornece: , . Modelo: .
- Intercepto: quando % em pobreza = 0, o modelo prediz -29,9 mortes/mi (sem sentido prático — extrapolação). Inclinação: cada ponto percentual a mais em pobreza está associado a 2,56 mortes/mi a mais.
- : a pobreza explica 70,52% da variação nas taxas de homicídio metropolitanas.
- (positivo, pois a inclinação é positiva).
- Ex. 105.29Challenge
A saída de regressão para prever peso cardíaco (g) de gatos domésticos a partir do peso corporal (kg) — baseada em 144 gatos — fornece: intercepto = -0,357; inclinação = 4,034; ; . Escreva o modelo, interprete os coeficientes e calcule o coeficiente de correlação.
Show solution
Modelo: . ; . (Resp: )Show step-by-step (with the why)
- A saída fornece: intercepto , inclinação . Modelo: (peso cardíaco em g, peso corporal em kg).
- Intercepto: peso cardíaco estimado para gato de 0 kg (sem interpretação real). Inclinação: cada kg adicional de peso corporal está associado a 4,034 g a mais no coração.
- : peso corporal explica 64,66% da variação no peso cardíaco dos gatos.
- (positivo, pois a inclinação é positiva).
- Ex. 105.30ChallengeAnswer key
Uma regressão prevê peso (kg) a partir de altura (cm). Se a altura for reexpressada em metros (dividindo por 100), como muda ? A correlação muda?
Show solution
A inclinação se multiplica por 100 (pois a unidade de muda por fator 100). A correlação não muda — é adimensional. (Resp: ; inalterado)Show step-by-step (with the why)
- Correlação entre altura (cm) e peso (kg): tem unidade kg/cm.
- Convertendo altura para metros: o novo tem unidade kg/m = 100 kg/cm. Portanto .
- A correlação e são adimensionais e invariantes a mudanças de escala e localização em ou .
- Ex. 105.31ApplicationAnswer key
Uma empresa de varejo ajustou a reta para prever vendas diárias (unidades) em função do dia (, contando desde a abertura da loja). Qual seria a previsão para o dia 60?
Show solution
Usando a reta de melhor ajuste (regressão linear de vendas diárias ao longo do tempo), com : para o dia 60, unidades. (Resp: 67,1) - Ex. 105.32Application
Usando a mesma reta do exercício anterior, qual seria a previsão de vendas para o dia 90?
Show solution
Para : unidades. Note que se os dados originais vão até o dia 60, o dia 90 é extrapolação — use com cautela. (Resp: 100,1 unidades) - Ex. 105.33Application
Um serviço de jardinagem usa a reta para modelar os acres restantes de grama () em função das horas de trabalho (). Quantos acres restam após 20 horas de trabalho?
Show solution
Reta: , onde = acres restantes e = horas trabalhadas. Para : acres restantes. (Resp: 160 acres) - Ex. 105.34Application
Usando a mesma reta , quantos acres restam após 100 horas de trabalho?
Show solution
Para : acres. Isso indica que com 100 horas de trabalho toda a grama seria cortada. (Resp: 0 acres) - Ex. 105.35ApplicationAnswer key
Usando a reta , em quantas horas toda a grama é cortada (quando )?
Show solution
Resolver : horas. Com 100 horas de trabalho, toda a grama é cortada. Matematicamente: zerar a reta ajustada. (Resp: 100 horas) - Ex. 105.36Understanding
O que a correlação positiva entre o ano e o número de casos de gripe diagnosticados nos Estados Unidos implica sobre a relação entre tempo e gripe?
Show solution
Uma correlação positiva entre ano e número de casos diagnosticados indica que ao longo do tempo o número de diagnósticos aumentou — seja por prevalência real da doença, melhoria nos diagnósticos, maior acesso a cuidados de saúde, ou combinação desses fatores. A correlação não implica causalidade (o tempo em si não "causa" gripe). - Ex. 105.37Understanding
Explique o significado de em um modelo de regressão linear simples.
Show solution
(coeficiente de determinação) mede a proporção da variância total de explicada pelo modelo. significa que 72% da variação em é explicada pela relação linear com . Note que , portanto . - Ex. 105.38Understanding
O coeficiente de determinação pode ser negativo? Em que situação isso ocorre?
Show solution
Em regressão simples com intercepto, sempre. Porém, em modelos sem intercepto ou em regressão múltipla mal especificada, o calculado por pode ser negativo se o modelo for pior que a linha horizontal em . - Ex. 105.39Proof
Prove a identidade , onde é o coeficiente de correlação de Pearson e são os desvios padrão amostrais. Deduza que o sinal de é sempre igual ao sinal de .
Show solution
. Isso segue de e . O sinal de é sempre igual ao sinal de .Show step-by-step (with the why)
- Escreva e com e .
- Substitua: . Mais direto: .
- Logo: .
- Como são reais com , o sinal de = sinal de .
- Ex. 105.40Challenge
Prove que o estimador OLS é não-viesado, ou seja, , usando que com .
Show solution
Não-viés segue de , usando e . Não requer normalidade.Show step-by-step (with the why)
- Escreva com .
- Sob o modelo com : .
- Note que (pois ) e (pois ).
- Portanto . Não-viés demonstrado.
Fontes
- Statistics — OpenStax — Illowsky, Dean · CC-BY · Capítulos 12 (Linear Regression and Correlation). Fonte primária para exemplos, equações e exercícios desta lição.
- OpenIntro Statistics (4ª ed.) — Diez, Çetinkaya-Rundel, Barr · CC-BY-SA · Capítulo 7 (Introduction to linear regression). Fonte primária para diagnóstico de resíduos, inferência e exercícios com dados reais.
- Probabilidade e Estatística — Wikilivros — colaborativo · CC-BY-SA · Seção de regressão linear. Referência em PT-BR com notação compatível com o currículo nacional.