Capítulo 01 Fundamento
O que uma regressão faz, afinal
Por baixo do nome intimidante está uma operação simples: dividir os dados em grupos e comparar médias — só que de forma contínua e com várias variáveis ao mesmo tempo.
1.1 A ideia, sem álgebra
Quer saber como o preço de uma casa varia com a área. Uma abordagem manual: agrupar as casas por faixas de área e calcular o preço médio de cada faixa.
| Área | Preço médio |
|---|---|
| 50–70 m² | 145 000 € |
| 70–90 m² | 182 000 € |
| 90–110 m² | 221 000 € |
| 110–130 m² | 256 000 € |
Isto já é uma análise: cerca de +1 850 € por m², em média, nesta amostra. A regressão faz o mesmo sem escolher faixas — traça a linha que melhor descreve como a média de y muda ao longo de x.
Uma regressão estima a média de y para cada valor de x. Não descreve casas individuais: descreve o centro da distribuição de preços em cada área. É por isso que o resíduo — a distância de cada casa à linha — não é um defeito, é a informação sobre quanto os preços variam além da área.
1.2 O que se ganha com várias variáveis
Com mais do que uma variável, o que a regressão faz passa a ser condicionar: comparar casas com a mesma área entre si, e ver como o preço varia com a localização; comparar casas na mesma localização, e ver como varia com a área.
Voltando à versão manual: seria fazer uma tabela cruzada de área × localização e comparar dentro de cada célula. A regressão faz isso de forma contínua e sem ficar sem dados em cada célula — que é o problema que a versão manual tem assim que há três ou quatro variáveis.
Condicionar não é intervir. A regressão diz como o preço médio difere entre casas que já têm áreas diferentes. Não diz o que aconteceria se acrescentasse 20 m² a uma casa concreta — isso é uma pergunta causal, e é o assunto do volume IV.
Toda a confusão sobre regressão vive nesta distância. Este volume ensina a usar a ferramenta corretamente; o próximo ensina quando o resultado pode ser lido como causa.
1.3 Onde este volume se situa
Volume III de quatro. O I tratou de descrever honestamente; o II do salto da amostra para o mundo; este trata de relações entre variáveis; o IV, de causalidade.
Não é uma apostila de machine learning: para modelos preditivos, algoritmos e a prática de treino, veja Machine Learning & IA e Análise de Dados. Aqui o foco é compreender e reportar uma relação — e saber quando o número que sai não quer dizer o que parece.
1.4 O que a linha é
A recta ajustada é escolhida por um critério concreto: minimizar a soma dos quadrados dos resíduos. Quadrados, não distâncias simples — o que tem uma consequência prática importante:
- Pontos distantes pesam desproporcionadamente. Um erro de 10 conta 100; dois erros de 5 contam 50. A linha é puxada para os extremos, e é por isso que um único ponto pode alterar todo o resultado (cap. 7).
- O critério assume que erros para cima e para baixo custam o mesmo. Em muitos problemas reais não custam — subestimar a procura e sobrestimá-la têm consequências diferentes —, e nesse caso o critério padrão não é o adequado.
- A linha existe sempre, mesmo quando não faz sentido nenhum. O programa não recusa: devolve coeficientes para dados sem relação alguma. Cabe a si verificar (cap. 4).
Antes da próxima regressão, agrupe x em cinco faixas e calcule a média de y em cada uma. Se a regressão der algo muito diferente do que essa tabela sugere, há não-linearidade ou pontos influentes — e descobriu-o em dois minutos.
Capítulo 02 Fundamento
Prever ou explicar: dois ofícios, o mesmo maquinismo
A mesma ferramenta serve dois objetivos incompatíveis, e quase todas as más práticas vêm de aplicar as regras de um ao outro.
2.1 A distinção
| Prever | Explicar | |
|---|---|---|
| A pergunta | Que valor terá y no próximo caso? | Como é que y se relaciona com x? |
| Interessa | O acerto do resultado | Os coeficientes e a sua incerteza |
| Variáveis | Todas as que ajudarem, mesmo sem sentido | Só as que a teoria justifica |
| Correlacionadas entre si | Sem problema | Problema sério — os coeficientes ficam instáveis |
| Avalia-se com | Erro em dados que o modelo não viu | Coeficientes, intervalos, diagnóstico |
| Complexidade | Quanta ajudar | A menor que sirva |
Para prever se um cliente vai cancelar, o número de chamadas ao apoio é uma variável excelente — melhora o acerto.
Para explicar porque cancelam, essa mesma variável é péssima: não é uma causa, é um sintoma do mesmo descontentamento que causa o cancelamento. Pô-la no modelo absorve o efeito das causas reais, e faz com que tudo o resto pareça não importar.
A mesma variável, o mesmo modelo, o mesmo software: útil num objetivo, ativamente enganadora no outro.
2.2 Os erros que a confusão produz
- Interpretar coeficientes de um modelo preditivo. "O modelo diz que X é o fator mais importante" — quando o modelo foi construído para acertar, não para atribuir.
- Escolher variáveis por melhorarem o ajuste, e depois explicá-las. A seleção automática produz modelos que preveem bem e cujos coeficientes não significam nada.
- Julgar um modelo explicativo pelo R². Um modelo causal correto pode ter R² baixo, se o fenómeno for ruidoso; isso não o torna errado (cap. 8).
- Não validar um modelo preditivo em dados que ele não viu, e ficar surpreendido quando falha em produção (cap. 10).
2.3 E há um terceiro objetivo, que se esquece
Às vezes não se quer prever nem explicar: quer-se resumir um padrão. "Nesta amostra, cada m² adicional associa-se a mais 1 850 € no preço médio" é uma descrição legítima, útil, e que não afirma causalidade nenhuma.
É o uso mais honesto e o menos praticado, porque a linguagem trai: as pessoas escrevem "o efeito de X" quando queriam dizer "a associação com X", e a partir daí toda a gente lê causa. A palavra efeito é a fronteira entre este volume e o seguinte — vale a pena reservá-la.
Antes do próximo modelo, escreva numa linha: prever, explicar ou descrever. Depois verifique se as suas escolhas de variáveis e de avaliação correspondem. É frequente descobrir que se está a fazer as três coisas mal ao mesmo tempo.
Capítulo 03 Núcleo
Ler um coeficiente sem dizer mais do que ele diz
Um coeficiente é um número com unidades, uma incerteza e uma condição. Deixar cair qualquer uma das três é onde a interpretação se estraga.
3.1 As três partes
Coeficiente de 1 850 para a área significa: «nesta amostra, casas que diferem em 1 m² diferem, em média, 1 850 € no preço, entre casas com os mesmos valores das outras variáveis do modelo».
Três elementos que costumam desaparecer: 1) em média — não em cada casa; 2) que diferem — não "se aumentar"; 3) entre casas com os mesmos valores das outras variáveis do modelo — e não do mundo.
3.2 "Mantendo o resto constante" — o que esconde
A expressão sugere uma experiência controlada, e não é isso que aconteceu. O que aconteceu foi uma comparação dentro dos dados que existem. Três consequências:
- Só é constante o que está no modelo. Tudo o que ficou de fora e se correlaciona com x continua a variar junto com x, e o coeficiente absorve isso.
- A combinação pode não existir. Se todas as casas grandes forem nos subúrbios, "casa de 200 m² no centro com os mesmos valores das outras variáveis" é uma extrapolação para uma zona sem dados.
- Manter constante pode ser incoerente. Aumentar a área mantendo o número de quartos constante é uma coisa; mantendo a área por quarto constante é outra. O coeficiente responde a uma delas, consoante o que está no modelo.
3.3 Unidades, e o coeficiente que parece pequeno
| Situação | O que fazer |
|---|---|
| Coeficiente de 0,000023 para "rendimento em euros" | Reescalar: por cada 10 000 € de rendimento, +0,23. O número não mudou; a legibilidade sim |
| Comparar importâncias entre variáveis com escalas diferentes | Padronizar (por desvio-padrão) — mas dizer que o fez, porque muda a leitura |
| Intercepto sem sentido ("preço de uma casa com 0 m²") | Centrar as variáveis; o intercepto passa a ser o valor no caso médio |
"Qual é a variável mais importante?" quase nunca tem resposta limpa. Coeficientes padronizados dependem da variabilidade naquela amostra: uma variável importante que quase não varia nos seus dados terá coeficiente padronizado pequeno — não porque não importe, mas porque não teve oportunidade de mostrar.
3.4 O intervalo é parte do coeficiente
Tudo o que o volume II disse aplica-se a cada coeficiente: é uma estimativa com erro-padrão, e reportá-lo sem intervalo é reportar metade. Um coeficiente de 1 850 com intervalo [1 700; 2 000] e outro de 1 850 com intervalo [−400; +4 100] são conclusões completamente diferentes, e aparecem iguais na tabela se só se olhar para a primeira coluna.
3.5 Uma tabela de tradução
| Não escreva | Escreva |
|---|---|
| "A área aumenta o preço em 1 850 €." | "Casas que diferem 1 m² diferem, em média, 1 850 € [1 700; 2 000], no mesmo bairro e com o mesmo número de quartos." |
| "O efeito da formação é +12%." | "Quem fez a formação teve, em média, +12% — sem controlar quem escolhe fazer formação." |
| "X é o fator mais importante." | "X tem o maior coeficiente padronizado nesta amostra." |
| "O modelo explica 68% do preço." | "68% da variação dos preços desta amostra é acompanhada pelas variáveis do modelo." (cap. 8) |
Pegue no último coeficiente que reportou e escreva a frase com as três partes: em média, que diferem, condicionado a quê. Se a frase ficar absurda ao ser lida em voz alta, é sinal de que a interpretação anterior era generosa.
Capítulo 04 Núcleo
A recta não é a relação
O modelo assume que a relação é uma linha. O mundo não costuma concordar — e a regressão não avisa: devolve uma linha na mesma.
4.1 O que a linearidade impõe
Ajustar uma recta é afirmar que o efeito de mais uma unidade de x é sempre o mesmo, quer se esteja em baixo ou em cima da escala. É uma afirmação forte e frequentemente falsa:
- Rendimentos decrescentes. Do 1.º ao 2.º m² de espaço numa loja vale muito; do 300.º ao 301.º, pouco. Quase todo o input económico se comporta assim.
- Limiares. Abaixo de um certo investimento em publicidade não acontece nada; a partir daí acontece.
- Saturação. A relação cresce e depois estabiliza — o efeito de mais uma notificação é positivo até deixar de ser.
- Inversão. Cresce até um ponto e depois desce. Uma recta ajustada a uma curva em U pode dar coeficiente zero e concluir "não há relação" quando há uma relação forte.
Desenhe y contra x antes de ajustar. É o conselho do volume I aplicado a duas variáveis, e continua a ser o passo mais saltado. Uma nuvem de pontos com uma curva evidente não precisa de teste nenhum para se saber que a recta está errada.
4.2 Transformações, e o que cada uma significa
| Forma | Lê-se como | Quando |
|---|---|---|
| y ~ x | +1 em x → +β em y (unidades absolutas) | Relação aditiva |
| log(y) ~ x | +1 em x → cerca de β×100 % em y | y cresce em proporção; efeitos multiplicativos |
| y ~ log(x) | x duplicar → +0,69×β em y | Rendimentos decrescentes |
| log(y) ~ log(x) | +1 % em x → +β % em y (elasticidade) | Preços, procura, escalas |
| y ~ x + x² | Curva com um máximo ou mínimo | Relações que se invertem |
São a forma de dizer que o que importa é a variação proporcional, não a absoluta — e para preços, rendimentos, tempos e receitas isso é quase sempre verdade. É a mesma ideia da log-normal no volume I, cap. 4: quantidades que resultam de multiplicações pedem escala logarítmica.
Duas notas práticas: log de zero não existe (e somar 1 é uma escolha com consequências, não um detalhe técnico), e a média dos logaritmos não é o logaritmo da média — ao voltar às unidades originais é preciso cuidado.
4.3 Extrapolar: onde o modelo deixa de saber
Um modelo ajustado a casas entre 50 e 130 m² não sabe nada sobre uma casa de 400 m². A fórmula devolve um número — e o número é uma fantasia matemática, porque assume que a relação continua igual numa zona onde não há dados.
É a origem de previsões absurdas, do tipo "ao ritmo atual, em 2040 haverá mais telemóveis do que átomos". A tendência era real no intervalo observado; a extrapolação não é.
Reporte sempre o intervalo de x em que o modelo foi ajustado, e trate qualquer valor fora dele como não coberto. Custa uma frase e previne a maior parte dos usos indevidos do seu trabalho por terceiros.
4.4 O quarteto que devia estar em todas as salas
O mesmo modelo, quatro realidades
É possível construir quatro conjuntos de dados que produzem exatamente a mesma recta, o mesmo R² e os mesmos erros-padrão, e que são:
- Uma relação linear com ruído — o caso em que o modelo está certo.
- Uma curva perfeita — o modelo está errado e nada na tabela o diz.
- Uma relação linear perfeita com um ponto fora — a linha está torcida por uma observação.
- Todos os pontos com o mesmo x, exceto um — a inclinação inteira é determinada por um único ponto.
Nos quatro casos, a saída numérica é idêntica. Nos quatro casos, a nuvem de pontos revela imediatamente qual é qual.
Nenhuma tabela de resultados distingue estes quatro casos. É a mesma lição do volume I aplicada a modelos: os números de resumo não identificam os dados. O gráfico não é uma ilustração do resultado — é parte da verificação.
Ajuste o seu modelo com y e com log(y), e desenhe os dois. Veja qual dos dois tem resíduos mais bem-comportados (cap. 7). Se for o segundo, a relação era multiplicativa e a versão linear estava a distorcer tudo.
Capítulo 05 Núcleo
O que muda quando se acrescenta uma variável
Acrescentar uma variável a um modelo pode reduzir um coeficiente, aumentá-lo, ou inverter-lhe o sinal. Saber qual dos três é o assunto mais consequente deste volume.
5.1 As três coisas que podem acontecer
| O coeficiente de x… | Provável explicação |
|---|---|
| Quase não muda | A nova variável é praticamente independente de x |
| Encolhe | Parte do que se atribuía a x era, na verdade, da nova variável |
| Inverte o sinal | Simpson em versão contínua — a associação bruta ia no sentido contrário da condicional |
| Fica igual mas com intervalo enorme | As duas variáveis são muito parecidas entre si (5.3) |
Perante um coeficiente que muda de sinal ao acrescentar uma variável: qual dos dois números está certo?
Não há resposta nos dados. Depende de o que é aquela variável: se for algo que influencia tanto x como y — um confundidor — o modelo com ela é melhor. Se for algo que está no caminho entre x e y, incluí-la apaga o efeito que se queria medir. E há um terceiro caso, o colisor, em que incluí-la cria uma associação que não existia.
Distinguir os três é exatamente o conteúdo do volume IV. Por agora, o essencial: acrescentar variáveis não é sempre melhor, e "controlar por tudo o que temos" não é uma estratégia defensável.
5.2 Um exemplo que se sente
Caso · O desconto que baixava a receita
Uma análise de encomendas encontra: quanto maior o desconto, menor a receita por encomenda. Conclusão aparente: os descontos destroem receita, acabar com eles.
Acrescentando o segmento de cliente ao modelo, o sinal inverte-se: dentro de cada segmento, mais desconto associa-se a mais receita. O que acontecia é que os descontos maiores eram dados sobretudo a clientes pequenos — que compram menos de qualquer forma.
Duas afirmações verdadeiras e opostas, e a decisão de negócio é oposta em cada uma. A escolha entre elas não se faz com dados: faz-se sabendo porque os descontos são atribuídos como são.
5.3 Variáveis muito parecidas entre si
Quando duas variáveis do modelo são fortemente correlacionadas — área e número de quartos, por exemplo —, o modelo tem dificuldade em separar o que é de cada uma. O efeito:
- Os coeficientes ficam instáveis e com intervalos muito largos; podem trocar de sinal com pequenas mudanças na amostra.
- As previsões continuam boas. É um problema de interpretação, não de ajuste — e por isso é irrelevante se o objetivo for prever (cap. 2).
- Não é enviesamento. As estimativas continuam a estar centradas no valor certo; só têm muito ruído.
O que fazer: escolher uma das duas conforme a teoria, combiná-las numa só (área por quarto), ou aceitar a imprecisão e reportá-la. O que não fazer é escolher a que dá o resultado mais bonito.
5.4 Selecionar variáveis automaticamente
Métodos que acrescentam e removem variáveis conforme melhoram o ajuste produzem modelos cujos coeficientes e valores-p não têm o significado habitual: as variáveis que sobrevivem foram escolhidas por parecerem boas nesta amostra, o que é o jardim de caminhos que se bifurcam do volume II, cap. 8 em forma de algoritmo.
Para prever, há métodos melhores e a validação honesta resolve (cap. 10). Para explicar, a seleção de variáveis deve vir da teoria sobre o problema, não do computador.
Construa o seu modelo variável a variável, registando o coeficiente de interesse a cada passo. A trajetória desse número diz mais sobre o problema do que o modelo final — e mostra qual das variáveis está a fazer o trabalho pesado.
Capítulo 06 Prática
Categorias e interações
Duas extensões que cobrem a maior parte das perguntas reais — e que introduzem armadilhas de leitura próprias.
6.1 Variáveis categóricas e a categoria de referência
Para incluir "bairro" num modelo, cria-se um indicador por bairro menos um: o que fica de fora é a referência, e todos os outros coeficientes são diferenças em relação a ele.
Os coeficientes não têm significado absoluto: são comparações com a referência. Mudar a referência muda todos os números sem mudar o modelo — as previsões são idênticas, e a tabela parece completamente diferente.
Por isso: diga sempre qual é a referência, e escolha-a com intenção. A escolha habitual do software é a primeira por ordem alfabética, que é raramente a mais interpretável. Uma categoria grande e neutra costuma ser melhor.
- Categorias com poucos casos dão coeficientes com intervalos enormes. Agrupe-as em "outros", e diga que o fez.
- Não transforme categorias em números arbitrários. Codificar "pequeno=1, médio=2, grande=3" impõe que a distância entre pequeno e médio é igual à de médio e grande, o que raramente é verdade.
- Categorias com muitos níveis — código postal, produto, utilizador — consomem graus de liberdade a uma velocidade que surpreende. É onde os modelos de níveis (cap. 11) ganham.
6.2 Interação: quando o efeito depende de outra coisa
Um modelo aditivo afirma que o efeito de x é o mesmo para toda a gente. Uma interação permite que dependa de outra variável — e é frequentemente a pergunta que interessa mesmo:
- O desconto funciona melhor em clientes novos do que em antigos?
- A área vale mais no centro do que na periferia?
- A formação ajuda mais quem tinha menos experiência?
Com uma interação no modelo, o coeficiente principal de x deixa de ser "o efeito de x": passa a ser o efeito de x quando a outra variável vale zero. Se essa outra variável for a idade, é o efeito à idade zero — um número sem sentido, frequentemente com sinal invertido, e regularmente citado em relatórios como se fosse o efeito geral.
A correção é simples e quase sempre esquecida: centre as variáveis antes de as interagir. O coeficiente principal passa a ser o efeito no caso médio, que é interpretável.
6.3 Reportar interações
Coeficientes de interação são difíceis de ler em tabela e fáceis de ler em gráfico. A prática recomendada: não reporte o coeficiente — desenhe o efeito estimado de x para dois ou três valores da outra variável, com as respetivas bandas de incerteza. Uma figura substitui um parágrafo que ninguém entende.
Detetar uma interação exige bastante mais dados do que detetar um efeito principal — como regra grosseira, várias vezes mais. Consequência: procurar interações num estudo pequeno é uma forma muito eficaz de gerar falsos positivos (volume II, caps. 7 e 8).
É exatamente o que acontece quando um teste A/B "não funcionou no geral, mas funcionou nos utilizadores móveis novos": isso é uma interação, encontrada por procura, num estudo que já não tinha poder para o efeito principal.
Ajuste um modelo com interação, primeiro sem centrar e depois centrando as variáveis. Compare os coeficientes principais. As previsões são iguais; a leitura da tabela é irreconhecível — e é a segunda versão que se deve reportar.
Capítulo 07 Prática
Os resíduos falam
O que sobra depois de o modelo explicar o que consegue é a melhor fonte de informação sobre o que está errado com ele.
7.1 Um gráfico que devia ser obrigatório
Resíduos contra valores previstos. Se o modelo estiver bem, essa nuvem deve ser uma faixa sem forma, centrada em zero e com largura constante. Qualquer padrão é uma mensagem:
| O que vê | O que significa | O que fazer |
|---|---|---|
| Uma curva (U ou U invertido) | A relação não é linear | Transformar, ou acrescentar um termo quadrático (cap. 4) |
| Um cone que abre | A variabilidade cresce com o valor previsto | Muito comum em dinheiro e contagens: log, ou erros robustos |
| Bandas ou riscas | A variável de resposta é discreta ou truncada | Talvez o modelo linear não seja o adequado (cap. 11) |
| Um ou dois pontos muito longe | Observações influentes | Investigar individualmente (7.3) |
| Padrão ao longo do tempo | Observações não independentes | Modelo de séries temporais, ou agrupar (cap. 11) |
Em dados de negócio, quase todas as quantidades têm variabilidade proporcional ao nível: os erros nas casas de 500 000 € são maiores em euros do que nas de 100 000 €. Isso não enviesa os coeficientes — mas torna os erros-padrão errados, e portanto os intervalos e os valores-p. É a razão prática mais comum para trabalhar em escala logarítmica.
7.2 O que os pressupostos são e não são
| Pressuposto | Se falhar | Gravidade |
|---|---|---|
| Relação linear (na forma especificada) | Os coeficientes descrevem algo que não existe | Crítica |
| Observações independentes | Erros-padrão demasiado pequenos; falsa precisão | Crítica e frequentemente ignorada |
| Variância constante | Intervalos errados; coeficientes ainda válidos | Média — há correções fáceis |
| Resíduos normais | Pouco, com amostras grandes | Baixa — é o mais testado e o menos importante |
Cursos e listas de verificação dedicam muita atenção à normalidade dos resíduos — que quase não importa com dados suficientes — e pouca à independência, que é o pressuposto mais violado e o mais consequente.
Se cada cliente aparece em cinquenta linhas, o modelo pensa que tem cinquenta vezes mais informação do que tem. Os coeficientes ficam razoáveis; os intervalos ficam absurdamente estreitos, e tudo parece significativo (volume II, cap. 3).
7.3 Pontos influentes: o ponto que decide o resultado
Como a linha minimiza quadrados (cap. 1), uma observação distante pode determinar sozinha a inclinação. Convém distinguir dois casos:
- Valor extremo em y — está longe da linha. Puxa-a, mas de forma limitada.
- Valor extremo em x — está longe dos outros no eixo horizontal. É muito mais perigoso: funciona como uma alavanca e pode rodar a linha inteira.
Ajuste o modelo com e sem o ponto e compare os coeficientes. Se mudarem muito, a sua conclusão depende de uma observação — o que é uma informação essencial e que deve constar do relatório, independentemente do que decidir fazer com o ponto.
E aplica-se aqui a classificação do volume I, cap. 6: erro, outra população, ou cauda genuína. Só a primeira se remove sem mais.
Para o último modelo que ajustou, desenhe: resíduos contra previstos, resíduos contra cada variável, resíduos ao longo do tempo, e a influência de cada ponto. Leva cinco minutos e é raro não encontrar nada.
Capítulo 08 Crítica
R², e o que ele não diz
É a medida mais citada e a mais mal usada. Não mede se o modelo está certo, e um valor alto é tantas vezes um mau sinal como um bom.
8.1 O que é
O R² é a fração da variação de y que é acompanhada pelas variáveis do modelo, nesta amostra. R² = 0,68 significa que 68% da variação dos preços varia em conjunto com as variáveis incluídas; os restantes 32% variam por outras razões.
8.2 As cinco coisas que não significa
| Não significa | Porquê |
|---|---|
| Que o modelo está correto | Um modelo com a forma errada pode ter R² alto — o quarteto do cap. 4 mostra-o |
| Que as variáveis causam y | R² não sabe nada sobre causalidade |
| Que o modelo prevê bem | É calculado nos dados de treino; o que interessa é o erro em dados novos (cap. 10) |
| Que 0,9 é melhor que 0,4 | Depende do domínio: 0,4 é excelente para comportamento humano e péssimo para uma medição física |
| Que acrescentar variáveis melhorou o modelo | O R² nunca desce ao acrescentar variáveis, mesmo que sejam ruído puro |
Acrescente vinte colunas de números aleatórios a um modelo e o R² sobe. Sempre. É uma propriedade matemática, não um sinal de melhoria — e é por isso que usar R² para escolher entre modelos com números diferentes de variáveis é simplesmente inválido.
Existem correções (R² ajustado, critérios de informação) que penalizam a complexidade. São melhores e continuam a ser calculadas nos dados de treino. Para prever, a única avaliação que conta é em dados que o modelo não viu (cap. 10).
8.3 Um R² alto pode ser um mau sinal
Três causas de R² suspeito
- Fuga de informação. Uma variável do modelo contém, indiretamente, a resposta: prever a receita anual incluindo a receita do último trimestre. R² = 0,97, e o modelo não serve para nada.
- Tautologia. As duas variáveis partilham um componente por construção — prever "vendas totais" a partir de "vendas por loja × número de lojas".
- Sobreajuste. Muitas variáveis, poucos casos: o modelo decorou a amostra (cap. 10).
Regra prática: perante um R² inesperadamente alto, a primeira hipótese não é que descobriu algo — é que há fuga. Procure-a antes de festejar.
8.4 O que reportar em vez disso
- O erro típico nas unidades da coisa. "As previsões erram, tipicamente, 18 000 €" diz mais a quem decide do que qualquer R².
- Os coeficientes com intervalos, se o objetivo é explicar.
- O erro em dados não vistos, se o objetivo é prever.
- A comparação com o modelo trivial: prever sempre a média. Se o seu modelo não bater isso por uma margem que justifique a complexidade, a complexidade não se justifica.
Acrescente ao seu modelo vinte variáveis geradas aleatoriamente e observe o R² subir. Faça-o uma vez: é a demonstração mais rápida de porque este número não deve ser usado para escolher modelos.
Capítulo 09 Método aplicado · Demo
Uma regressão lida mal, e depois bem
Role devagar. Um modelo que «prova» que o apoio ao cliente prejudica a retenção — e as seis correções que o desfazem.
"Cada chamada ao apoio reduz a retenção em 6 pontos"
O coeficiente é negativo, o valor-p é minúsculo, o R² é respeitável. Tudo na saída do programa parece corroborar a conclusão — e a recomendação que dela sai, reduzir o contacto com o apoio, é ativamente prejudicial.
As cinco correções seguintes são todas verificações deste volume, aplicadas por ordem. Nenhuma exige dados novos.
A relação satura, e a recta não sabe
A nuvem de pontos (cap. 4) mostra uma curva que desce depressa entre zero e duas chamadas e depois estabiliza. A recta ajustada faz a média das duas zonas e não descreve corretamente nenhuma delas.
É a diferença entre "cada chamada custa 6 pontos" — falso e alarmante — e "a primeira chamada marca uma diferença, as seguintes quase não acrescentam", que é uma observação operacionalmente muito mais útil.
O sinal inverte-se ao acrescentar os incidentes
Acrescentar o número de incidentes sofridos pelo cliente faz o coeficiente das chamadas passar de −0,061 para +0,022 (cap. 5). A leitura muda por completo: entre clientes com o mesmo número de incidentes, quem ligou ao apoio retém-se mais.
O que estava a acontecer é transparente depois de visto: o apoio não causava as saídas, estava a atender quem já tinha problemas. A associação bruta media a gravidade dos problemas, não o efeito do atendimento — e a decisão de negócio que dela saía era cortar precisamente o que estava a ajudar.
48 200 linhas, 3 900 clientes
Cada cliente contribui com cerca de doze linhas mensais, e o modelo tratou-as como observações independentes. O erro-padrão correto — calculado ao nível do cliente — é mais de três vezes maior (cap. 7, e volume II, cap. 3).
O intervalo passa de [+0,008; +0,036], que exclui o zero, para [−0,026; +0,070], que o inclui. A precisão anterior era ficção aritmeticamente correta — e note-se que este erro fabrica significância, portanto tende a passar despercebido: dá o resultado que se queria.
A retenção é 0 ou 1, e o modelo previa 1,07
Ajustar uma recta a uma variável binária produz previsões impossíveis — probabilidades acima de 1 e abaixo de 0 — e resíduos em duas bandas, que era o sinal visível no diagnóstico do capítulo 7.
Com regressão logística (cap. 11), o resultado exprime-se como razão de probabilidades: 1,09, com intervalo [0,94; 1,26]. A conclusão substantiva não muda, mas deixa de haver previsões que não podem existir.
Menos afirmação, e muito mais informação
O que sobra é modesto: uma associação positiva, compatível com nenhum efeito e com um efeito moderado, entre clientes com o mesmo número de incidentes. Não é a manchete que o primeiro relatório prometia — e é a única coisa que os dados sustentam.
Repare no que mudou de mais importante: a recomendação inicial era cortar o apoio ao cliente. Cinco verificações depois, os dados apontam ligeiramente no sentido contrário. E a última frase do relatório é a que abre o volume seguinte: quem liga pode diferir de quem não liga em coisas que não observámos — que é a pergunta causal, e que nenhuma quantidade de variáveis de controlo resolve sozinha.
Aplique as cinco correções ao último modelo que a sua equipa usou para justificar uma decisão: a forma, a variável em falta, a unidade independente, o modelo apropriado ao tipo de resposta, e a linguagem do relatório. É raro que nenhuma se aplique.
Capítulo 10 Prática
Sobreajuste: o modelo que decorou
Um modelo suficientemente flexível descreve na perfeição os dados que viu — incluindo o ruído — e falha em tudo o resto.
10.1 O problema, em uma frase
Há duas coisas nos dados: o padrão, que se repete em novos dados, e o ruído, que é específico daquela amostra. Um modelo demasiado flexível não sabe distinguir os dois e ajusta-se aos dois — o que o faz parecer excelente onde treinou e mau em todo o lado.
É o mesmo mecanismo do volume II: quanto mais liberdade se dá à análise para se moldar aos dados, menos as garantias significam.
10.2 Os sinais
- Excelente no treino, mau em dados novos. O sintoma definidor.
- Coeficientes enormes e de sinais alternados, que se cancelam mutuamente.
- Instabilidade: retirar 10% dos dados muda substancialmente o modelo.
- Muitas variáveis para poucos casos. Com variáveis a mais é sempre possível ajustar perfeitamente — e um ajuste perfeito não é uma conquista, é um aviso.
10.3 A validação honesta
Separação simples. Guarde uma parte dos dados, não lhe toque, avalie no fim. Simples e suficiente com muitos dados.
Validação cruzada. Divida em k partes, treine em k−1 e avalie na que sobra, rodando. Usa todos os dados e dá uma noção da variabilidade da estimativa.
Separação no tempo. Se vai prever o futuro, treine no passado e avalie no futuro. Misturar períodos ao acaso é uma das formas mais comuns de fuga de informação — o modelo aprende com dados que na prática não teria.
Separação por grupo. Se há várias linhas por cliente, o mesmo cliente não pode estar no treino e na avaliação. É o erro mais frequente em dados de produto, e produz resultados espetaculares e falsos.
O conjunto de teste só se usa uma vez. Se experimentar quinze modelos e escolher o que ficou melhor no teste, o teste passou a fazer parte do treino — e a estimativa de erro que ele dá é otimista.
A prática correta usa três conjuntos: treino, validação (para escolher entre modelos) e teste (usado uma só vez, no fim). É o mesmo problema das comparações múltiplas do volume II, cap. 8, com outro nome.
10.4 O compromisso, sem misticismo
| Modelo | Erro por simplicidade | Erro por instabilidade |
|---|---|---|
| Demasiado simples | Alto — falha o padrão que existe | Baixo — dá quase o mesmo em qualquer amostra |
| Equilibrado | Moderado | Moderado |
| Demasiado flexível | Baixo | Alto — muda muito de amostra para amostra |
Não há forma de eliminar os dois ao mesmo tempo: reduzir um aumenta o outro. A escolha do nível de complexidade é a escolha de onde ficar entre eles, e faz-se empiricamente, medindo em dados não vistos — não por gosto nem por elegância.
Sobre o assunto do ponto de vista de modelos preditivos, com algoritmos e regularização, Machine Learning & IA trata-o em profundidade.
Se tem várias linhas por entidade, faça a validação de duas formas: ao acaso, e separando por entidade. Compare o erro. A diferença entre os dois números é a medida da fuga que estava a acontecer.
Capítulo 11 Núcleo
Os modelos irmãos
A regressão linear é um caso particular. Quando a resposta não é um número contínuo — ou quando os dados vêm em grupos — há a variante certa, e usá-la resolve problemas em vez de os disfarçar.
11.1 O mapa
| A sua resposta é… | Use | O coeficiente diz |
|---|---|---|
| Um número contínuo | Regressão linear | Variação absoluta em y |
| Sim ou não | Regressão logística | Variação no logaritmo das probabilidades relativas |
| Uma contagem (0, 1, 2, …) | Poisson ou binomial negativa | Variação proporcional na taxa |
| Tempo até um acontecimento | Modelos de sobrevivência | Variação no risco instantâneo |
| Contínua, mas em grupos | Modelos de níveis (mistos) | Como o linear, com incerteza correta |
Não é purismo. Ajustar uma recta a dados binários produz previsões impossíveis (probabilidades acima de 1), resíduos com padrão garantido, e erros-padrão errados. Ajustar uma recta a contagens que se concentram em zero produz previsões negativas. São problemas concretos, não estéticos — e a variante correta é uma linha de código diferente.
11.2 Logística: a que mais aparece
Converteu ou não, cancelou ou não, clicou ou não — quase todas as perguntas de produto são binárias. Duas notas de interpretação que evitam a maior parte dos enganos:
- Os coeficientes não são probabilidades. São variações no logaritmo das probabilidades relativas. Exponenciando obtém-se a razão de probabilidades — 1,09 significa "9% mais em razão de probabilidades", que não é "9% mais provável".
- Razão de probabilidades exagera quando o acontecimento é comum. Se algo acontece a 50% das pessoas, uma razão de 2 corresponde a um aumento de risco muito menor do que 2×. Com acontecimentos raros as duas coisas aproximam-se; com frequentes, divergem bastante — e é uma fonte habitual de exagero na comunicação.
Não reporte coeficientes logísticos. Converta em probabilidades previstas: "para um cliente típico, a probabilidade prevista passa de 12% para 14%". É interpretável por qualquer pessoa, não exagera, e é o que permite decidir.
11.3 Contagens
Número de pedidos, de erros, de visitas. Características que quebram o modelo linear: são inteiras, não negativas, e a variabilidade cresce com a média. O modelo de Poisson trata disso — e tem uma limitação frequente: assume que a variância é igual à média, o que em dados reais raramente acontece. A dispersão excessiva é a norma, e há variantes que a acomodam. Ignorá-la produz intervalos demasiado estreitos, mais uma vez no sentido de fabricar confiança.
E uma nota que se aplica a quase todas as contagens: se as unidades observadas tiveram tempos de exposição diferentes — clientes com dois meses e clientes com dois anos —, é preciso incluir isso no modelo, senão está a comparar contagens que não são comparáveis. É a mesma questão de denominadores do volume I, cap. 7.
11.4 Dados em grupos
Alunos dentro de turmas, medições repetidas do mesmo cliente, lojas dentro de regiões, sessões dentro de utilizadores. Observações dentro do mesmo grupo parecem-se mais entre si do que com as de outros grupos — logo, não são independentes.
As três saídas, por ordem crescente de sofisticação:
- Agregar. Uma linha por grupo. Perde-se informação e a inferência fica correta. Frequentemente é suficiente, e é sempre melhor do que ignorar.
- Erros-padrão agrupados. Mantém as linhas todas e corrige a incerteza. Simples, e resolve o essencial.
- Modelo de níveis. Estima explicitamente a variação entre grupos e dentro deles, e permite responder a perguntas que as outras não permitem — quanto varia entre lojas, quais se destacam depois de descontado o acaso.
Há aqui uma ligação ao volume I, cap. 8 que vale a pena notar: uma relação que existe entre grupos pode não existir dentro deles, e vice-versa. Um modelo que ignora a estrutura mistura os dois níveis e responde a uma pergunta que não é nenhuma das duas.
Liste os três últimos modelos que a sua equipa ajustou e o tipo de variável de resposta de cada um. Se algum era binário ou uma contagem e foi tratado com regressão linear, refaça com a variante certa e compare os intervalos.
Capítulo 12 Ofício
Reportar um modelo honesto
Um modelo bem feito e mal reportado é um modelo mal feito. O relatório é onde a maior parte do rigor se perde.
12.1 A lista de verificação
1 · Declare o objetivo. Prever, explicar ou descrever (cap. 2). Tudo o resto decorre daqui.
2 · Diga que dados são. Quantas linhas, quantas unidades independentes, que período, que exclusões e quantas.
3 · Mostre a nuvem de pontos das relações principais, antes da tabela.
4 · Reporte coeficientes com intervalos, em unidades interpretáveis.
5 · Escreva a condição por extenso: "entre casas no mesmo bairro e com o mesmo número de quartos".
6 · Diga o intervalo de valores em que o modelo foi ajustado, e que fora dele não se aplica.
7 · Mostre o diagnóstico, nem que seja um gráfico de resíduos.
8 · Diga quantos modelos experimentou antes deste. É a informação mais omitida e uma das mais relevantes.
9 · Use a palavra certa. "Associa-se a", não "causa" — a não ser que tenha o desenho que o justifique (volume IV).
12.2 As frases que traem
| Não escreva | Escreva |
|---|---|
| "O modelo mostra que X causa Y." | "X associa-se a Y, condicionado a A e B." |
| "Controlámos por todas as variáveis relevantes." | "Incluímos A, B e C. Não observámos D, que pode influenciar ambos." |
| "O R² é 0,82, portanto o modelo é bom." | "O erro típico é de 18 000 €, contra 41 000 € do modelo trivial." |
| "Um aumento de 1 unidade em X produz…" | "Casos que diferem 1 unidade em X diferem, em média,…" |
| "Não encontrámos efeito de X." | "O coeficiente de X é 0,3 [−1,8; +2,4] — este estudo não distingue nada nesse intervalo." |
12.3 O modelo mais simples que serve
Entre dois modelos que respondem à pergunta, prefira o mais simples — não por elegância, mas porque: é mais fácil de explicar a quem decide; falha de forma mais previsível; tem menos parâmetros para sobreajustar; e sobrevive melhor à mudança dos dados.
E há uma comparação que devia estar em todos os relatórios: o modelo trivial. Prever sempre a média, ou prever "igual ao mês passado". Se o modelo elaborado não bater isso por uma margem que justifique a complexidade, a complexidade não se justifica — e este teste elimina mais projetos do que qualquer outro.
12.4 Para onde ir a seguir
IV · Causalidade
A pergunta que este volume adiou dezassete vezes: quando é que um coeficiente pode ser lido como efeito. Confundimento, colisores, o que acontece ao controlar pela variável errada, e o que fazer sem aleatorização.
Se o objetivo era prever
Machine Learning & IA — algoritmos, regularização e a prática de treino. MLOps para o que acontece depois de o modelo sair do computador.
Fazer as contas
Análise de Dados para pandas e o ferramental; Datavis com Python para os gráficos de diagnóstico.
Comunicar o resultado
Comunicação de Dados — como mostrar incerteza a quem não a pediu, e Escrita Analítica para as frases de 12.2.
Pegue no último relatório de modelação da sua equipa e passe-o pelos nove pontos de 12.1. Conte quantos faltavam. Reescreva-o. É a forma mais rápida de instalar a lista como hábito.