Introdução à Econometria Bayesiana

Capítulo 1 - Introdução

ESTE CAPÍTULO INTRODUZ vários conceitos importantes, fornece um guia para o restante do livro e oferece uma perspectiva histórica e sugestões para leituras adicionais.

1.1 Econometria

A econometria preocupa-se principalmente em quantificar a relação entre uma ou mais variáveis $y$, chamadas de variáveis de resposta ou variáveis dependentes, e uma ou mais variáveis $x$, chamadas de regressores, variáveis independentes ou covariáveis.

A variável ou variáveis de resposta podem ser contínuas ou discretas; o último caso inclui dados binários, multinomiais e de contagem. Por exemplo, $y$ pode representar as quantidades demandadas de um conjunto de bens, e $x$ pode incluir a renda e os preços dos bens; ou $y$ pode representar o investimento em equipamentos de capital, e $x$ pode incluir medidas de vendas esperadas, fluxos de caixa e custos de empréstimos; ou $y$ pode representar a decisão de viajar de transporte público em vez de privado, e $x$ pode incluir renda, tarifas e tempo de viagem sob várias alternativas.

Além das covariáveis, assume-se que variáveis aleatórias inobserváveis afetam $y$, de modo que o próprio $y$ é uma variável aleatória. Ele é caracterizado por uma função densidade de probabilidade (f.d.p.) para $y$ contínuo ou uma função de massa de probabilidade (f.m.p.) para $y$ discreto. A f.d.p. ou f.m.p. depende dos valores de parâmetros desconhecidos, denotados por $\theta$. A notação $y \sim f(y|\theta, x)$ significa que $y$ possui a f.d.p. ou f.m.p. $f(y|\theta, x)$, onde a função depende dos parâmetros e das covariáveis. É costume suprimir a dependência das covariáveis ao escrever a f.d.p. de $y$, portanto escrevemos $y \sim f(y|\theta)$ a menos que seja necessário mencionar as covariáveis explicitamente.

Os dados podem assumir a forma de observações em vários indivíduos no mesmo ponto no tempo – dados de corte transversal – ou observações ao longo de vários períodos de tempo – dados de séries temporais. Eles podem ser uma combinação de observações de corte transversal e séries temporais: dados sobre muitos indivíduos ao longo de um período de tempo relativamente curto – dados em painel – ou dados sobre um número relativamente pequeno de indivíduos ao longo de longos períodos de tempo – dados multivariados. Em alguns modelos, o pesquisador considera as covariáveis como números fixos, enquanto em outros elas são tratadas como variáveis aleatórias. Se for o último caso, sua distribuição pode ser independente da distribuição de $y$, ou pode haver dependência. Todas essas possibilidades são discutidas na Parte III.

Uma característica importante dos dados analisados por econometristas é que os dados são quase sempre observacionais, em contraste com os dados provenientes de experimentos controlados, onde os indivíduos são aleatoriamente designados para tratamentos. Dados observacionais são frequentemente gerados para fins que não a pesquisa, por exemplo, como subprodutos de dados coletados por razões governamentais e administrativas. Dados observacionais também podem ser coletados por meio de pesquisas, algumas das quais podem ser especialmente projetadas para fins de pesquisa. Independentemente de como forem coletados, no entanto, a análise de dados observacionais requer cuidados especiais, especialmente na análise de efeitos causais – a tentativa de determinar o efeito de uma covariável sobre uma variável de resposta quando a covariável é uma variável cujo valor pode ser definido por um investigador, como o efeito de participar de um programa de treinamento na renda e no emprego, ou o efeito do exercício na saúde. Quando tais dados são coletados observando o que as pessoas escolhem fazer, em vez de um experimento controlado no qual elas são instruídas sobre o que fazer, há a possibilidade de que as pessoas que escolhem fazer o treinamento ou se exercitar sejam diferentes de alguma forma sistemática das pessoas que não o fazem. Se for esse o caso, tentar generalizar o efeito do treinamento ou do exercício para pessoas que não escolhem livremente essas opções pode dar respostas enganosas. Os modelos discutidos na Parte III são projetados para lidar com dados observacionais.

Dependendo da natureza dos dados, modelos são construídos para relacionar variáveis de resposta a covariáveis. Um grande número de modelos que podem ser aplicados a tipos particulares de dados foi desenvolvido, mas, como novos tipos de conjuntos de dados podem exigir novos modelos, é importante aprender a lidar com modelos que não foram previamente analisados. Estudar como a metodologia Bayesiana tem sido aplicada a uma variedade de modelos existentes é útil para desenvolver técnicas que possam ser aplicadas a novos modelos.

1.2 Plano do Livro

A Parte I do livro estabelece as ideias básicas da abordagem Bayesiana para a inferência estatística. Ela começa com uma explicação da probabilidade subjetiva para justificar a aplicação da teoria das probabilidades a situações gerais de incerteza. Com essa base, o Teorema de Bayes é invocado para definir a distribuição a posteriori, o conceito central na inferência estatística Bayesiana. Mostramos como a distribuição a posteriori pode ser usada para resolver os problemas padrão da inferência estatística – estimação pontual e intervalar, previsão e comparação de modelos. Este material é ilustrado com o modelo de Bernoulli de lançamento de moedas. Devido à sua simplicidade, todos os cálculos relevantes podem ser feitos analiticamente.

O restante da Parte I é dedicado às propriedades gerais das distribuições a posteriori e à especificação das distribuições a priori. Essas propriedades são ilustradas com os modelos de distribuição normal e regressão linear. Para modelos mais complicados, voltamo-nos para a simulação como uma forma de estudar as distribuições a posteriori, porque é impossível fazer os cálculos necessários de forma analítica.

A Parte II é dedicada à explicação das técnicas de simulação. Começamos com os métodos clássicos de simulação que produzem amostras independentes, mas são inadequados para lidar com muitos modelos estatísticos comuns. O restante da Parte II descreve a simulação por Cadeias de Markov Monte Carlo (MCMC), um método de simulação flexível que pode lidar com uma ampla variedade de modelos.

A Parte III aplica as técnicas de MCMC a modelos comumente encontrados em econometria e estatística. Enfatizamos o design de algoritmos para analisar esses modelos como uma forma de preparar o aluno para conceber algoritmos para os novos modelos que surgirão no curso de sua pesquisa.

O Apêndice A contém definições, propriedades e notação para as distribuições de probabilidade padrão que são usadas ao longo do livro, alguns teoremas importantes de probabilidade e vários resultados úteis de álgebra matricial. O Apêndice B descreve programas de computador para implementar os métodos discutidos no livro.

1.3 Nota Histórica e Leituras Adicionais

A estatística Bayesiana recebeu o nome do Rev. Thomas Bayes (1702–1761), e contribuições importantes para as ideias, sob a rubrica de "probabilidade inversa", foram feitas por Pierre-Simon Laplace (1749–1827). Stigler (1986) é uma excelente introdução à história da estatística até o início do século XX. Outra abordagem importante para a inferência, a abordagem frequentista, foi desenvolvida em grande parte na segunda metade do século XIX. Os principais defensores da abordagem no século XX foram R. A. Fisher, J. Neyman e E. Pearson, embora o ponto de vista de Fisher difira em aspectos importantes dos outros. Howie (2002) fornece um resumo conciso do desenvolvimento da probabilidade e da estatística até a década de 1920 e, em seguida, foca no debate entre H. Jeffreys, que assumiu a posição Bayesiana, e R. A. Fisher, que argumentou contra ela.

A aplicação do ponto de vista Bayesiano a modelos econométricos foi pioneira por A. Zellner no início da década de 1960. Seu trabalho inicial é resumido em seu livro altamente influente, Zellner (1971), e ele continua a contribuir para a literatura. Um avanço importante na abordagem Bayesiana para a inferência estatística ocorreu no início da década de 1990 com a aplicação da simulação por Cadeias de Markov Monte Carlo a modelos estatísticos e econométricos. Esta é uma área ativa de pesquisa por estatísticos, econometristas e probabilistas.

Vários outros livros didáticos recentes cobrem econometria Bayesiana: Poirier (1995), Koop (2003), Lancaster (2004) e Geweke (2005). O livro de Poirier, ao contrário do presente livro e dos outros mencionados anteriormente, compara e contrasta os métodos Bayesianos com outras abordagens para estatística e econometria em grandes detalhes. O presente livro foca nos métodos Bayesianos com apenas comentários ocasionais sobre a abordagem frequentista. Dois livros didáticos que enfatizam o ponto de vista frequentista – Mittelhammer et al. (2000) e Greene (2003) – também discutem a inferência Bayesiana.

Vários livros de estatística adotam o ponto de vista Bayesiano. Berry (1996) é uma excelente introdução às ideias Bayesianas. Sua discussão sobre as diferenças entre dados observacionais e experimentais é altamente recomendada. Outro excelente livro introdutório é Bolstad (2004). Livros excelentes de nível intermediário com muitos exemplos são Carlin e Louis (2000) e Gelman et al. (2004). Em um nível mais avançado, os seguintes são especialmente recomendados: O’Hagan (1994), Robert (1994), Bernardo e Smith (1994), Lee (1997) e Jaynes (2003).

Embora direcionados a um público estatístico geral, três livros de Congdon (2001, 2003, 2005) cobrem muitos modelos econométricos comuns e utilizam extensivamente os métodos de Cadeias de Markov Monte Carlo. Schervish (1995) cobre ideias Bayesianas e frequentistas em um nível avançado.