Capítulo 8Inferências Ótimas

No Capítulo 5, apresentamos o ingrediente básico da inferência estatística: o modelo estatístico. No Capítulo 6, desenvolvemos métodos de inferência baseados apenas no modelo, por meio da função de verossimilhança¹. No Capítulo 7, acrescentamos a distribuição a priori² para o parâmetro do modelo, o que levou à distribuição a posteriori³ como base para obter métodos de inferência.

Tanto com a verossimilhança⁴ quanto com a distribuição a posteriori, porém, as inferências foram obtidas, em grande parte, com base na intuição. Por exemplo, quando tínhamos uma característica de interesse \(\psi(\theta)\), nada na teoria dos Capítulos 6 e 7 nos obrigava a escolher um estimador, um intervalo de confiança⁵ ou de credibilidade ou um procedimento de teste em particular. Uma teoria completa da inferência estatística, porém, prescreveria totalmente nossas inferências.

Uma tentativa de resolver essa questão é introduzir uma medida de desempenho para as inferências e, então, escolher a inferência que se sai melhor com respeito a essa medida. Por exemplo, podemos escolher medir o desempenho dos estimadores pelo seu erro quadrático médio⁶ (MSE) e, então, tentar obter um estimador com o menor MSE possível. Essa é a abordagem de otimalidade da inferência, e ela tem tido bastante sucesso em vários problemas. Neste capítulo, veremos vários sucessos da abordagem de otimalidade na obtenção de inferências.

Às vezes, a medida de desempenho que usamos pode ser considerada como baseada no que se chama de função de perda⁷. As funções de perda formam a base de mais uma abordagem da inferência estatística, chamada teoria da decisão⁸. Embora nem sempre uma medida de desempenho seja baseada numa função de perda, isso vale em alguns dos problemas mais importantes da inferência estatística. A teoria da decisão fornece um arcabouço geral para discutir esses problemas. Uma breve introdução à teoria da decisão é dada na Seção 8.4, como tópico avançado.

8.1 Estimação Não Viesada Ótima

Suponha que queremos estimar a característica real \(\psi(\theta)\) do modelo estatístico \(\{f_\theta : \theta \in \negrito{\Omega}\}\). Se observamos os dados \(s\), uma estimativa⁹ é um valor \(T(s)\) que o estatístico espera que esteja perto do verdadeiro valor de \(\psi(\theta)\). Dizemos que \(T\) é um estimador de \(\psi\). O erro da estimativa é dado por \(\lvert T(s) - \psi(\theta)\rvert\). Por várias razões (a maioria ligada à matemática), é mais conveniente considerar o erro quadrático \((T(s) - \psi(\theta))^2\).

É claro que gostaríamos que esse erro quadrático fosse o menor possível. Como não conhecemos o verdadeiro valor de \(\theta\), isso nos leva a considerar as distribuições do erro quadrático quando \(s\) tem distribuição dada por \(f_\theta\), para cada \(\theta \in \negrito{\Omega}\). Gostaríamos, então, de escolher o estimador \(T\) de modo que essas distribuições fiquem o mais concentradas possível em torno de 0. Uma medida conveniente da concentração dessas distribuições em torno de 0 é dada por suas médias, isto é, \begin{equation} \mathrm{MSE}_\theta(T) = E_\theta((T - \psi(\theta))^2), \tag{8.1.1}\end{equation} chamada de erro quadrático médio (lembre a Definição 6.3.1).

Um estimador ótimo de \(\psi(\theta)\) é, então, um \(T\) que minimiza (8.1.1) para todo \(\theta \in \negrito{\Omega}\). Em outras palavras, \(T\) seria ótimo se, para qualquer outro estimador \(T^*\) definido em \(S\), tivéssemos \[ \mathrm{MSE}_\theta(T) \le \mathrm{MSE}_\theta(T^*) \] para cada \(\theta\). Infelizmente, pode-se mostrar que, exceto em circunstâncias muito artificiais, não existe tal \(T\); por isso, precisamos modificar nosso problema de otimização.

Essa modificação consiste em restringir os estimadores \(T\) que admitiremos como escolhas possíveis para a inferência. Considere um estimador \(T\) tal que \(E_\theta(T)\) não existe ou é infinito. Pode-se mostrar, então, que (8.1.1) é infinito (veja o Desafio 8.1.26). Assim, primeiro restringiremos nossa busca aos \(T\) para os quais \(E_\theta(T)\) é finito para todo \(\theta\).

Outras restrições aos tipos de estimadores que consideramos usam o resultado a seguir (lembre também o Teorema 6.3.1).

8.1.1 O Teorema de Rao–Blackwell e a Rao–Blackwellização

Vamos provar que, quando procuramos um \(T\) que minimize (8.1.1), podemos restringir ainda mais nossa atenção a estimadores \(T\) que dependem dos dados apenas por meio do valor de uma estatística suficiente¹⁰. Isso simplifica nossa busca, pois a suficiência muitas vezes resulta numa redução da dimensão dos dados (lembre a discussão e os exemplos da Seção 6.1.1). Antes, porém, precisamos da seguinte propriedade da suficiência.

A consequência desse resultado é que a informação contida nos dados \(s\) além do valor \(U(s) = u\) não pode nos dizer nada sobre o verdadeiro valor de \(\theta\), porque essa informação vem de uma distribuição que não depende do parâmetro. Observe que o Teorema 8.1.2 é uma caracterização da suficiência, alternativa à dada na Seção 6.1.1.

Considere um exemplo simples que ilustra o conteúdo do Teorema 8.1.2.

Agora combinamos os Teoremas 8.1.1 e 8.1.2 para mostrar que podemos restringir nossa atenção a estimadores \(T\) que dependem dos dados apenas por meio do valor de uma estatística suficiente \(U\). Pelo Teorema 8.1.2, podemos denotar a medida de probabilidade condicional¹² de \(s\), dado \(U(s) = u\), por \(P(\cdot \mid U = u)\), isto é, essa medida de probabilidade¹³ não depende de \(\theta\), pois é a mesma para todo \(\theta \in \negrito{\Omega}\).

Para um estimador \(T\) de \(\psi(\theta)\) tal que \(E_\theta(T)\) é finito para todo \(\theta\), tome \(T_U(s)\) igual à esperança condicional¹⁴ de \(T\) dado o valor de \(U(s)\), ou seja, \[ T_U(s) = E_{P(\cdot \mid U = U(s))}(T), \] isto é, \(T_U\) é o valor médio¹⁵ de \(T\) quando tomamos a média usando \(P(\cdot \mid U = U(s))\). Observe que \(T_U(s_1) = T_U(s_2)\) sempre que \(U(s_1) = U(s_2)\) (isso porque \(P(\cdot \mid U = U(s_1))\) \({}= P(\cdot \mid U = U(s_2))\)) e, assim, \(T_U\) depende dos dados \(s\) apenas por meio do valor de \(U(s)\).

O Teorema 8.1.3 mostra que sempre podemos melhorar (ou, pelo menos, não piorar) qualquer estimador \(T\) que tenha segundo momento finito, substituindo \(T(s)\) pela estimativa \(T_U(s)\). Esse processo às vezes é chamado de Rao–Blackwellização de um estimador.

Observe que tomar \(E = E_\theta\) e \(c = \psi(\theta)\) no Teorema 8.1.1 implica \begin{equation} \mathrm{MSE}_\theta(T) = \Var_\theta(T) + (E_\theta(T) - \psi(\theta))^2. \tag{8.1.4}\end{equation} Assim, o MSE de \(T\) pode ser decomposto como a soma da variância¹⁷ de \(T\) com o quadrado do viés de \(T\) (isso também foi provado no Teorema 6.3.1).

O Teorema 8.1.1 tem outra consequência importante, pois (8.1.4) é minimizado tomando \(\psi(\theta) = E_\theta(T)\). Isso indica que, em média, o estimador \(T\) fica mais perto (em termos de erro quadrático) de \(E_\theta(T)\) do que de qualquer outro valor. Assim, se estamos amostrando da distribuição especificada por \(\theta\), \(T(s)\) é uma estimativa natural de \(E_\theta(T)\). Portanto, para uma característica geral \(\psi(\theta)\), faz sentido restringir a atenção a estimadores com viés igual a 0. Isso leva à definição a seguir.

Observe que, para estimadores não viesados com segundo momento finito, (8.1.4) se torna \[ \mathrm{MSE}_\theta(T) = \Var_\theta(T). \] Portanto, nossa busca por um estimador ótimo se tornou a busca por um estimador não viesado de menor variância. Se tal estimador existe, damos a ele um nome especial.

É importante notar que o teorema de Rao–Blackwell (Teorema 8.1.3) também se aplica a estimadores não viesados. Isso porque a Rao–Blackwellização de um estimador não viesado produz um estimador não viesado, como mostra o resultado a seguir.

Há muitas situações em que a teoria da estimação²⁰ não viesada leva a bons estimadores. O exemplo a seguir, porém, mostra que em alguns problemas não existem estimadores não viesados e, portanto, a teoria tem algumas limitações.

Se uma característica \(\psi(\theta)\) tem um estimador não viesado, diz-se que ela é U-estimável. Deve-se ter em mente, porém, que o fato de um parâmetro não ser U-estimável não significa que não podemos estimá-lo! Por exemplo, \(\psi\) no Exemplo 8.1.2 é uma função injetora²³ de \(\theta\); assim, o EMV de \(\psi\) é dado por \(\bar{x}/(1 - \bar{x})\) (veja o Teorema 6.2.1), e esse parece um estimador razoável, mesmo sendo viesado.

8.1.2 Completude e o Teorema de Lehmann–Scheffé

Em certas circunstâncias, se existe um estimador não viesado que é função de uma estatística suficiente \(U\), então só existe um estimador assim; logo, ele tem de ser UMVU. Precisamos do conceito de completude²⁴ para estabelecer isso.

Em teoria das probabilidades, tratamos duas funções como equivalentes se elas diferem apenas num conjunto de probabilidade 0, pois a probabilidade de as funções assumirem valores diferentes num valor observado da resposta é 0. Assim, na Definição 8.1.3, não precisamos distinguir entre \(h\) e a constante 0. Portanto, uma estatística \(U\) é completa se o único estimador não viesado de 0 baseado em \(U\) é o próprio 0.

Podemos agora obter o resultado a seguir.

O teorema de Rao–Blackwell para estimadores não viesados (Teorema 8.1.4), junto com o teorema de Lehmann–Scheffé, fornece um método para obter um estimador UMVU de \(\psi(\theta)\). Suponha que conseguimos encontrar um estimador não viesado \(T\) com segundo momento finito. Se também temos uma estatística suficiente completa \(U\), então, pelo Teorema 8.1.4, \(T_U(s) = E_{P(\cdot \mid U = U(s))}(T)\) é não viesado para \(\psi(\theta)\) e depende dos dados apenas por meio do valor de \(U\), pois \(T_U(s_1) = T_U(s_2)\) sempre que \(U(s_1) = U(s_2)\). Portanto, pelo Teorema 8.1.5, \(T_U\) é UMVU para \(\psi(\theta)\).

Não é necessário que, num dado problema, exista uma estatística suficiente completa. Na verdade, pode-se provar que a única candidata a isso é uma estatística suficiente minimal²⁵ (lembre a definição na Seção 6.1.1). Assim, num dado problema, precisamos obter uma estatística suficiente minimal e, então, determinar se ela é completa ou não. Ilustramos isso com um exemplo.

Os argumentos necessários para mostrar a completude de uma estatística suficiente minimal num problema costumam ser parecidos com o que foi exigido no Exemplo 8.1.3 (veja o Desafio 8.1.27). Em vez de entrar nesses detalhes técnicos aqui, citamos alguns exemplos importantes em que a estatística suficiente minimal é completa.

8.1.3 A Desigualdade de Cramer–Rao (Avançado)

Existe uma desigualdade fundamental que vale para a variância de um estimador \(T\). Ela é dada pela desigualdade de Cramer–Rao²⁸ (às vezes chamada de desigualdade da informação). Ela é um corolário da desigualdade a seguir.

Agora suponha que \(\negrito{\Omega}\) é um subintervalo aberto de \(R^1\) e tomamos \begin{equation} U_\theta(s) = S(\theta \mid s) = \frac{\partial \ln f_\theta(s)}{\partial \theta}, \tag{8.1.7}\end{equation} isto é, \(U_\theta\) é a função escore³¹. Suponha que valem as condições discutidas na Seção 6.5, de modo que \(E_\theta(S(\theta \mid s)) = 0\) para todo \(\theta\) e a informação de Fisher³² \(I(\theta) = \Var_\theta(S(\theta \mid s))\) é finita. Então, usando \[ \frac{\partial \ln f_\theta(s)}{\partial \theta} = \frac{\partial f_\theta(s)}{\partial \theta}\,\frac{1}{f_\theta(s)}, \] temos \begin{align} &\Cov_\theta(T, U_\theta) \notag\\ &\quad = E_\theta\left(T(s)\frac{\partial \ln f_\theta(s)}{\partial \theta}\right) = E_\theta\left(T(s)\frac{\partial f_\theta(s)}{\partial \theta}\,\frac{1}{f_\theta(s)}\right) \notag\\ &\quad = \sum_s \left(T(s)\frac{\partial f_\theta(s)}{\partial \theta}\,\frac{1}{f_\theta(s)}\right) f_\theta(s) = \frac{\partial}{\partial \theta} \sum_s T(s) f_\theta(s) = \frac{\partial E_\theta(T)}{\partial \theta}, \tag{8.1.8} \end{align} no caso discreto, em que supusemos condições como as discutidas na Seção 6.5, de modo que podemos passar a derivada parcial para dentro da soma. Um argumento semelhante dá a igualdade (8.1.8) também no caso contínuo.

A desigualdade da covariância, aplicada com \(U_\theta\) especificada como em (8.1.7) e usando (8.1.8), dá o resultado a seguir.

A desigualdade de Cramer–Rao fornece uma cota inferior³³ fundamental para a variância de um estimador \(T\). Por (8.1.4), sabemos que a variância é uma medida relevante da precisão de um estimador apenas quando o estimador é não viesado; por isso, reenunciamos o Corolário 8.1.1 para esse caso.

Observe que, quando \(\psi(\theta) = \theta\), o Corolário 8.1.2 diz que a variância do estimador não viesado \(T\) é limitada inferiormente pelo inverso da informação de Fisher. De modo mais geral, quando \(\psi\) é uma transformação injetora e suave, temos (usando o Desafio 6.5.19) que a variância de um \(T\) não viesado é de novo limitada inferiormente pelo inverso da informação de Fisher, mas desta vez o modelo usa a parametrização em termos de \(\psi(\theta)\).

O Corolário 8.1.2 tem várias consequências interessantes. Primeiro, se obtemos um estimador não viesado \(T\) cuja variância atinge a cota inferior, sabemos imediatamente que ele é UMVU. Segundo, sabemos que qualquer estimador não viesado que atinge a cota inferior tem a forma dada em (8.1.9). Observe que o lado direito de (8.1.9) precisa ser independente de \(\theta\) para que isso seja um estimador. Se não for, então não há estimadores UMVU cuja variância atinja a cota inferior. O exemplo a seguir mostra que há casos em que existem estimadores UMVU, mas sua variância não atinge a cota inferior.

Lembre agora os Teoremas 6.5.2 e 6.5.3. As consequências desses resultados, com algumas condições adicionais, são que o EMV de \(\theta\) é assintoticamente não viesado para \(\theta\) e que a variância assintótica do EMV está na cota inferior da informação. Isso muitas vezes é interpretado como querendo dizer que, com amostras grandes, o EMV faz uso completo da informação sobre \(\theta\) contida nos dados.

Exercícios

8.1.1 Suponha que um modelo estatístico é dado pelas duas distribuições da tabela a seguir.

Se \(T : \{1, 2, 3, 4\} \to \{1, 2, 3, 4\}\) é definida por \(T(1) = T(2) = 1\) e \(T(s) = s\) nos demais casos, prove que \(T\) é uma estatística suficiente. Obtenha as distribuições condicionais de \(s\) dado \(T(s)\) e mostre que elas não dependem de \(\theta\).

8.1.2 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição com média \(\mu\) e variância \(\sigma^2\). Prove que \(s^2 = (n - 1)^{-1} \sum_{i=1}^{n} (x_i - \bar{x})^2\) é não viesado para \(\sigma^2\).

8.1.3 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(N(\mu, \sigma_0^2)\), em que \(\mu \in R^1\) é desconhecido e \(\sigma_0^2\) é conhecido. Determine um estimador UMVU do segundo momento \(\mu^2 + \sigma_0^2\).

8.1.4 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(N(\mu, \sigma_0^2)\), em que \(\mu \in R^1\) é desconhecido e \(\sigma_0^2\) é conhecido. Determine um estimador UMVU do primeiro quartil \(\mu + \sigma_0 z_{0{,}25}\).

8.1.5 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(N(\mu, \sigma_0^2)\), em que \(\mu \in R^1\) é desconhecido e \(\sigma_0^2\) é conhecido. \(2\bar{x} + 3\) é um estimador UMVU de alguma coisa? Se for, é UMVU para quê? Justifique sua resposta.

8.1.6 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição Bernoulli\((\theta)\), em que \(\theta \in [0, 1]\) é desconhecido. Determine um estimador UMVU de \(\theta\) (use o fato de que uma estatística suficiente minimal para esse modelo é completa).

8.1.7 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição Gama\((\alpha_0, \beta)\), em que \(\alpha_0\) é conhecido e \(\beta > 0\) é desconhecido. Usando o fato de que \(\bar{x}\) é uma estatística suficiente completa (veja o Desafio 8.1.27), determine um estimador UMVU de \(\beta^{-1}\).

8.1.8 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(N(\mu_0, \sigma^2)\), em que \(\mu_0\) é conhecido e \(\sigma^2 > 0\) é desconhecido. Mostre que \(\sum_{i=1}^{n} (x_i - \mu_0)^2\) é uma estatística suficiente para esse problema. Usando o fato de que ela é completa, determine um estimador UMVU para \(\sigma^2\).

8.1.9 Suponha que um modelo estatístico é formado por todas as distribuições contínuas em \(R^1\). Com base numa amostra de tamanho \(n\), determine um estimador UMVU de \(P((-1, 1))\), em que \(P\) é a verdadeira medida de probabilidade. Justifique sua resposta.

8.1.10 Suponha que um modelo estatístico é formado por todas as distribuições contínuas em \(R^1\) que têm segundo momento finito. Com base numa amostra de tamanho \(n\), determine um estimador UMVU de \(\mu^2\), em que \(\mu\) é a verdadeira média. Justifique sua resposta. (Sugestão: encontre um estimador não viesado para \(n = 2\), Rao–Blackwellize esse estimador para uma amostra de tamanho \(n\) e, então, use o teorema de Lehmann–Scheffé.)

8.1.11 O estimador determinado no Exercício 8.1.10 também é não viesado para \(\mu^2\) quando o modelo estatístico é formado por todas as distribuições contínuas em \(R^1\) que têm primeiro momento finito. Esse estimador continua sendo UMVU para \(\mu^2\)?

Problemas

8.1.12 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição Uniforme³⁶\([0, \theta]\), em que \(\theta > 0\) é desconhecido. Mostre que \(x_{(n)}\) é uma estatística suficiente e determine sua distribuição. Usando o fato de que \(x_{(n)}\) é completa, determine um estimador UMVU de \(\theta\).

8.1.13 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição Bernoulli\((\theta)\), em que \(\theta \in [0, 1]\) é desconhecido. Determine, então, a distribuição condicional de \((x_1, \ldots, x_n)\) dado o valor da estatística suficiente \(\bar{x}\).

8.1.14 Prove que \(L(\theta, a) = (\theta - a)^2\) satisfaz \[ L(\theta, \alpha a_1 + (1 - \alpha) a_2) \le \alpha L(\theta, a_1) + (1 - \alpha) L(\theta, a_2) \] quando \(a\) varia num subintervalo de \(R^1\). Use esse resultado junto com a desigualdade de Jensen³⁷ (Teorema 3.6.4) para provar o teorema de Rao–Blackwell.

8.1.15 Prove que \(L(\theta, a) = \lvert\theta - a\rvert\) satisfaz \[ L(\theta, \alpha a_1 + (1 - \alpha) a_2) \le \alpha L(\theta, a_1) + (1 - \alpha) L(\theta, a_2) \] quando \(a\) varia num subintervalo de \(R^1\). Use esse resultado junto com a desigualdade de Jensen (Teorema 3.6.4) para provar o teorema de Rao–Blackwell para o erro absoluto. (Sugestão: primeiro mostre que \(\lvert x + y\rvert \le \lvert x\rvert\) \({}+ \lvert y\rvert\) para quaisquer \(x\) e \(y\).)

8.1.16 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(N(\mu, \sigma^2)\), em que \((\mu, \sigma^2) \in R^1 \times (0, \infty)\) é desconhecido. Mostre que o estimador ótimo (no sentido de minimizar o MSE) da forma \(cs^2\) para \(\sigma^2\) é dado por \(c = (n - 1)/(n + 1)\). Determine o viés desse estimador e mostre que ele vai para 0 quando \(n \to \infty\).

8.1.17 Prove que, se uma estatística \(T\) é completa para um modelo e \(U = h(T)\) para uma função injetora \(h\), então \(U\) também é completa.

8.1.18 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(N(\mu, \sigma^2)\), em que \((\mu, \sigma^2) \in R^1 \times (0, \infty)\) é desconhecido. Obtenha um estimador UMVU do desvio padrão³⁸ \(\sigma\). (Sugestão: calcule o valor esperado³⁹ do desvio padrão⁴⁰ amostral \(s\).)

8.1.19 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(N(\mu, \sigma^2)\), em que \((\mu, \sigma^2) \in R^1 \times (0, \infty)\) é desconhecido. Obtenha um estimador UMVU do primeiro quartil \(\mu + \sigma z_{0{,}25}\). (Sugestão: Problema 8.1.17.)⁴¹

8.1.20 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(N(\mu, \sigma_0^2)\), em que \(\theta \in \negrito{\Omega}\) \({}= \{\mu_1, \mu_2\}\) é desconhecido e \(\sigma_0^2 > 0\) é conhecido. Estabeleça que \(\bar{x}\) é uma estatística suficiente minimal para esse modelo, mas que não é completa.

8.1.21 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(N(\mu, \sigma_0^2)\), em que \(\mu \in R^1\) é desconhecido e \(\sigma_0^2\) é conhecido. Determine a cota inferior da informação, para um estimador não viesado, quando consideramos a estimação do segundo momento \(\mu^2 + \sigma_0^2\). O estimador UMVU do Exercício 8.1.3 atinge a cota inferior da informação?

8.1.22 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição Gama\((\alpha_0, \beta)\), em que \(\alpha_0\) é conhecido e \(\beta > 0\) é desconhecido. Determine a cota inferior da informação para a estimação de \(\beta^{-1}\) por estimadores não viesados e determine se o estimador UMVU obtido no Exercício 8.1.7 a atinge.

8.1.23 Suponha que \((x_1, \ldots, x_n)\) é uma amostra da distribuição com densidade \(f_\theta(x) = \theta x^{\theta - 1}\) para \(x \in [0, 1]\), em que \(\theta > 0\) é desconhecido. Determine a cota inferior da informação para a estimação de \(\theta\) por estimadores não viesados. Existe um estimador UMVU com variância na cota inferior para esse problema?

8.1.24 Suponha que uma estatística \(T\) é uma estatística completa⁴² baseada em algum modelo estatístico. Um submodelo é um modelo estatístico formado apenas por algumas das distribuições do modelo original. Por que \(T\) não é necessariamente completa para um submodelo?

8.1.25 Suponha que uma estatística \(T\) é uma estatística completa baseada em algum modelo estatístico. Se construímos um modelo maior que contém todas as distribuições do modelo original e é tal que qualquer conjunto com probabilidade 0 para toda distribuição do modelo original também tem probabilidade 0 para toda distribuição do modelo maior, prove que \(T\) também é completa para o modelo maior.

Desafios

8.1.26 Se \(X\) é uma variável aleatória⁴³ tal que \(E(X)\) não existe ou é infinito, mostre que \(E((X - c)^2) = \infty\) para qualquer constante \(c\).

8.1.27 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição Gama\((\alpha_0, \beta)\), em que \(\alpha_0\) é conhecido e \(\beta > 0\) é desconhecido. Mostre que \(\bar{x}\) é uma estatística suficiente minimal completa.

8.2 Testes de Hipóteses Ótimos

Suponha que queiramos avaliar uma hipótese sobre a característica real \(\psi(\theta)\) do modelo \(\{f_\theta : \theta \in \negrito{\Omega}\}\). Tipicamente, ela terá a forma \(H_0 : \psi(\theta) = \psi_0\), em que especificamos um valor para \(\psi\). Depois de observar os dados \(s\), queremos avaliar se temos ou não evidência contra \(H_0\).

Na Seção 6.3.3, discutimos métodos para avaliar uma hipótese desse tipo com base no EMV plug-in de \(\psi(\theta)\). Eles envolviam calcular um valor-p como medida de quão surpreendentes são os dados \(s\) quando se supõe que a hipótese nula⁴⁴ é verdadeira. Se \(s\) é surpreendente para cada uma das distribuições \(f_\theta\) com \(\psi(\theta) = \psi_0\), então temos evidência contra \(H_0\). O desenvolvimento desses procedimentos se baseou em grande parte na justificativa intuitiva da função de verossimilhança.

8.2.1 A Função Poder de um Teste

Intimamente associado a um procedimento específico de cálculo de um valor-p está o conceito de função poder⁴⁵ \(\beta(\theta)\), definido na Seção 6.3.6. Para isso, especificamos um valor crítico \(\alpha\) tal que declaramos os resultados do teste estatisticamente significativos sempre que o valor-p for menor ou igual a \(\alpha\). O poder \(\beta(\theta)\) é então a probabilidade de o valor-p ser menor ou igual a \(\alpha\) quando amostramos de \(f_\theta\). Quanto maior o valor de \(\beta(\theta)\), quando \(\psi(\theta) \ne \psi_0\), melhor o procedimento detecta afastamentos de \(H_0\). A função poder é, portanto, uma medida da sensibilidade do procedimento de teste para detectar afastamentos de \(H_0\).

Lembre-se do seguinte exemplo fundamental.

8.2.2 Erros Tipo I e Tipo II

Adotamos agora um ponto de vista diferente. Vamos procurar testes que sejam ótimos para testar a hipótese nula \(H_0 : \psi(\theta) = \psi_0\). Primeiro, vamos supor que, tendo observado os dados \(s\), decidiremos aceitar ou rejeitar \(H_0\). Se rejeitarmos \(H_0\), isso equivale a aceitar a alternativa \(H_a : \psi(\theta) \ne \psi_0\). Nossa medida de desempenho para avaliar procedimentos de teste será então a probabilidade de o procedimento de teste cometer um erro.

Há dois tipos de erro. Podemos cometer um erro tipo I⁴⁷ — rejeitar \(H_0\) quando ela é verdadeira — ou cometer um erro tipo II⁴⁸ — aceitar \(H_0\) quando \(H_0\) é falsa. Note que, se rejeitarmos \(H_0\), isso implica que estamos aceitando a hipótese alternativa \(H_a : \psi(\theta) \ne \psi_0\).

Acontece que, exceto em circunstâncias muito artificiais, não há procedimentos de teste que minimizem simultaneamente as probabilidades de cometer os dois tipos de erro. Por isso, vamos impor uma cota superior⁴⁹ \(\alpha\), chamada de valor crítico, à probabilidade de cometer um erro tipo I. Procuramos então, entre os testes cuja probabilidade de cometer um erro tipo I é menor ou igual a \(\alpha\), um procedimento de teste que minimize a probabilidade de cometer um erro tipo II.

Às vezes, os problemas de teste de hipóteses⁵⁰ para parâmetros reais são classificados como unilaterais ou bilaterais. Por exemplo, se \(\theta\) é real, então \(H_0 : \theta = \theta_0\) versus \(H_a : \theta \ne \theta_0\) é um problema de teste bilateral⁵¹, enquanto \(H_0 : \theta \le \theta_0\) versus \(H_a : \theta > \theta_0\) ou \(H_0 : \theta \ge \theta_0\) versus \(H_a : \theta < \theta_0\) são exemplos de problemas unilaterais. Note, porém, que, se definirmos \[ \psi(\theta) = I_{(\theta_0, \infty)}(\theta), \] então \(H_0 : \theta \le \theta_0\) versus \(H_a : \theta > \theta_0\) é equivalente ao problema \(H_0 : \psi(\theta) = 0\) versus \(H_a : \psi(\theta) \ne 0\). Da mesma forma, se definirmos \[ \psi(\theta) = I_{(-\infty, \theta_0)}(\theta), \] então \(H_0 : \theta \ge \theta_0\) versus \(H_a : \theta < \theta_0\) é equivalente ao problema \(H_0 : \psi(\theta) = 0\) versus \(H_a : \psi(\theta) \ne 0\). Assim, a formulação que adotamos para problemas de teste sobre um \(\psi\) geral inclui os problemas unilaterais como casos particulares.

8.2.3 Regiões de Rejeição e Funções de Teste

Uma maneira de especificar um procedimento de teste é escolher um subconjunto \(R \subset S\) antes de observarmos \(s\). Então rejeitamos \(H_0\) sempre que \(s \in R\) e aceitamos \(H_0\) sempre que \(s \notin R\). O conjunto \(R\) é chamado de região de rejeição⁵². Impor uma cota superior à probabilidade de rejeitar \(H_0\) quando ela é verdadeira leva ao seguinte.

Assim, (8.2.1) expressa a cota para a probabilidade de cometer um erro tipo I.

Entre todas as regiões de rejeição \(R\) de tamanho \(\alpha\), queremos encontrar aquela (se existir) que minimiza a probabilidade de cometer um erro tipo II. Isso equivale a encontrar a região de rejeição \(R\) de tamanho \(\alpha\) que maximiza a probabilidade de rejeitar a hipótese nula quando ela é falsa. Essa probabilidade pode ser expressa em termos da função poder de \(R\) e é dada por \(\beta(\theta) = P_\theta(R)\) sempre que \(\psi(\theta) \ne \psi_0\).

Para especificar por completo a abordagem de otimalidade para testes de hipóteses, precisamos de mais um ingrediente. Observe que nossa busca por uma região de rejeição \(R\) ótima de tamanho \(\alpha\) equivale a encontrar a função indicadora⁵³ \(I_R\) que satisfaz \(\beta(\theta)\) \({}= E_\theta(I_R)\) \({}= P_\theta(R) \le \alpha\), quando \(\psi(\theta) = \psi_0\), e maximiza \(\beta(\theta) = E_\theta(I_R) = P_\theta(R)\), quando \(\psi(\theta) \ne \psi_0\). Acontece que, em vários problemas, não existe tal região de rejeição.

Por outro lado, muitas vezes há solução para o problema mais geral de encontrar uma função \(\varphi : S \to [0, 1]\) que satisfaça \begin{equation} \beta(\theta) = E_\theta(\varphi) \le \alpha, \tag{8.2.2} \end{equation} quando \(\psi(\theta) = \psi_0\), e maximize \[ \beta(\theta) = E_\theta(\varphi), \] quando \(\psi(\theta) \ne \psi_0\). Temos a seguinte terminologia.

Note que \(\varphi = I_R\) é uma função de teste com função poder dada por \(\beta(\theta) = E_\theta(I_R) = P_\theta(R)\).

Para dados observados \(s\), interpretamos \(\varphi(s) = 0\) como aceitar \(H_0\) e \(\varphi(s) = 1\) como rejeitar \(H_0\). Em geral, interpretamos \(\varphi(s)\) como a probabilidade condicional de rejeitarmos \(H_0\) dados os dados \(s\). Na prática, isso significa que, depois de observar \(s\), geramos uma variável aleatória Bernoulli\((\varphi(s))\). Se obtivermos 1, rejeitamos \(H_0\); se obtivermos 0, aceitamos \(H_0\). Portanto, pelo teorema da esperança total, \(E_\theta(\varphi)\) é a probabilidade incondicional⁵⁵ de rejeitar \(H_0\). A aleatorização que ocorre quando \(0 < \varphi(s) < 1\) pode parecer um tanto contraintuitiva, mas ela nos é imposta pela busca por um teste UMP⁵⁶ de tamanho \(\alpha\), já que, em certos problemas, podemos aumentar o poder fazendo isso.

8.2.4 O Teorema de Neyman–Pearson

Para um problema de teste especificado por uma hipótese nula \(H_0 : \psi(\theta) = \psi_0\) e um valor crítico \(\alpha\), queremos encontrar uma função de teste \(\varphi\) UMP de tamanho \(\alpha\). Note que uma função de teste \(\varphi_0\) UMP de tamanho \(\alpha\) para \(H_0 : \psi(\theta) = \psi_0\) é caracterizada (denotando por \(\beta_\varphi\) a função poder de \(\varphi\)) por \[ \beta_{\varphi_0}(\theta) \le \alpha, \] quando \(\psi(\theta) = \psi_0\), e por \[ \beta_{\varphi_0}(\theta) \ge \beta_\varphi(\theta), \] quando \(\psi(\theta) \ne \psi_0\), para qualquer outra função de teste \(\varphi\) de tamanho \(\alpha\).

Ainda assim, esse problema de otimização não tem solução em geral. Em certos problemas, porém, é possível encontrar uma solução ótima. O resultado a seguir dá um exemplo disso. Ele é fundamental para toda a teoria de testes de hipóteses ótimos.

O resultado a seguir pode ser estabelecido por uma extensão simples da demonstração do teorema de Neyman–Pearson.

Note a natureza intuitiva do teste dado pelo teorema de Neyman–Pearson, pois (8.2.3) indica que rejeitamos categoricamente \(H_0\) como verdadeira quando a razão de verossimilhança⁵⁸ de \(\theta_1\) contra \(\theta_0\) é maior que a constante \(c_0\), e aceitamos \(H_0\) quando ela é menor. Quando a razão de verossimilhança é igual a \(c_0\), decidimos ao acaso rejeitar \(H_0\) com probabilidade \(\gamma\). Além disso, o Corolário 8.2.1 diz que um teste UMP de tamanho \(\alpha\) é essencialmente único, embora possa haver diferentes estratégias de aleatorização na fronteira.

A demonstração do teorema de Neyman–Pearson revela que \(c_0\) é o menor número real tal que \begin{equation} P_{\theta_0}\left(\frac{f_{\theta_1}(s)}{f_{\theta_0}(s)} > c_0\right) \le \alpha \tag{8.2.4} \end{equation} e \begin{equation} \gamma = \begin{cases} \dfrac{\alpha - P_{\theta_0}\left(\frac{f_{\theta_1}(s)}{f_{\theta_0}(s)} > c_0\right)}{P_{\theta_0}\left(\frac{f_{\theta_1}(s)}{f_{\theta_0}(s)} = c_0\right)} & P_{\theta_0}\left(\dfrac{f_{\theta_1}(s)}{f_{\theta_0}(s)} = c_0\right) \ne 0 \\[3ex] 0 & \text{caso contrário.} \end{cases} \tag{8.2.5} \end{equation} Usamos (8.2.4) e (8.2.5) para calcular \(c_0\) e \(\gamma\) e, assim, determinar o teste UMP de tamanho \(\alpha\) num problema particular.

Note que o teste é não aleatorizado sempre que \(P_{\theta_0}(f_{\theta_1}(s)/f_{\theta_0}(s) > c_0)\) \({}= \alpha\), pois então \(\gamma = 0\), isto é, aceitamos ou rejeitamos \(H_0\) categoricamente depois de ver os dados. Isso sempre ocorre quando a distribuição de \(f_{\theta_1}(s)/f_{\theta_0}(s)\) é contínua quando \(s \sim P_{\theta_0}\). Curiosamente, pode acontecer de a distribuição da razão não ser contínua mesmo quando a distribuição de \(s\) é contínua (ver Problema 8.2.17).

Antes de considerar algumas aplicações do teorema de Neyman–Pearson, estabelecemos o análogo do teorema de Rao–Blackwell para problemas de teste de hipóteses. Dado o valor da estatística suficiente \(U(s) = u\), denotamos por \(P(\cdot \mid U = u)\) a medida de probabilidade condicional da resposta \(s\) (pelo Teorema 8.1.2, essa medida de probabilidade não depende de \(\theta\)). Para a função de teste \(\varphi\), tomamos \(\varphi_U(s)\) igual à esperança condicional de \(\varphi\) dado o valor de \(U(s)\), isto é, \[ \varphi_U(s) = E_{P(\cdot \mid U = U(s))}(\varphi). \]

Esse resultado nos permite restringir a busca por um teste UMP de tamanho \(\alpha\) às funções de teste que dependem dos dados apenas por meio do valor de uma estatística suficiente.

Consideramos agora algumas aplicações do teorema de Neyman–Pearson. O exemplo a seguir mostra que esse resultado pode levar a soluções de problemas muito mais gerais do que o caso simples tratado.

O Exemplo 8.2.2 ilustrou um problema de teste de hipóteses para o qual não existe teste UMP de tamanho \(\alpha\). Às vezes, porém, exigindo que o teste tenha outra propriedade muito natural, podemos obter um teste ótimo.

Assim, (8.2.8) é um teste UMP não viesado de tamanho \(\alpha\). Um teste não viesado tem a propriedade de que a probabilidade de rejeitar a hipótese nula, quando ela é falsa, é sempre maior que a probabilidade de rejeitá-la quando ela é verdadeira. Essa parece uma propriedade muito razoável. Em particular, pode-se provar que todo teste UMP de tamanho \(\alpha\) é sempre um teste não viesado de tamanho \(\alpha\) (Problema 8.2.14). Não aprofundamos a teoria dos testes não viesados neste texto.

Consideramos agora um exemplo que mostra que não podemos dispensar o uso de testes aleatorizados.

8.2.5 Testes da Razão de Verossimilhança (Avançado)

Nos exemplos considerados até aqui, o teorema de Neyman–Pearson levou a soluções de problemas em que \(H_0\) ou \(H_a\) não são apenas valores únicos do parâmetro, embora o teorema tenha sido enunciado só para o caso de valor único. Observamos também, porém, que isso não vale em geral (por exemplo, os problemas bilaterais discutidos nos Exemplos 8.2.2 e 8.2.3).

O método dos testes da razão de verossimilhança generalizada para \(H_0 : \psi(\theta) = \psi_0\) foi desenvolvido para tratar o caso geral. Ele é motivado pelo teorema de Neyman–Pearson, pois observe que, em (8.2.3), \[ \frac{f_{\theta_1}(s)}{f_{\theta_0}(s)} = \frac{L(\theta_1 \mid s)}{L(\theta_0 \mid s)}. \] Portanto, (8.2.3) pode ser visto como baseado na razão entre a verossimilhança em \(\theta_1\) e a verossimilhança em \(\theta_0\), e rejeitamos \(H_0 : \theta = \theta_0\) quando a verossimilhança dá muito mais suporte a \(\theta_1\) do que a \(\theta_0\). A quantidade de suporte adicional exigida para a rejeição é determinada por \(c_0\). Quanto maior \(c_0\), maior a verossimilhança \(L(\theta_1 \mid s)\) precisa ser em relação a \(L(\theta_0 \mid s)\) para que rejeitemos \(H_0 : \theta = \theta_0\).

Denote o EMV global de \(\theta\) por \(\hat\theta(s)\) e o EMV quando \(\theta \in H_0\) por \(\hat\theta_{H_0}(s)\). Assim, temos \[ L(\theta \mid s) \le L(\hat\theta_{H_0}(s) \mid s) \] para todo \(\theta\) tal que \(\psi(\theta) = \psi_0\). O teste da razão de verossimilhança generalizada rejeita então \(H_0\) quando \begin{equation} \frac{L(\hat\theta(s) \mid s)}{L(\hat\theta_{H_0}(s) \mid s)} \tag{8.2.9} \end{equation} é grande, pois isso indica evidência contra a veracidade de \(H_0\).

Como determinamos quando (8.2.9) é grande o bastante para rejeitar? Denotando por \(s_0\) os dados observados, fazemos isso calculando os valores-p \begin{equation} P_\theta\left(\frac{L(\hat\theta(s) \mid s)}{L(\hat\theta_{H_0}(s) \mid s)} > \frac{L(\hat\theta(s_0) \mid s_0)}{L(\hat\theta_{H_0}(s_0) \mid s_0)}\right) \tag{8.2.10} \end{equation} quando \(\theta \in H_0\). Valores pequenos de (8.2.10) são evidência contra \(H_0\). É claro que, quando \(\psi(\theta) = \psi_0\) para mais de um valor de \(\theta\), não fica claro qual valor de (8.2.10) usar. Pode-se mostrar, porém, que, sob condições como as discutidas na Seção 6.5, se \(s\) corresponde a uma amostra de \(n\) valores de uma distribuição, então \[ 2\ln\frac{L(\hat\theta(s) \mid s)}{L(\hat\theta_{H_0}(s) \mid s)} \xrightarrow{D} \chi^2(\dim\negrito{\Omega} - \dim H_0) \] quando \(n \to \infty\), sempre que o verdadeiro valor de \(\theta\) está em \(H_0\). Aqui, \(\dim\negrito{\Omega}\) e \(\dim H_0\) são as dimensões desses conjuntos. Isso nos leva a um teste que rejeita \(H_0\) sempre que \begin{equation} 2\ln\frac{L(\hat\theta(s) \mid s)}{L(\hat\theta_{H_0}(s) \mid s)} \tag{8.2.11} \end{equation} é maior que um determinado quantil da distribuição \(\chi^2(\dim\negrito{\Omega} - \dim H_0)\).

Por exemplo, suponha que, num modelo normal de locação e escala⁶¹, estamos testando \(H_0 : \mu = \mu_0\). Então \(\negrito{\Omega} = R^1 \times [0, \infty)\), \(H_0 = \{\mu_0\} \times [0, \infty)\), \(\dim\negrito{\Omega} = 2\), \(\dim H_0 = 1\) e, para um teste de tamanho 0,05, rejeitamos sempre que (8.2.11) for maior que \(\chi^2_{0{,}95}(1)\). Note que, a rigor, os testes da razão de verossimilhança não são derivados de considerações de otimalidade. Não discutiremos mais os testes da razão de verossimilhança neste texto.

Exercícios

8.2.1 Suponha que um modelo estatístico seja dado pelas duas distribuições da tabela a seguir.

Determine o teste UMP de tamanho 0,10 para testar \(H_0 : \theta = a\) versus \(H_a : \theta = b\). Qual é o poder desse teste? Repita com o tamanho igual a 0,05.

8.2.2 Suponha que, para o problema de teste de hipóteses do Exercício 8.2.1, um estatístico decida gerar \(U \sim \text{Uniforme}[0, 1]\) e rejeitar \(H_0\) sempre que \(U \le 0{,}05\). Mostre que esse teste tem tamanho 0,05. Explique por que essa não é uma boa escolha de teste e por que o teste obtido no Exercício 8.2.1 é melhor. Dê evidência numérica disso.

8.2.3 Suponha que um pesquisador sabe que um processo industrial produz uma variável resposta⁶² que segue uma distribuição \(N(1, 2)\). Foram feitas algumas mudanças no processo industrial, e o pesquisador acredita que elas possam ter mudado a média da resposta (não a variância), aumentando seu valor. O pesquisador quer que a probabilidade de ocorrer um erro tipo I seja menor que 1%. Determine um procedimento de teste adequado para esse problema com base numa amostra de tamanho 10.

8.2.4 Suponha que você tenha uma amostra de tamanho 20 de uma distribuição \(N(\mu, 1)\). Você constrói um intervalo de confiança 0,975 para \(\mu\) e o usa para testar \(H_0 : \mu = 0\), rejeitando \(H_0\) sempre que 0 não está no intervalo de confiança. (a) Qual é o tamanho desse teste?(b) Determine a função poder desse teste.

8.2.5 Suponha que você tenha uma amostra de tamanho \(n = 1\) de uma distribuição Uniforme\([0, \theta]\), em que \(\theta > 0\) é desconhecido. Você testa \(H_0 : \theta \le 1\) rejeitando \(H_0\) sempre que o valor amostrado for maior que 1. (a) Qual é o tamanho desse teste?(b) Determine a função poder desse teste.

8.2.6 Suponha que você esteja testando uma hipótese nula \(H_0 : \theta = 0\), em que \(\theta \in R^1\). Você usa um procedimento de teste de tamanho 0,05 e aceita \(H_0\). Você acha que tem uma amostra razoavelmente grande, mas, ao calcular o poder em \(\pm 0{,}2\), obtém o valor 0,10, em que 0,2 representa a menor diferença em relação a 0 que tem importância prática. Você acredita que faz sentido concluir que a hipótese nula é verdadeira? Justifique sua conclusão.

8.2.7 Suponha que você queira testar a hipótese nula \(H_0 : \mu = 0\) com base numa amostra de tamanho \(n\) de uma distribuição \(N(\mu, 1)\), em que \(\mu \in \{0, 2\}\). Quão grande \(n\) precisa ser para que o poder em \(\mu = 2\) do teste ótimo de tamanho 0,05 seja igual a 0,99?

8.2.8 Suponha que temos à disposição dois procedimentos de teste diferentes num problema e que eles têm a mesma função poder. Explique por que, do ponto de vista da teoria de testes de hipóteses ótimos, não deveria nos importar qual teste é usado.

8.2.9 Suponha que você tenha um teste \(\varphi\) UMP de tamanho \(\alpha\) para testar a hipótese \(H_0 : \psi(\theta) = \psi_0\), em que \(\psi\) é real. Explique como o gráfico da função poder de outro teste de tamanho \(\alpha\) que não seja UMP difere do gráfico da função poder de \(\varphi\).

Exercícios computacionais

8.2.10 Suponha que você tenha uma moeda e queira testar a hipótese de que ela é honesta, isto é, quer testar \(H_0 : \theta = 1/2\), em que \(\theta\) é a probabilidade de obter cara num único lançamento. Você decide rejeitar \(H_0\) usando a região de rejeição \(R = \{0, 1, 7, 8\}\) com base em \(n = 10\) lançamentos. Tabele a função poder desse procedimento para \(\theta \in \{0, 1/8, 2/8, \ldots, 7/8, 1\}\).

8.2.11 No mesmo gráfico, trace as funções poder do teste \(z\) bilateral de \(H_0 : \mu = 0\) para amostras de tamanhos \(n = 1\), 4, 10, 20 e 100, com base em \(\alpha = 0{,}05\). (a) O que você observa nesses gráficos?(b) Explique como esses gráficos mostram que esse teste é não viesado.

Problemas

8.2.12 Prove que \(\varphi_0^*\) em (8.2.7) é UMP de tamanho \(\alpha\) para \(H_0 : \mu \ge \mu_0\) versus \(H_a : \mu < \mu_0\).

8.2.13 Prove que a função de teste \(\varphi(s) = \alpha\) para todo \(s \in S\) é uma função de teste de tamanho exato \(\alpha\). Qual é a interpretação dessa função de teste?

8.2.14 Usando a função de teste do Problema 8.2.13, mostre que um teste UMP de tamanho \(\alpha\) é também um teste UMP não viesado de tamanho \(\alpha\).

8.2.15 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição Gama\((\alpha_0, \beta)\), em que \(\alpha_0\) é conhecido e \(\beta > 0\) é desconhecido. Determine o teste UMP de tamanho \(\alpha\) para testar \(H_0 : \beta = \beta_0\) versus \(H_a : \beta = \beta_1\), em que \(\beta_1 > \beta_0\). Esse teste é UMP de tamanho \(\alpha\) para \(H_0 : \beta \le \beta_0\) versus \(H_a : \beta > \beta_0\)?

8.2.16 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(N(\mu_0, \sigma^2)\), em que \(\mu_0\) é conhecido e \(\sigma^2 > 0\) é desconhecido. Determine o teste UMP de tamanho \(\alpha\) para testar \(H_0 : \sigma^2 = \sigma_0^2\) versus \(H_a : \sigma^2 = \sigma_1^2\), em que \(\sigma_0^2 < \sigma_1^2\). Esse teste é UMP de tamanho \(\alpha\) para \(H_0 : \sigma^2 \le \sigma_0^2\) versus \(H_a : \sigma^2 > \sigma_0^2\)?

8.2.17 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição Uniforme\([0, \theta]\), em que \(\theta > 0\) é desconhecido. Determine o teste UMP de tamanho \(\alpha\) para testar \(H_0 : \theta = \theta_0\) versus \(H_a : \theta = \theta_1\), em que \(\theta_0 < \theta_1\). Essa função de teste é UMP de tamanho \(\alpha\) para \(H_0 : \theta \le \theta_0\) versus \(H_a : \theta > \theta_0\)?

8.2.18 Suponha que \(F\) é a função de distribuição da distribuição Binomial\((n, \theta)\). Prove então que \[ F(x) = \frac{\Gamma(n + 1)}{\Gamma(x + 1)\Gamma(n - x)}\int_\theta^1 y^x(1 - y)^{n - x - 1}\,dy \] para \(x = 0, 1, \ldots, n - 1\). Isso estabelece uma relação entre a distribuição de probabilidade binomial e a função beta⁶³. (Sugestão: integração por partes⁶⁴.)

8.2.19 Suponha que \(F\) é a função de distribuição da distribuição Poisson\((\lambda)\). Prove então que \[ F(x) = \frac{1}{x!}\int_\lambda^\infty y^x e^{-y}\,dy \] para \(x = 0, 1, \ldots\). Isso estabelece uma relação entre a distribuição de probabilidade de Poisson e a função gama⁶⁵. (Sugestão: integração por partes.)

8.2.20 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição Poisson\((\lambda)\), em que \(\lambda > 0\) é desconhecido. Determine o teste UMP de tamanho \(\alpha\) para \(H_0 : \lambda = \lambda_0\) versus \(H_a : \lambda = \lambda_1\), em que \(\lambda_0 < \lambda_1\). Essa função de teste é UMP de tamanho \(\alpha\) para \(H_0 : \lambda \le \lambda_0\) versus \(H_a : \lambda > \lambda_0\)? (Sugestão: você vai precisar do resultado do Problema 8.2.19.)

8.2.21 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(N(\mu, \sigma^2)\), em que \((\mu, \sigma^2) \in R^1 \times (0, \infty)\) é desconhecido. Obtenha a forma do teste da razão de verossimilhança de tamanho exato \(\alpha\) para testar \(H_0 : \mu = \mu_0\) versus \(H_0 : \mu \ne \mu_0\).⁶⁶

8.2.22 (Intervalos de confiança ótimos) Suponha que, para o modelo \(\{f_\theta : \theta \in \negrito{\Omega}\}\), temos uma função de teste \(\varphi_{\psi_0}\) UMP de tamanho \(\alpha\) para \(H_0 : \psi(\theta) = \psi_0\), para cada valor possível de \(\psi_0\). Suponha, além disso, que cada \(\varphi_{\psi_0}\) só assume valores em \(\{0, 1\}\), isto é, cada \(\varphi_{\psi_0}\) é uma função de teste não aleatorizada de tamanho \(\alpha\). (a) Prove que \[ C(s) = \{\psi_0 : \varphi_{\psi_0}(s) = 0\} \] satisfaz \[ P_\theta(\psi(\theta) \in C(s)) \ge 1 - \alpha \] para todo \(\theta \in \negrito{\Omega}\). Conclua que \(C(s)\) é um conjunto de confiança \(1 - \alpha\) para \(\psi(\theta)\).(b) Se \(C^*\) é um conjunto de confiança \(1 - \alpha\) para \(\psi(\theta)\), prove que a função de teste definida por \[ \varphi_{\psi_0}^*(s) = \begin{cases} 1 & \psi_0 \notin C(s) \\ 0 & \psi_0 \in C(s) \end{cases} \] tem tamanho \(\alpha\) para \(H_0 : \psi(\theta) = \psi_0\).⁶⁷(c) Suponha que, para cada valor \(\psi_0\), a função de teste \(\varphi_{\psi_0}\) é UMP de tamanho \(\alpha\) para testar \(H_0 : \psi(\theta) = \psi_0\) versus \(H_0 : \psi(\theta) \ne \psi_0\).⁶⁸ Prove então que \begin{equation} P_\theta(\psi(\theta^*) \in C(s)) \tag{8.2.12} \end{equation} é minimizada, quando \(\psi(\theta) \ne \psi_0\), entre todos os conjuntos de confiança \(1 - \alpha\) para \(\psi(\theta)\). A probabilidade (8.2.12) é a probabilidade de \(C\) conter o valor falso \(\psi(\theta^*)\), e uma região de confiança⁶⁹ \(1 - \alpha\) que minimiza essa probabilidade quando \(\psi(\theta) \ne \psi_0\) é chamada de região de confiança \(1 - \alpha\) uniformemente mais acurada (UMA) para \(\psi(\theta)\).

Desafios

8.2.23 Prove o Corolário 8.2.1 no caso discreto.

8.3 Inferências Bayesianas Ótimas

Acrescentamos agora a medida de probabilidade a priori \(\Pi\) com densidade \(\pi\). Como veremos, isso completa a especificação de um problema de otimalidade, pois agora sempre há uma solução. As soluções de problemas de otimização bayesianos são conhecidas como regras de Bayes.

Na Seção 8.1, o problema de otimização irrestrito era encontrar o estimador \(T\) de \(\psi(\theta)\) que minimiza \(\mathrm{MSE}_\theta(T)\) \({}= E_\theta((T - \psi(\theta))^2)\), para cada \(\theta \in \negrito{\Omega}\). A versão bayesiana desse problema é minimizar \begin{equation} E_\Pi(\mathrm{MSE}_\theta(T)) = E_\Pi(E_\theta((T - \psi(\theta))^2)). \tag{8.3.1} \end{equation}

Pelo teorema da esperança total (Teorema 3.5.2), (8.3.1) é o valor esperado do erro quadrático \((T(s) - \psi(\theta))^2\) sob a distribuição conjunta⁷⁰ de \((\theta, s)\) induzida pela distribuição condicional de \(s\) dado \(\theta\) (o modelo amostral⁷¹) e pela distribuição marginal⁷² de \(\theta\) (a distribuição a priori de \(\theta\)). De novo pelo teorema da esperança total, podemos escrever isso como \begin{equation} E_\Pi(\mathrm{MSE}_\theta(T)) = E_M(E_{\Pi(\cdot \,|\, s)}((T - \psi(\theta))^2)), \tag{8.3.2} \end{equation} em que \(\Pi(\cdot \,|\, s)\) denota a medida de probabilidade a posteriori de \(\theta\), dados os dados \(s\) (a distribuição condicional de \(\theta\) dado \(s\)), e \(M\) denota a medida de probabilidade preditiva a priori⁷³ de \(s\) (a distribuição marginal de \(s\)).

Temos o seguinte resultado.

Vemos, então, que, sob condições brandas, o problema de estimação bayesiano ótimo sempre tem solução, e não há necessidade de nos restringirmos a estimadores não viesados etc.

Para o problema de teste de hipóteses \(H_0 : \psi(\theta) = \psi_0\), queremos encontrar a função de teste \(\varphi\) que minimiza a probabilidade a priori de cometer um erro (tipo I ou tipo II). Uma tal \(\varphi\) é uma regra de Bayes. Temos o seguinte resultado.

Observe que o Teorema 8.3.2 diz que a regra de Bayes rejeita \(H_0\) sempre que a probabilidade a posteriori da hipótese nula é menor ou igual à probabilidade a posteriori da alternativa. Esse é um resultado intuitivamente satisfatório.

Surge, porém, o seguinte problema com essa abordagem. Temos \begin{align} \Pi(\{\psi(\theta) = \psi_0\} \,|\, s) &= \frac{E_\Pi(I_{\{\theta : \psi(\theta) = \psi_0\}}(\theta) f_\theta(s))}{m(s)} \notag \\ &\le \frac{\max_{\{\theta : \psi(\theta) = \psi_0\}} f_\theta(s)\,\Pi(\{\psi(\theta) = \psi_0\})}{m(s)}. \tag{8.3.4} \end{align} Quando \(\Pi(\{\psi(\theta) = \psi_0\}) = 0\), (8.3.4) implica que \(\Pi(\{\psi(\theta) = \psi_0\} \,|\, s = 0)\) para todo \(s\).⁷⁴ Portanto, usando a regra de Bayes, sempre rejeitaríamos \(H_0\), quaisquer que fossem os dados \(s\) obtidos, o que não parece sensato. Como discutido na Seção 7.2.3, temos de tomar o cuidado de usar uma priori \(\Pi\) que atribua massa positiva a \(H_0\) se formos usar a abordagem bayesiana ótima num problema de teste de hipóteses.

Exercícios

8.3.1 Suponha que \(S = \{1, 2, 3\}\), \(\negrito{\Omega} = \{1, 2\}\), com as distribuições dos dados dadas pela tabela a seguir. Colocamos uma priori uniforme em \(\theta\) e queremos estimar \(\theta\).

Usando uma regra de Bayes, teste a hipótese \(H_0 : \theta = 2\) quando \(s = 2\) é observado.

8.3.2 Para a situação descrita no Exercício 8.3.1, determine o estimador regra de Bayes de \(\theta\) quando se usa o erro quadrático esperado como medida de desempenho dos estimadores.

8.3.3 Suponha que temos uma amostra \((x_1, \ldots, x_n)\) de uma distribuição \(N(\mu, \sigma_0^2)\), em que \(\mu\) é desconhecido e \(\sigma_0^2\) é conhecido, e que queremos estimar \(\mu\) usando o erro quadrático esperado como medida de desempenho dos estimadores. Se usarmos a distribuição a priori \(\mu \sim N(\mu, \tau_0^2)\), determine a regra de Bayes para esse problema.⁷⁵ Determine a regra de Bayes limite quando \(\tau_0 \to \infty\).

8.3.4 Suponha que observamos uma amostra \((x_1, \ldots, x_n)\) de uma distribuição \(\text{Bernoulli}(\theta)\), em que \(\theta\) é completamente desconhecido, e que queremos estimar \(\theta\) usando o erro quadrático esperado como medida de desempenho dos estimadores. Se usarmos a distribuição a priori \(\theta \sim \text{Beta}(\alpha, \beta)\), determine uma regra de Bayes para esse problema.

8.3.5 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(\text{Gama}(\alpha_0, \beta)\), em que \(\alpha_0\) é conhecido, e que \(\beta \sim \text{Gama}(\tau_0, \upsilon_0)\), em que \(\tau_0\) e \(\upsilon_0\) são conhecidos. Se queremos estimar \(\beta\) usando o erro quadrático esperado como medida de desempenho dos estimadores, determine a regra de Bayes. Use a lei fraca (ou forte) dos grandes números para determinar para onde esse estimador converge quando \(n \to \infty\).

8.3.6 Para a situação descrita no Exercício 8.3.5, determine a regra de Bayes para estimar \(\beta^{-1}\) quando se usa o erro quadrático esperado como medida de desempenho dos estimadores.

8.3.7 Suponha que temos uma amostra \((x_1, \ldots, x_n)\) de uma distribuição \(N(\mu, \sigma_0^2)\), em que \(\mu\) é desconhecido e \(\sigma_0^2\) é conhecido, e que queremos encontrar o teste de \(H_0 : \mu = \mu_0\) que minimiza a probabilidade a priori de cometer um erro (tipo I ou tipo II). Se usarmos a distribuição a priori \(\mu \sim p_0 I_{\{\mu_0\}}\) \({}+ (1 - p_0) N(\mu_0, \tau_0^2)\), em que \(p_0 \in (0, 1)\) é conhecido (isto é, a priori é uma mistura de uma distribuição degenerada⁷⁶ em \(\mu_0\) e de uma distribuição \(N(\mu_0, \tau_0^2)\)), determine a regra de Bayes para esse problema. Determine a regra de Bayes limite quando \(\tau_0 \to \infty\). (Sugestão: use as contas do Exemplo 7.2.13.)

8.3.8 Suponha que temos uma amostra \((x_1, \ldots, x_n)\) de uma distribuição \(\text{Bernoulli}(\theta)\), em que \(\theta\) é desconhecido, e que queremos encontrar o teste de \(H_0 : \theta = \theta_0\) que minimiza a probabilidade a priori de cometer um erro (tipo I ou tipo II). Se usarmos a distribuição a priori \(\theta \sim p_0 I_{\{\theta_0\}}\) \({}+ (1 - p_0)\,\text{Uniforme}[0, 1]\), em que \(p_0 \in (0, 1)\) é conhecido (isto é, a priori é uma mistura de uma distribuição degenerada em \(\theta_0\) e de uma distribuição uniforme), determine a regra de Bayes para esse problema.

Problemas

8.3.9 Suponha que \(\negrito{\Omega} = \{\theta_1, \theta_2\}\), que colocamos uma priori \(\pi\) em \(\negrito{\Omega}\) e que queremos estimar \(\theta\). Suponha que nossa medida de desempenho dos estimadores é a probabilidade de fazer uma escolha incorreta de \(\theta\). Se o modelo é denotado por \(\{f_\theta : \theta \in \negrito{\Omega}\}\), obtenha a forma da regra de Bayes quando os dados \(s\) são observados.

8.3.10 Para a situação descrita no Exercício 8.3.1, use a regra de Bayes obtida pelo método do Problema 8.3.9 para estimar \(\theta\) quando \(s = 2\). Que vantagem essa estimativa tem sobre a obtida no Exercício 8.3.2?

8.3.11 Suponha que \((x_1, \ldots, x_n)\) é uma amostra de uma distribuição \(N(\mu, \sigma^2)\), em que \((\mu, \sigma^2) \in R^1 \times (0, \infty)\) é desconhecido, e que queremos estimar \(\mu\) usando o erro quadrático esperado como medida de desempenho dos estimadores. Usando a distribuição a priori dada por \[ \mu \,|\, \sigma^2 \sim N(\mu_0, \tau_0^2 \sigma^2), \] e usando \[ \frac{1}{\sigma^2} \sim \text{Gama}(\alpha_0, \beta_0), \] em que \(\mu_0\), \(\tau_0^2\), \(\alpha_0\) e \(\beta_0\) são fixos e conhecidos, determine a regra de Bayes para \(\mu\).

8.3.12 (Seleção de modelos) Generalize o Problema 8.3.9 para o caso \(\negrito{\Omega}\) \({}= \{\theta_1, \ldots, \theta_k\}\).

Desafios

8.3.13 Na Seção 7.2.4, descrevemos o problema de predição⁷⁷ bayesiano. Usando a notação de lá, suponha que queremos predizer \(t \in R^1\) usando um preditor⁷⁸ \(\tilde{T}(s)\). Se avaliamos a precisão de um preditor por \[ E((\tilde{T}(s) - t)^2) = E_\Pi(E_{P_\theta}(E_{Q_\theta(\cdot \,|\, s)}((\tilde{T}(s) - t)^2))), \] determine o preditor a priori que minimiza essa quantidade (suponha que todas as esperanças relevantes são finitas). Se observarmos \(s_0\), determine o melhor preditor. (Sugestão: suponha que todas as medidas de probabilidade são discretas.)

8.4 Teoria da Decisão (Avançado)

Para determinar uma inferência ótima, escolhemos uma medida de desempenho e depois tentamos encontrar uma inferência, de um dado tipo, que tenha desempenho ótimo com relação a essa medida. Por exemplo, ao considerar estimativas de uma característica de interesse \(\psi(\theta)\) a valores reais, tomamos o MSE como medida de desempenho e depois procuramos o estimador que o minimiza para cada valor de \(\theta\).

A teoria da decisão está intimamente ligada à abordagem ótima para obter inferências, mas é um pouco mais especializada. No arcabouço da decisão, adotamos o ponto de vista de que, em qualquer problema estatístico, o estatístico se vê diante da tomada de uma decisão, por exemplo, decidir por um valor particular de \(\psi(\theta)\). Além disso, associada a uma decisão está a noção de uma perda sofrida sempre que a decisão é incorreta. Uma regra de decisão é um procedimento, baseado nos dados observados \(s\), que o estatístico usa para selecionar uma decisão. O problema de decisão consiste então em encontrar uma regra de decisão que minimize a perda média sofrida.

Há vários contextos do mundo real em que as perdas são uma parte evidente do problema, por exemplo, as perdas monetárias associadas aos diversos planos de seguro que uma seguradora pode considerar oferecer. Assim, a abordagem da teoria da decisão tem muitas aplicações. Fica claro em muitos problemas práticos, porém, que as perdas (assim como as medidas de desempenho) são componentes um tanto arbitrários de um problema estatístico, muitas vezes escolhidos simplesmente por conveniência. Nessas circunstâncias, as abordagens para obter inferências descritas nos Capítulos 6 e 7 são as preferidas de muitos estatísticos.

Assim, o modelo da teoria da decisão para a inferência acrescenta mais um ingrediente ao modelo amostral (ou ao modelo amostral e à priori) para obter inferências: a função de perda. Para formalizar isso, concebemos um conjunto de ações ou decisões possíveis que o estatístico poderia tomar depois de observar os dados \(s\). Esse conjunto de ações possíveis é denotado por \(\mathcal{A}\) e chamado de espaço de ações. Para ligar essas ações ao modelo estatístico, há uma função de ação correta \(A : \negrito{\Omega} \to \mathcal{A}\) tal que \(A(\theta)\) é a ação correta a tomar quando \(\theta\) é o verdadeiro valor do parâmetro. Naturalmente, como não conhecemos \(\theta\), não conhecemos a ação correta \(A(\theta)\), de modo que há incerteza envolvida em nossa decisão. Considere um exemplo simples.

Suponhamos agora que haja também uma perda ou penalidade \(L(\theta, a)\) sofrida quando selecionamos a ação \(a \in \mathcal{A}\) e \(\theta\) é verdadeiro. Se selecionamos a ação correta, a perda é 0; caso contrário, ela é maior que 0.

Às vezes, a perda pode ser uma perda monetária real. Na verdade, a teoria da decisão é um pouco mais geral do que o que acabamos de descrever, pois podemos permitir perdas negativas (ganhos ou lucros), mas a restrição a perdas não negativas é adequada para aplicações puramente estatísticas.

Num problema específico, o estatístico escolhe uma função de perda que se acredita levar a procedimentos estatísticos razoáveis. Essa escolha depende da aplicação particular. Considere alguns exemplos.

Um estatístico diante de um problema de decisão — isto é, um modelo, um espaço de ações, uma função de ação correta e uma função de perda — precisa agora escolher uma regra para selecionar um elemento do espaço de ações \(\mathcal{A}\) quando os dados \(s\) são observados. Uma função de decisão⁸¹ é um procedimento que especifica como uma ação deve ser selecionada no espaço de ações \(\mathcal{A}\).

Assim, depois de observar \(s\), decidimos que a ação apropriada é \(d(s)\).

Na verdade, vamos permitir que nossos procedimentos de decisão sejam um pouco mais gerais do que isso, pois admitimos uma escolha aleatória de uma ação depois de observar \(s\).

Operacionalmente, depois de observar \(s\), um mecanismo aleatório com distribuição especificada por \(\delta(s, \cdot)\) é usado para selecionar a ação no conjunto das ações possíveis. Note que, se \(\delta(s, \cdot)\) é uma medida de probabilidade degenerada no ponto \(d(s)\) (assim, \(\delta(s, \{d(s)\}) = 1\)) para cada \(s\), então \(\delta\) é equivalente à função de decisão não aleatorizada \(d\), e reciprocamente (veja o Problema 8.4.8).

O uso de procedimentos de decisão aleatorizados pode parecer bastante pouco natural, mas, como veremos, às vezes eles são um ingrediente essencial da teoria da decisão. Em muitos problemas de estimação, o uso de procedimentos aleatorizados não traz vantagem alguma, mas não é esse o caso em problemas de teste de hipóteses. Denotamos por \(D\) o conjunto de todas as funções de decisão \(\delta\) para o problema específico de interesse.

O problema de decisão consiste em escolher uma função de decisão \(\delta \in D\). A \(\delta\) selecionada será então usada para gerar decisões nas aplicações. Baseamos essa escolha no desempenho das diversas funções de decisão \(\delta\) com relação à função de perda. Intuitivamente, queremos escolher \(\delta\) de modo a tornar a perda a menor possível. Para uma \(\delta\) particular, como \(s \sim f_\theta\) e \(a \sim \delta(s, \cdot)\), a perda \(L(\theta, a)\) é uma quantidade aleatória. Portanto, em vez de minimizar perdas específicas, falamos em minimizar algum aspecto da distribuição das perdas para cada \(\theta \in \negrito{\Omega}\). Talvez uma escolha razoável seja minimizar a perda média. Assim, definimos a função de risco⁸² associada a \(\delta \in D\) como a perda média sofrida por \(\delta\). A função de risco tem papel central na determinação de uma função de decisão apropriada para um problema.

Note que, para calcular a função de risco, primeiro calculamos a média de \(L(\theta, a)\), com \(s\) fixo e \(a \sim \delta(s, \cdot)\). Depois tomamos a média dessa média condicional com relação a \(s \sim f\). Pelo teorema da esperança total, essa é a perda média. Quando \(\delta(s, \cdot)\) é degenerada em \(d(s)\) para cada \(s\), (8.4.3) se simplifica (veja o Problema 8.4.8) para \[ R_\delta(\theta) = E_\theta(L(\theta, d(s))). \]

Considere os exemplos a seguir.

Depois de escrevermos todos os ingredientes de um problema de decisão, fica claro que forma terá uma solução do problema. Em particular, qualquer função de decisão \(\delta_0\) que satisfaça \[ R_{\delta_0}(\theta) \le R_\delta(\theta) \] para todo \(\theta \in \negrito{\Omega}\) e \(\delta \in D\) é uma função de decisão ótima e é uma solução. Se duas funções de decisão têm as mesmas funções de risco, então, do ponto de vista da teoria da decisão, elas são equivalentes. Assim, é concebível que haja mais de uma solução para um problema de decisão.

Na verdade, acontece que uma função de decisão ótima só existe em casos extremamente irrealistas, a saber, quando os dados sempre nos dizem categoricamente qual é a decisão correta (veja o Problema 8.4.9). Não precisamos realmente de inferência estatística em tais situações. Por exemplo, suponha que temos duas moedas: a moeda A tem duas caras e a moeda B tem duas coroas. Assim que observamos o resultado de um lançamento, sabemos exatamente qual moeda foi lançada, e não há necessidade de inferência estatística.

Ainda assim, podemos identificar algumas regras de decisão que não queremos usar. Por exemplo, se \(\delta \in D\) é tal que existe \(\delta_0 \in D\) satisfazendo \(R_{\delta_0}(\theta) \le R_\delta(\theta)\) para todo \(\theta\), e se há pelo menos um \(\theta\) para o qual \(R_{\delta_0}(\theta) < R_\delta(\theta)\), então naturalmente preferimos estritamente \(\delta_0\) a \(\delta\).

Uma consequência da teoria da decisão é que devemos usar somente funções de decisão admissíveis. Ainda assim, há muitas funções de decisão admissíveis e, tipicamente, nenhuma é ótima. Além disso, um procedimento que é apenas admissível pode ser uma escolha muito ruim (veja o Desafio 8.4.11).

Há vários caminhos para sair desse impasse na teoria da decisão. Uma abordagem é usar princípios de redução. Com isso queremos dizer que procuramos uma função de decisão ótima em alguma subclasse \(D_0 \subset D\) considerada apropriada. Procuramos então uma \(\delta_0 \in D_0\) tal que \(R_{\delta_0}(\theta) \le R_\delta(\theta)\) para todo \(\theta \in \negrito{\Omega}\) e \(\delta \in D_0\), isto é, procuramos uma função de decisão ótima em \(D_0\). Considere o exemplo a seguir.

Outra abordagem para selecionar uma \(\delta \in D\) se baseia em escolher uma característica particular, a valores reais, da função de risco de \(\delta\) e ordenar as funções de decisão com base nela. Há várias possibilidades.

Uma delas é introduzir uma priori \(\pi\) no problema e então procurar o procedimento de decisão \(\delta \in D\) que tem o menor risco a priori \[ r_\delta = E_\pi(R_\delta(\theta)). \] Procuramos então uma regra cujo risco a priori seja igual a \(\min_{\delta \in D} r_\delta\) (ou \(\inf_{\delta \in D} r_\delta\)). Essa abordagem é chamada de teoria da decisão bayesiana.

Obtivemos regras de Bayes para vários problemas na Seção 8.3. Curiosamente, a teoria da decisão bayesiana sempre produz, na prática, uma resposta para um problema de decisão. Essa é uma propriedade muito desejável para qualquer teoria estatística.

Outra maneira de ordenar as funções de decisão usa o risco máximo (ou supremo). Assim, para uma função de decisão \(\delta\), calculamos \[ \max_{\theta \in \negrito{\Omega}} R_\delta(\theta) \] (ou \(\sup_{\theta \in \negrito{\Omega}} R_\delta(\theta)\)) e então selecionamos uma \(\delta \in D\) que minimiza essa quantidade. Uma tal \(\delta\) tem o menor risco máximo, ou o menor pior comportamento.

De novo, essa abordagem sempre produz, na prática, uma resposta para um problema de decisão (veja o Problema 8.4.10).

Há muito mais a dizer sobre a teoria da decisão do que esta breve introdução aos conceitos básicos. Muitos resultados gerais interessantes foram estabelecidos para a abordagem da teoria da decisão à inferência estatística.

Exercícios

8.4.1 Suponha que observamos uma amostra \((x_1, \ldots, x_n)\) de uma distribuição \(\text{Bernoulli}(\theta)\), em que \(\theta\) é completamente desconhecido, e que queremos estimar \(\theta\) usando perda quadrática. Escreva todos os ingredientes desse problema de decisão. Calcule a função de risco do estimador \(T(x_1, \ldots, x_n) = \bar{x}\). Faça o gráfico da função de risco quando \(n = 10\).

8.4.2 Suponha que temos uma amostra \((x_1, \ldots, x_n)\) de uma distribuição \(\text{Poisson}(\lambda)\), em que \(\lambda\) é completamente desconhecido, e que queremos estimar \(\lambda\) usando perda quadrática. Escreva todos os ingredientes desse problema de decisão. Considere o estimador \(T(x_1, \ldots, x_n) = \bar{x}\) e calcule sua função de risco. Faça o gráfico da função de risco quando \(n = 25\).

8.4.3 Suponha que temos uma amostra \((x_1, \ldots, x_n)\) de uma distribuição \(N(\mu, \sigma_0^2)\), em que \(\mu\) é desconhecido e \(\sigma_0^2\) é conhecido, e que queremos estimar \(\mu\) usando perda quadrática. Escreva todos os ingredientes desse problema de decisão. Considere o estimador \(T(x_1, \ldots, x_n) = \bar{x}\) e calcule sua função de risco. Faça o gráfico da função de risco quando \(n = 25\), \(\sigma_0^2 = 2\).

8.4.4 Suponha que observamos uma amostra \((x_1, \ldots, x_n)\) de uma distribuição \(\text{Bernoulli}(\theta)\), em que \(\theta\) é completamente desconhecido, e que queremos testar a hipótese nula de que \(\theta = 1/2\) versus a alternativa de que ele não é igual a essa quantidade, e usamos perda 0–1. Escreva todos os ingredientes desse problema de decisão. Suponha que rejeitamos a hipótese nula sempre que observamos \(n\bar{x} \in \{0, 1, n - 1, n\}\). Determine a forma da função de teste e de sua função poder associada. Faça o gráfico da função poder quando \(n = 10\).

8.4.5 Considere o problema de decisão com espaço amostral⁸⁶ \(S = \{1, 2, 3, 4\}\), espaço paramétrico \(\negrito{\Omega} = \{a, b\}\), com o parâmetro indexando as distribuições dadas na tabela a seguir.

Suponha que o espaço de ações é \(\mathcal{A} = \negrito{\Omega}\), com \(A(\theta) = \theta\), e que a função de perda é dada por \(L(\theta, a) = 1\) quando \(a \ne A(\theta)\) e é igual a 0 caso contrário. (a) Calcule a função de risco da função de decisão determinística dada por \(d(1) = d(2) = d(3) = a\) e \(d(4) = b\).(b) A \(d\) do item (a) é ótima?

Exercícios computacionais

8.4.6 Suponha que temos uma amostra \((x_1, \ldots, x_n)\) de uma distribuição \(\text{Poisson}(\lambda)\), em que \(\lambda\) é completamente desconhecido, e que queremos testar a hipótese de que \(\lambda \le \lambda_0\) versus a alternativa de que \(\lambda > \lambda_0\), usando a função de perda 0–1. Escreva todos os ingredientes desse problema de decisão. Suponha que decidimos rejeitar a hipótese nula sempre que \(n\bar{x} > \lfloor n\lambda_0\) \({}+ 2\sqrt{n\lambda_0} \rfloor\) e rejeitar aleatoriamente a hipótese nula com probabilidade 1/2 quando \(n\bar{x} = \lfloor n\lambda_0\) \({}+ 2\sqrt{n\lambda_0} \rfloor\). Determine a forma da função de teste e de sua função poder associada. Faça o gráfico da função poder quando \(\lambda_0 = 1\) e \(n = 5\).

8.4.7 Suponha que temos uma amostra \((x_1, \ldots, x_n)\) de uma distribuição \(N(\mu, \sigma_0^2)\), em que \(\mu\) é desconhecido e \(\sigma_0^2\) é conhecido, e que queremos testar a hipótese nula de que a resposta média é \(\mu_0\) versus a alternativa de que a resposta média não é igual a \(\mu_0\), usando a função de perda 0–1. Escreva todos os ingredientes desse problema de decisão. Suponha que decidimos rejeitar sempre que \(\bar{x} \notin [\mu_0 - 2\sigma_0/\sqrt{n}, \mu_0\) \({}+ 2\sigma_0/\sqrt{n}]\). Determine a forma da função de teste e de sua função poder associada. Faça o gráfico da função poder quando \(\mu_0 = 0\), \(\sigma_0 = 3\) e \(n = 10\).

Problemas

8.4.8 Prove que uma função de decisão \(\delta\) que dá uma medida de probabilidade \(\delta(s, \cdot)\) degenerada em \(d(s)\) para cada \(s \in S\) equivale a especificar uma função \(d : S \to \mathcal{A}\), e reciprocamente. Para uma tal \(\delta\), prove que \(R_\delta(\theta) = E_\theta(L(\theta, d(s)))\).

8.4.9 Suponha que temos um problema de decisão e que cada distribuição de probabilidade do modelo é discreta. (a) Prove que \(\delta\) é ótima em \(D\) se e somente se \(\delta(s, \cdot)\) é degenerada em \(A(\theta)\) para cada \(s\) para o qual \(P_\theta(\{s\}) > 0\).(b) Prove que, se existem \(\theta_1, \theta_2 \in \negrito{\Omega}\) tais que \(A(\theta_1) \ne A(\theta_2)\), e \(P_{\theta_1}\), \(P_{\theta_2}\) não estão concentradas em conjuntos disjuntos⁸⁷, então não há \(\delta \in D\) ótima.

8.4.10 Se a função de decisão \(\delta\) tem risco constante e é admissível, prove que \(\delta\) é minimax.

Desafios

8.4.11 Suponha que temos um problema de decisão em que \(\theta_0 \in \negrito{\Omega}\) é tal que \(P_{\theta_0}(C) = 0\) implica \(P_\theta(C) = 0\) para todo \(\theta \in \negrito{\Omega}\). Suponha ainda que não há função de decisão ótima (veja o Problema 8.4.9). Prove então que a função de decisão não aleatorizada \(d\) dada por \(d(s) \equiv A(\theta_0)\) é admissível. O que esse resultado lhe diz sobre o conceito de admissibilidade?

Tópicos para discussão

8.4.12 Comente a seguinte afirmação: uma exigência natural para qualquer teoria da inferência é que ela produza uma resposta para todo problema de inferência proposto. Discutimos até aqui alguma teoria que você acredite satisfazer isso?

8.4.13 A teoria da decisão produz uma decisão num problema dado. Ela nada diz sobre quão provável é que a decisão esteja errada. Alguns estatísticos argumentam que uma abordagem válida da inferência deve incluir alguma quantificação de nossa incerteza sobre qualquer afirmação que façamos sobre uma incógnita, pois só assim um destinatário pode julgar a confiabilidade da inferência. Comente isso.

8.5 Demonstrações Adicionais (Avançado)

Estabelecendo a Completude de \(\bar{x}\) no Exemplo 8.1.3

Suponha que \((x_1, \ldots, x_n)\) seja uma amostra de uma distribuição \(N(\mu, \sigma_0^2)\), em que \(\mu \in R^1\) é desconhecido e \(\sigma_0^2 > 0\) é conhecido. No Exemplo 6.1.7, mostramos que \(\bar{x}\) é uma estatística suficiente minimal.

Suponha que a função \(h\) seja tal que \(E_\mu(h(\bar{x})) = 0\) para todo \(\mu \in R^1\). Então, definindo \[ h^+(\bar{x}) = \max(0, h(\bar{x})) \quad \text{e} \quad h^-(\bar{x}) = \max(0, -h(\bar{x})), \] temos \(h(\bar{x}) = h^+(\bar{x}) - h^-(\bar{x})\). Portanto, tomando \[ c^+(\mu) = E_\mu(h^+(\bar{X})) \quad \text{e} \quad c^-(\mu) = E_\mu(h^-(\bar{X})), \] devemos ter \[ E_\mu(h(\bar{X})) = E_\mu(h^+(\bar{X})) - E_\mu(h^-(\bar{X})) = c^+(\mu) - c^-(\mu) = 0, \] e assim \(c^+(\mu) = c^-(\mu)\). Como \(h^+\) e \(h^-\) são funções não negativas, temos \(c^+(\mu) \ge 0\) e \(c^-(\mu) \ge 0\).

Se \(c^+(\mu) = 0\), então \(h^+(\bar{x}) = 0\) com probabilidade 1, pois uma função não negativa tem média 0 se e somente se é 0 com probabilidade 1 (ver Desafio 3.3.22). Então \(h^-(\bar{x}) = 0\) com probabilidade 1 também, e concluímos que \(h(\bar{x}) = 0\) com probabilidade 1.

Se \(c^+(\mu_0) > 0\), então \(h^+(\bar{x}) > 0\) para todo \(\bar{x}\) num conjunto \(A\) com probabilidade positiva em relação à distribuição \(N(\mu_0, \sigma_0^2/n)\) (caso contrário, \(h^+(\bar{x}) = 0\) com probabilidade 1, o que implica, como acima, que \(c^+(\mu_0) = 0\)). Isso implica que \(c^+(\mu) > 0\) para todo \(\mu\), porque toda distribuição \(N(\mu, \sigma_0^2/n)\) também atribui probabilidade positiva a \(A\) (você pode pensar em \(A\) como um subintervalo de \(R^1\)).

Observe agora que \[ g^+(\bar{x}) = h^+(\bar{x}) \frac{1}{\sqrt{2\pi}\,\sigma_0} \exp(-n\bar{x}^2/2\sigma_0^2) \] é não negativa e estritamente positiva em \(A\).⁸⁹ Podemos escrever \begin{align} c^+(\mu) = E_\mu(h^+(\bar{X})) &= \int_{-\infty}^{\infty} h^+(\bar{x}) \frac{1}{\sqrt{2\pi}\,\sigma_0} \exp\bigl(-n(\bar{x} - \mu)^2/2\sigma_0^2\bigr)\, d\bar{x} \notag \\ &= \exp(-n\mu^2/2\sigma_0^2) \int_{-\infty}^{\infty} \exp(n\mu\bar{x}/\sigma_0^2) g^+(\bar{x})\, d\bar{x}. \tag{8.5.2} \end{align} Tomar \(\mu = 0\) estabelece que \(0 < \int_{-\infty}^{\infty} g^\) \({}+(\bar{x})\, d\bar{x} < \infty\), pois \(0 < c^+(\mu) < \infty\) para todo \(\mu\). Portanto, \[ \frac{g^+(\bar{x})}{\int_{-\infty}^{\infty} g^+(\bar{x})\, d\bar{x}} \] é uma densidade de probabilidade de uma distribuição concentrada em \(A^+ = \{\bar{x} : h(\bar{x}) > 0\}\). Além disso, usando (8.5.2) e a definição de função geradora de momentos⁹⁰ da Seção 3.4, \begin{equation} \frac{c^+(\mu) \exp(n\mu^2/2\sigma_0^2)}{\int_{-\infty}^{\infty} g^+(\bar{x})\, d\bar{x}} \tag{8.5.3} \end{equation} é a função geradora de momentos dessa distribuição avaliada em \(n\mu/\sigma_0^2\).

Analogamente, definimos \[ g^-(\bar{x}) = h^-(\bar{x}) \frac{1}{\sqrt{2\pi}\,\sigma_0} \exp(-n\bar{x}^2/2\sigma_0^2), \] de modo que \[ \frac{g^-(\bar{x})}{\int_{-\infty}^{\infty} g^-(\bar{x})\, d\bar{x}} \] é uma densidade de probabilidade de uma distribuição concentrada em \(A^- = \{\bar{x} : h(\bar{x}) < 0\}\). Além disso, \begin{equation} \frac{c^-(\mu) \exp(n\mu^2/2\sigma_0^2)}{\int_{-\infty}^{\infty} g^-(\bar{x})\, d\bar{x}} \tag{8.5.4} \end{equation} é a função geradora de momentos dessa distribuição avaliada em \(n\mu/\sigma_0^2\).

Como \(c^+(\mu) = c^-(\mu)\), temos (tomando \(\mu = 0\)) \[ \int_{-\infty}^{\infty} g^+(\bar{x})\, d\bar{x} = \int_{-\infty}^{\infty} g^-(\bar{x})\, d\bar{x}. \] Isso implica que (8.5.3) é igual a (8.5.4) para todo \(\mu\), e assim as funções geradoras de momentos dessas duas distribuições são iguais em toda parte. Pelo Teorema 3.4.6, essas distribuições têm de ser iguais. Mas isso é impossível, já que a distribuição dada por \(g^+\) está concentrada em \(A^+\), enquanto a distribuição dada por \(g^-\) está concentrada em \(A^-\), e \(A^+ \cap A^- = \emptyset\). Assim, concluímos que não podemos ter \(c^+(\mu) > 0\), e terminamos.