Relación de probabilidad para la distribución exponencial de dos muestras

Deje que e sean dos variables aleatorias independientes con sus respectivos archivos PDF: $X$ $Y$

f (x; θ_{i}) = {\begin{cases} \frac{1}{θ_{i}} e^{- x / θ_{i}} 0 < x < \infty, 0 < θ_{i} < \infty \\ 0 elsewhere \end{cases}

$f \left(x;\theta_i \right) =\begin{cases} \frac{1}{\theta_i} e^{-x/ {\theta_i}} \quad 0<x<\infty, 0<\theta_i< \infty \\ 0 \quad \text{elsewhere} \end{cases}$

para . Se extraen dos muestras independientes para probar contra de los tamaños y de estas distribuciones. Necesito mostrar que el LRT se puede escribir en función de una estadística que tiene distribución , bajo . $i=1,2$ $H_0: \theta_1 =\theta_2$ $H_1 : \theta_1 \neq \theta_2$ $n_1$ $n_2$ $\Lambda$ $F$ $H_0$

Dado que la distribución de esta distribución es , la estadística LRT se convierte (estoy omitiendo algunos pasos tediosos aquí): $\hat{\theta}=\bar{x}$

Λ = \frac{{\bar{X}}^{{norte}_{1}} {\bar{y}}^{{norte}_{2}} ({norte}_{1} + {norte}_{2})}{{norte}_{1} \bar{X} + {norte}_{2} \bar{y}}

$\Lambda =\frac{\bar{x}^{n_1} \bar{y}^{n_2} \left( n_1+n_2 \right)}{n_1 \bar{x}+n_2 \bar{y}}$

Sé que la distribución $F$ se define como el cociente de dos variables aleatorias de chi-cuadrado independientes, cada una sobre sus respectivos grados de libertad. Además, dado que $X_i,Y_i \sim \Gamma \left( 1,\theta_1 \right)$ debajo de nulo, entonces $\sum X_i \sim \Gamma \left(n_1 ,\theta_1 \right)$ y $\sum Y_i \sim \Gamma \left(n_2, \theta_1 \right)$ .

Pero, ¿cómo puedo proceder desde aquí? ¿Alguna pista?

Gracias.

distributions self-study likelihood-ratio

— JohnK
fuente

Sugerencia: una variable aleatoria exponencial está relacionada linealmente con una variable aleatoria con dos grados de libertad y, por lo tanto, una variable aleatoria con parámetro de orden está relacionada linealmente con una variable aleatoria con grados de libertad .

χ^{2}

$\chi^2$

Γ

$\Gamma$

n

$n$

χ^{2}

$\chi^2$

2 n

$2n$

— Dilip Sarwate

@DilipSarwate Puedo ver que . ¿Debo continuar y tratar de reformular mi fracción de acuerdo con eso?

Z = \frac{2}{θ_{1}} \sum X_{i} \sim χ^{2} (2 n_{1})

$Z= \frac {2}{\theta_1} \sum X_i \sim \chi^2 \left(2n_1 \right)$

— JohnK

Tal vez necesite no omitir los pocos pasos tediosos y realmente derivar la razón de probabilidad desde cero en lugar de saltar a los estimadores de máxima probabilidad . Este es un problema sobre las pruebas de hipótesis, no sobre la estimación de máxima verosimilitud de un parámetro .

θ_{i}

$\theta_i$

— Dilip Sarwate

@DilipSarwate Usted entendió mal. Tengo estos pasos intermedios escritos pero no los he presentado aquí. Esto es lo que obtienes después de la simplificación.

— JohnK

Quizás pueda comenzar explicándome (un no estadístico, por cierto) lo que significa la T en LRT.

— Dilip Sarwate

Respuestas:

Si la memoria funciona, parece que ha olvidado algo en su estadística LR.

La función de probabilidad bajo nulo es

L_{H_{0}} = θ^{- n_{1} - n_{2}} \cdot \exp {- θ^{- 1} (\sum x_{i} + \sum y_{i})}

$L_{H_0} = \theta^{-n_1-n_2}\cdot \exp\left\{-\theta^{-1}\left(\sum x_i+\sum y_i\right)\right\}$

y el MLE es

{\hat{θ}}_{0} = \frac{\sum x_{i} + \sum y_{i}}{n_{1} + n_{2}} = w_{1} \bar{x} + w_{2} \bar{y}, w_{1} = \frac{n_{1}}{n_{1} + n_{2}}, w_{2} = \frac{n_{2}}{n_{1} + n_{2}}

$\hat \theta_0 = \frac {\sum x_i+\sum y_i}{n_1+n_2} = w_1\bar x +w_2 \bar y, \;\; w_1=\frac {n_1}{n_1+n_2},\;w_2=\frac {n_2}{n_1+n_2}$

Entonces

L_{H_{0 0}} ({\hat{θ}}_{0 0}) = ({\hat{θ}}_{0 0})^{- {norte}_{1} - {norte}_{2}} \cdot {mi}^{- {norte}_{1} - {norte}_{2}}

$L_{H_0}(\hat \theta_0) = (\hat \theta_0)^{-n_1-n_2}\cdot e^{-n_1-n_2}$

Bajo la alternativa, la probabilidad es

L_{H_{1}} = θ_{1}^{- {norte}_{1}} \cdot Exp {- θ_{1}^{- 1} (\sum X_{yo})} \cdot θ_{2}^{- {norte}_{2}} \cdot Exp {- θ_{2}^{- 1} (\sum y_{yo})}

$L_{H_1} = \theta_1^{-n_1}\cdot \exp\left\{-\theta_1^{-1}\left(\sum x_i\right)\right\}\cdot \theta_2^{-n_2}\cdot \exp\left\{-\theta_2^{-1}\left(\sum y_i\right)\right\}$

y los MLE son

{\hat{θ}}_{1} = \frac{\sum X_{yo}}{{norte}_{1}} = \bar{X}, {\hat{θ}}_{2} = \frac{\sum y_{yo}}{{norte}_{2}} = \bar{y}

$\hat \theta_1 = \frac {\sum x_i}{n_1} = \bar x, \qquad \hat \theta_2 = \frac {\sum y_i}{n_2} = \bar y$

Entonces

L_{H_{1}} ({\hat{θ}}_{1}, {\hat{θ}}_{2}) = ({\hat{θ}}_{1})^{- {norte}_{1}} ({\hat{θ}}_{2})^{- {norte}_{2}} \cdot {mi}^{- {norte}_{1} - {norte}_{2}}

$L_{H_1}(\hat \theta_1,\,\hat \theta_2) = (\hat \theta_1)^{-n_1}(\hat \theta_2)^{-n_2}\cdot e^{-n_1-n_2}$

Considera la razón

\frac{L_{H_{1}} ({\hat{θ}}_{1}, {\hat{θ}}_{2})}{L_{H_{0 0}} ({\hat{θ}}_{0 0})} = \frac{({\hat{θ}}_{0 0})^{{norte}_{1} + {norte}_{2}}}{({\hat{θ}}_{1})^{{norte}_{1}} ({\hat{θ}}_{2})^{{norte}_{2}}} = {(\frac{{\hat{θ}}_{0 0}}{{\hat{θ}}_{1}})}^{{norte}_{1}} \cdot {(\frac{{\hat{θ}}_{0 0}}{{\hat{θ}}_{2}})}^{{norte}_{2}}

$\frac {L_{H_1}(\hat \theta_1,\,\hat \theta_2)}{L_{H_0}(\hat \theta_0)} = \frac {(\hat \theta_0)^{n_1+n_2}}{(\hat \theta_1)^{n_1}(\hat \theta_2)^{n_2}}=\left(\frac {\hat \theta_0}{\hat \theta_1}\right)^{n_1} \cdot \left(\frac {\hat \theta_0}{\hat \theta_2}\right)^{n_2}$

= {(w_{1} + w_{2} \frac{\bar{y}}{\bar{X}})}^{{norte}_{1}} \cdot {(w_{1} \frac{\bar{X}}{\bar{y}} + w_{2})}^{{norte}_{2}}

$= \left(w_1 + w_2 \frac {\bar y}{\bar x}\right)^{n_1} \cdot \left(w_1\frac {\bar x}{\bar y} + w_2 \right)^{n_2}$

Las medias de muestra son independientes, así que creo que ahora puedes terminar esto.

— Alecos Papadopoulos
fuente

No es muy importante, pero creo que debería definir el LRT como el recíproco de la fracción que ha utilizado, consulte stats.ox.ac.uk/~dlunn/b8_02/b8pdf_8.pdf .

— JohnK

Se utilizó el recíproco porque ayuda con las manipulaciones algebraicas. Cuando se hace esta parte, uno solo toma lo negativo de los poderes externos.

— Alecos Papadopoulos

Bien. Para mostrar que la fracción sigue una distribución F, es suficiente escribirla como , ¿verdad?

\frac{\bar{X}}{\bar{Y}}

$\frac{\bar{X}}{\bar{Y}}$

\frac{\frac{2 \sum X_{i}}{2 θ_{1} n_{1}}}{\frac{2 \sum Y_{i}}{2 θ_{1} n_{2}}}

$\frac{\frac{2\sum X_i}{2 \theta_1 n_1}}{\frac{2\sum Y_i}{2 \theta_1 n_2 }}$

— JohnK

Si ese es un "enlace" correcto entre gammas y chi-cuadrados, de hecho.

— Alecos Papadopoulos

Sí, Y también tenemos que dividir por los grados de libertad, . Muchas gracias.

\frac{2}{θ_{1}} \sum X_{i} \sim χ^{2} (2 n_{1})

$\frac{2}{\theta_1} \sum X_i \sim \chi^2 \left( 2n_1 \right)$

2 n_{1}

$2n_1$

— JohnK

La función de probabilidad dada la muestra viene dada por $\mathbf x=(x_1,\ldots,x_{n_1},y_1,\ldots,y_{n_2})$

\begin{aligned} L (θ_{1}, θ_{2}) & = \frac{1}{θ_{1}^{{norte}_{1}} θ_{2}^{{norte}_{2}}} Exp [- \frac{1}{θ_{1}} \sum_{yo = 1}^{{norte}_{1}} X_{yo} - \frac{1}{θ_{2}} \sum_{yo = 1}^{{norte}_{2}} y_{yo}] 1_{X > 0 0}, θ_{1}, θ_{2} > 0 0 \end{aligned}

$\begin{align} L(\theta_1,\theta_2)&=\frac{1}{\theta_1^{n_1}\theta_2^{n_2}}\exp\left[-\frac{1}{\theta_1}\sum_{i=1}^{n_1} x_i-\frac{1}{\theta_2}\sum_{i=1}^{n_2}y_i\right]\mathbf1_{\mathbf x>0}\quad,\,\theta_1,\theta_2>0 \end{align}$

El criterio de prueba LR para probar contra es de la forma $H_0:\theta_1=\theta_2$ $H_1:\theta_1\ne \theta_2$

\begin{aligned} λ (X) & = \frac{\underset{θ_{1} = θ_{2}}{cenar} L (θ_{1}, θ_{2})}{\underset{θ_{1}, θ_{2}}{cenar} L (θ_{1}, θ_{2})} = \frac{L (\hat{θ}, \hat{θ})}{L ({\hat{θ}}_{1}, {\hat{θ}}_{2})} \end{aligned}

$\begin{align} \lambda(\mathbf x)&=\frac{\sup\limits_{\theta_1=\theta_2}L(\theta_1,\theta_2)}{\sup\limits_{\theta_1,\theta_2}L(\theta_1,\theta_2)} =\frac{L(\hat\theta,\hat\theta)}{L(\hat\theta_1,\hat\theta_2)} \end{align}$

, donde es el MLE de (bajo ), y es el MLE sin restricciones de para . $\hat\theta$ $\theta_1=\theta_2$ $H_0$ $\hat\theta_i$ $\theta_i$ $i=1,2$

Se verifica fácilmente que

({\hat{θ}}_{1}, {\hat{θ}}_{2}) = (\bar{X}, \bar{y})

$(\hat\theta_1,\hat\theta_2)=(\bar x,\bar y)$

\hat{θ} = \frac{{norte}_{1} \bar{X} + {norte}_{2} \bar{y}}{{norte}_{1} + {norte}_{2}}

$\hat\theta=\frac{n_1\bar x+n_2\bar y}{n_1+n_2}$

Después de alguna simplificación obtenemos esta simetría para el criterio LRT:

\begin{aligned} λ (X) & = \underset{> 0 0}{\underset{⏟}{constante}} {(\frac{{norte}_{1} \bar{X}}{{norte}_{1} \bar{X} + {norte}_{2} \bar{y}})}^{{norte}_{1}} {(\frac{{norte}_{2} \bar{y}}{{norte}_{1} \bar{X} + {norte}_{2} \bar{y}})}^{{norte}_{2}} \\ = constante \cdot t^{{norte}_{1}} (1 - t_{1})^{{norte}_{2}}, dónde t = \frac{{norte}_{1} \bar{X}}{{norte}_{1} \bar{X} + {norte}_{2} \bar{y}} \\ = sol (t), decir \end{aligned}

$\begin{align} \lambda(\mathbf x)&=\underbrace{\text{constant}}_{>0}\left(\frac{n_1\bar x}{n_1\bar x+n_2\bar y}\right)^{n_1}\left(\frac{n_2\bar y}{n_1\bar x+n_2\bar y}\right)^{n_2} \\&=\text{constant}\cdot\,t^{n_1}(1-t_1)^{n_2}\qquad,\text{ where }t=\frac{n_1\bar x}{n_1\bar x+n_2\bar y} \\&=g(t)\quad,\,\text{say} \end{align}$

Al estudiar la naturaleza de la función , vemos que $g$

{sol}^{'} (t) ≷ 0 0 ⟺ t ≶ \frac{{norte}_{1}}{{norte}_{1} + {norte}_{2}}

$g'(t)\gtrless 0\iff t\lessgtr \frac{n_1}{n_1+n_2}$

Ahora, dado que y se distribuyen independientemente, tenemos $2n_1\overline X/\theta_1\sim \chi^2_{2n_1}$ $2n_2\overline Y/\theta_2\sim \chi^2_{2n_2}$

\frac{\bar{X}}{\bar{Y}} \overset{H_{0 0}}{\sim} F_{2 {norte}_{1}, 2 {norte}_{2}}

$\frac{\overline X}{\overline Y}\stackrel{H_0}{\sim}F_{2n_1,2n_2}$

Definir

v = \frac{{norte}_{1} \bar{X}}{{norte}_{2} \bar{y}}

$v=\frac{n_1\overline x}{n_2\overline y}$

, de modo que

t = \frac{v}{v + 1} ↑ v

$t=\frac{v}{v+1}\quad\uparrow\, v$

Por lo tanto,

λ (x) < c ⟺ v < c_{1} or v > c_{2}

$\lambda(\mathbf x)<c \iff v<c_1\quad\text{ or }\quad v>c_2$

, donde se puede encontrar a partir de alguna restricción de tamaño y el hecho de que, bajo , $c_1,c_2$ $H_0$

\frac{n_{2}}{n_{1}} v \sim F_{2 n_{1}, 2 n_{2}}

$\frac{n_2}{n_1}v\sim F_{2n_1,2n_2}$

— ObstinadoAtom
fuente