¿Cuáles son las condiciones de regularidad para la prueba de razón de verosimilitud?

¿Podría alguien decirme cuáles son las condiciones de regularidad para la distribución asintótica de la prueba de relación de probabilidad?

Donde quiera que mire, está escrito 'Bajo las condiciones de regularidad' o 'bajo las regularidades probabilísticas'. ¿Cuáles son las condiciones exactamente? ¿Que existan el primer y segundo derivados de probabilidad logarítmica y que la matriz de información no sea cero? ¿O algo completamente diferente?

maximum-likelihood likelihood-ratio asymptotics

— Kingstat
fuente

Las condiciones de regularidad requeridas se enumeran en la mayoría de los libros de texto intermedios y no son diferentes a las del mle. Los siguientes se refieren al caso de un parámetro, pero su extensión al multiparámetro es sencilla.

Condición 1 : los archivos PDF son distintos, es decir, $\theta \neq \theta ^{\prime} \Rightarrow f(x_i;\theta)\neq f(x_i;\theta ^{\prime})$

Tenga en cuenta que esta condición esencialmente establece que el parámetro identifica el pdf.

Condición 2: los archivos PDF tienen soporte común para todos $\theta$

Lo que esto implica es que el soporte no depende de $\theta$

Condición 3 : el punto , el parámetro real que es, es un punto interior en algún conjunto $\theta_0$ $\Omega$

El último se refiere a la posibilidad de que aparezca en los puntos finales de un intervalo. $\theta$

Estos tres juntos garantizan que la probabilidad se maximiza en el parámetro verdadero y luego que el mle que resuelve la ecuación $\theta_0$ $\hat{\theta}$

\frac{\partial l (θ)}{\partial θ} = 0

$\frac{\partial l(\theta)} {\partial \theta}=0$

es consistente.

Condición 4 : El pdf es dos veces diferenciable en función de $f(x;\theta)$ $\theta$

Condición 5 : La integral se puede diferenciar dos veces bajo el signo integral en función de $\int_{-\infty}^{\infty} f(x;\theta)\ \mathrm dx$ $\theta$

Necesitamos los dos últimos para derivar la información de Fisher, que desempeña un papel central en la teoría de la convergencia del mle.

Para algunos autores esto es suficiente, pero si queremos ser minuciosos, también necesitamos una condición final que garantice la normalidad asintótica de la mle.

Condición 6 : El pdf es tres veces diferenciable en función de . Además para all , existe una constante y una función tal que $f(x;\theta)$ $\theta$ $\theta \in \Omega$ $c$ $M(x)$

| \frac{\partial^{3} l o g f (x; θ)}{\partial θ^{3}} | \leq M (x)

$\left| \frac{\partial^3 log f(x;\theta)}{\partial \theta^3} \right| \leq M(x)$

con para todo y todo en el soporte de $E_{\theta_0} \left[M(X)\right] <\infty$ $|\theta-\theta_0|<c$ $x$ $X$

Esencialmente, la última condición nos permite concluir que el resto de una expansión de Taylor de segundo orden sobre está limitada en probabilidad y, por lo tanto, no plantea ningún problema asintóticamente. $\theta_0$

¿Eso es lo que tenías en mente?

— JohnK
fuente

Gracias. ¿Pero está seguro de que las condiciones de regularidad relacionadas con la prueba de que -2log (lambda) sigue Chi cuadrado con df 1 son las mismas?

— Kingstat

@Kingstat Sí. Estas condiciones provienen de Hogg y Craig "Introducción a las estadísticas matemáticas" y aseguran que bajo , eso es ,

H_{0}

$H_0$

θ = θ_{0}

$\theta=\theta_0$

- 2 \log Λ \to^{D} χ^{2} (1)

$-2\log\Lambda \to^D \chi^2 (1)$

— JohnK

¿podría decirme también cómo, para una densidad N (θ, 1), la prueba de puntuación de Rao es equivalente a la prueba UMPU?

— Kingstat

@ Kingstat ¿Qué significa UMPU?

— JohnK

Uniformemente más poderoso imparcial.

— Kingstat