¿Existen asintóticas de tercer orden?

14

La mayoría de los resultados asintóticos en las estadísticas demuestran que como un estimador (como el MLE) converge a una distribución normal basada en una expansión taylor de segundo orden de la función de probabilidad. Creo que hay un resultado similar en la literatura bayesiana, el "Teorema del límite central bayesiano", que muestra que la parte posterior converge asintóticamente a una normal como $n \rightarrow \infty$ $n \rightarrow \infty$

Mi pregunta es: ¿la distribución converge a algo "antes" de que se vuelva normal, según el tercer término de la serie Taylor? ¿O no es esto posible en general?

mathematical-statistics asymptotics saddlepoint-approximation

— gabgoh
fuente

(+1) .. buena pregunta. El teorema del límite central bayesiano se denomina aproximación de Laplace, es decir, el posterior se comporta "más o menos" como una distribución normal. (formalmente posterior converge en distribución a una distribución normal)

— suncoolsu

Relacionado: stats.stackexchange.com/questions/191492/…

— kjetil b halvorsen

7

Estás buscando la serie Edgeworth, ¿verdad?

http://en.wikipedia.org/wiki/Edgeworth_series#Edgeworth_series

(tenga en cuenta que Edgeworth murió en 1926, debería estar en la estadística más famosa?)

— robin girard
fuente

5

No es posible que una secuencia "converja" a una cosa y luego a otra. Los términos de orden superior en una expansión asintótica irán a cero. Lo que te dicen es qué tan cerca de cero están para cualquier valor dado de . $n$

Para el Teorema del límite central (como ejemplo), la expansión apropiada es la del logaritmo de la función característica: la función generadora acumulativa (cgf). La estandarización de las distribuciones corrige los términos cero, primero y segundo del cgf. Los términos restantes, cuyos coeficientes son los acumulativos , dependen de de manera ordenada. La estandarización que se produce en la CLT (dividiendo la suma de variables aleatorias por algo proporcional a --sin que no se producirá convergencia) hace que el cumulante - que después de todo depende de momentos - a ser dividido por $n$ $n$ $n^{1/2}$ $m^\text{th}$ $m^\text{th}$ , pero al mismo tiempo debido a que estamos sumandotérminos, el resultado neto es que el término de orden es proporcional a . Así, la tercera cumulante de la suma estandarizada es proporcional a , la cuarta cumulante es proporcional a $(n^{1/2})^m = n^{m/2}$ $n$ $m^\text{th}$ $n/n^{m/2} = n^{-(m-2)/2}$ $1/n^{1/2}$ $1/n$ , y así. Estos son los términos de orden superior. (Para más detalles, consulte este documento de Yuval Filmus, por ejemplo).

En general, una potencia negativa alta de es mucho más pequeña que una potencia negativa baja. Siempre podemos estar seguros de esto tomando un valor suficientemente grande de . Por lo tanto, para muy grande podemos descuidar todas las potencias negativas de : convergen a cero. En el camino a la convergencia, las salidas desde el límite último se miden con precisión cada vez mayor por los términos adicionales: el plazo es una "corrección", inicial o de salida desde el valor límite; el siguiente $n$ $n$ $n$ $n$ $1/n^{1/2}$ $1/n$ El término es una corrección más pequeña que se desvanece más rápidamente, y así sucesivamente. En resumen, los términos adicionales le dan una idea de cuán rápido la secuencia converge a su límite.

$n$ $1/n^{1/2}$

— whuber
fuente

por alguna razón, no encuentro su respuesta completamente convincente. Estoy de acuerdo en que la distribución necesita ser "estirada", y que no es correcto decir que converge a X antes de que converja a una normalidad. Eso sería un error de mi parte. Aún así, creo que debería existir alguna forma de escalar la distribución de tal manera que solo los "momentos" de cuarto orden y superiores vayan a cero. Tengo que pensar un poco más difícil en cuanto a qué es exactamente lo que la ampliación del factor sería así, si tal cosa existiera

— gabgoh

2

@gabgoh Me gustaría saber más sobre qué aspecto (s) de la respuesta son débiles. En lo que respecta al escalado, estás estancado: ya has usado esa posibilidad para estandarizar los elementos de la secuencia. Si (hipotéticamente) alguna forma de escalado evitaría que los terceros momentos fueran a cero, entonces contradeciría el CLT porque la distribución limitante no sería Normal. Hay un problema relacionado con la asintótica de los estimadores. A menudo puede ajustar un estimador para matar momentos más altos de forma asintótica (p. Ej., Con bootstrapping): pero esto aún no se puede hacer escalando solo.

— whuber

3

Aquí hay un intento de responder a su pregunta perspicaz. He visto la inclusión del tercer término de la serie Taylor para aumentar la velocidad de convergencia de la serie a la distribución verdadera. Sin embargo, no he visto (en mi experiencia limitada) el uso de terceros y momentos superiores.

Como señaló John D. Cook en sus blogs ( aquí y aquí ), no se ha hecho mucho trabajo en esta dirección, aparte del teorema de Berry-Esseen . Mi suposición sería (de la observación en el blog sobre el error de aproximación que está limitado por $n^{1/2}$ ), ya que la normalidad asintótica de mle está garantizada a una tasa de convergencia de $n^{1/2}$ ( $n$ , siendo el tamaño de la muestra), teniendo en cuenta los momentos más altos no mejorará el resultado de la normalidad.

Por lo tanto, supongo, la respuesta a su pregunta debería ser no . La distribución asintótica converge a una dist. Normal (por CLT, en condiciones de regularidad de CLT de Lindberg). Sin embargo, el uso de términos de orden superior puede aumentar la tasa de convergencia a la distribución asintótica.

— suncoolsu
fuente

3

Definitivamente no es mi área, pero estoy bastante seguro de que existen asintóticos de tercer y mayor orden. ¿Te sirve de ayuda?

Robert L. Strawderman. Aproximación asintótica de orden superior: Laplace, Saddlepoint y métodos relacionados Journal of the American Statistical Association vol. 95, núm. 452 (diciembre de 2000), págs. 1358-1364

— una parada
fuente