Mostrar estimación converge a percentil a través de estadísticas de pedido

Sea una secuencia de variables aleatorias iid muestreadas de una distribución estable alfa , con parámetros . $X_1, X_2, \ldots, X_{3n}$ $\alpha = 1.5, \; \beta = 0, \; c = 1.0, \; \mu = 1.0$

Ahora considere la secuencia , donde , para . $Y_1, Y_2, \ldots, Y_{n}$ $Y_{j+1} = X_{3j+1}X_{3j+2}X_{3j+3} - 1$ $j=0, \ldots, n-1$

Quiero estimar el percentil . $0.01-$

Mi idea es realizar una especie de simulación de Montecarlo:

l = 1;
while(l < max_iterations)
{
  Generate $X_1, X_2, \ldots, X_{3n}$ and compute $Y_1, Y_2, \ldots, Y_{n}$;
  Compute $0.01-$percentile of current repetition;
  Compute mean $0.01-$percentile of all the iterations performed;
  Compute variance of $0.01-$percentile of all the iterations performed;
  Calculate confidence interval for the estimate of the $0.01-$percentile;

  if(confidence interval is small enough)
    break;

}

Llamando a la media de todos los percentiles de la muestra calculados como y su varianza , para calcular el intervalo de confianza apropiado para , recurro a la forma fuerte del teorema del límite central : $0.01-$ $\hat{\mu}_n$ $\hat{\sigma}^{2}_{n}$ $\mu$

Sea una secuencia de variables aleatorias iid con y . Defina la media de muestra como . Entonces, tiene una distribución normal estándar limitante, es decir, $X_1, X_2, \ldots$ $E \left[ X_i \right] = \mu$ $0 < V \left[ X_i \right] = \sigma^2 < \infty$ $\hat{\mu}_n = (1/n) \sum_{i=1}^n X_i$ $(\hat{\mu}_n - \mu) / \sqrt{\sigma^{2}/n}$
$\frac{{\hat{μ}}_{n} - μ}{\sqrt{σ^{2} / n}} \overset{n \to \infty}{⟶} N (0, 1) .$ $\frac{\hat{\mu}_n - \mu}{\sqrt{\sigma^{2}/n}} \overset{n \rightarrow \infty} \longrightarrow N(0,1).$

y el teorema de Slutksy para concluir que

\sqrt{n} \frac{{\hat{μ}}_{n} - μ}{\sqrt{{\hat{σ}}_{n}^{2}}} \overset{n \to \infty}{⟶} N (0, 1) .

$\sqrt{n} \frac{\hat{\mu}_n - \mu}{\sqrt{\hat{\sigma}^{2}_{n}}} \overset{n \rightarrow \infty} \longrightarrow N(0,1).$

Entonces un -confidence intervalo para es $(1-\alpha)\times 100\%$ $\mu$

I_{α} = [{\hat{μ}}_{n} - z_{1 - α / 2} \sqrt{\frac{{\hat{σ}}_{n}^{2}}{n}}, {\hat{μ}}_{n} + z_{1 - α / 2} \sqrt{\frac{{\hat{σ}}_{n}^{2}}{n}}],

$I_{\alpha} = \left[\hat{\mu}_n - z_{1- \alpha / 2} \sqrt{\frac{\hat{\sigma}^{2}_{n}}{n}} , \hat{\mu}_n + z_{1- \alpha / 2} \sqrt{\frac{\hat{\sigma}^{2}_{n}}{n}} \right],$ donde es la cantidad de la distribución normal estándar.

z_{1 - α / 2}

$z_{1- \alpha / 2}$

(1 - α / 2)

$(1- \alpha / 2)$

Preguntas:

1) ¿Es correcto mi enfoque? ¿Cómo puedo justificar la aplicación del CLT? Quiero decir, ¿cómo puedo demostrar que la varianza es finita? (¿Tengo que mirar la varianza de ? Porque no creo que sea finita ...) $Y_j$

2) ¿Cómo puedo demostrar que el promedio de todos los percentiles muestra calculados converge al valor verdadero del percentil ? (Debería usar estadísticas de pedidos, pero no estoy seguro de cómo proceder; se agradecen las referencias). $0.01-$ $0.01-$

— maya
fuente

Todos los métodos aplicados a las medianas de muestra en stats.stackexchange.com/questions/45124 también se aplican a otros percentiles. En efecto, su pregunta es idéntica a esa, pero simplemente reemplaza el percentil 50 con el primer percentil (¿o quizás 0.01?).

— whuber

@whuber, tu respuesta a esa pregunta es extremadamente buena. sin embargo, Glen_b declara, al final de su publicación (la respuesta aceptada), que la normalidad aproximada "no es válida para cuantiles extremos, porque el CLT no funciona allí (el promedio de Z no será asintóticamente normal) Necesitas una teoría diferente para los valores extremos ". ¿Qué tan preocupado debería estar sobre esta declaración?

— Maya

Creo que realmente no quiso decir cuantiles extremos , sino solo los extremos mismos. (De hecho, corrigió ese lapso al final de la misma oración, refiriéndose a ellos como "valores extremos".) La distinción es que un cuantil extremo, como el percentil .01 (que marca la parte inferior 1/10000 del distribución), en el límite, se estabilizará porque cada vez más datos en una muestra caerán por debajo y más y más caerán por encima de ese percentil. Con un extremo (como el máximo o mínimo) que ya no es el caso.

— whuber

Este es un problema que debería resolverse en general utilizando la teoría empírica de procesos. Un poco de ayuda sobre su nivel de capacitación sería útil.

— AdamO

La varianza de no es finita. $Y$ Esto se debe a que una variable estable alfa con 3/2 (una distribución de Holtzmark ) tiene una expectativa finita pero su varianza es infinita. Si tuviera una varianza finita , entonces al explotar la independencia de y la definición de varianza podríamos calcular $X$ $\alpha=3/2$ $\mu$ $Y$ $\sigma^2$ $X_i$

\begin{aligned} σ^{2} = Var (Y) & = E (Y^{2}) - E (Y)^{2} \\ = E (X_{1}^{2} X_{2}^{2} X_{3}^{2}) - E (X_{1} X_{2} X_{3})^{2} \\ = E (X^{2})^{3} - {(E (X)^{3})}^{2} \\ = {(Var (X) + E (X)^{2})}^{3} - μ^{6} \\ = {(Var (X) + μ^{2})}^{3} - μ^{6} . \end{aligned}

$\eqalign{ \sigma^2 = \operatorname{Var}(Y) &= \mathbb{E}(Y^2) - \mathbb{E}(Y)^2 \\ &= \mathbb{E}(X_1^2X_2^2X_3^2) - \mathbb{E}(X_1X_2X_3)^2 \\ &= \mathbb{E}(X^2)^3 - \left(\mathbb{E}(X)^3\right)^2 \\ &= \left(\operatorname{Var}(X) + \mathbb{E}(X)^2\right)^3 - \mu^6 \\ &= \left(\operatorname{Var}(X) + \mu^2\right)^3 - \mu^6. }$

Esta ecuación cúbica en tiene al menos una solución real (y hasta tres soluciones, pero no más), lo que implica que sería finita, pero no lo es. Esta contradicción prueba el reclamo. $\operatorname{Var}(X)$ $\operatorname{Var}(X)$

Pasemos a la segunda pregunta.

Cualquier cuantil de muestra converge con el verdadero cuantil a medida que la muestra crece. Los siguientes párrafos prueban este punto general.

Sea la probabilidad asociada (o cualquier otro valor entre y , exclusivo). Escriba para la función de distribución, de modo que sea el cuantil . $q=0.01$ $0$ $1$ $F$ $Z_q=F^{-1}(q)$ $q^{\text{th}}$

Todo lo que debemos suponer es que (la función cuantil) es continua. Esto nos asegura que para cualquier hay probabilidades y para las cuales $F^{-1}$ $\epsilon\gt 0$ $q_-\lt q$ $q_+\gt q$

F (Z_{q} - ϵ) = q_{-}, F (Z_{q} + ϵ) = q_{+},

$F(Z_q - \epsilon) = q_-,\quad F(Z_q + \epsilon) = q_+,$

y que como , el límite del intervalo es . $\epsilon\to 0$ $[q_-, q_+]$ $\{q\}$

Considere cualquier muestra iid de tamaño . El número de elementos de esta muestra que son menores que tiene una distribución Binomial , porque cada elemento independientemente tiene una posibilidad de ser menor que . El teorema del límite central (¡el habitual!) Implica que para suficientemente grande , el número de elementos menores que viene dado por una distribución Normal con media y varianza (a una aproximación arbitrariamente buena). Deje que el CDF de la distribución normal estándar sea . La posibilidad de que esta cantidad exceda $n$ $Z_{q_-}$ $(q_-, n)$ $q_-$ $Z_{q_-}$ $n$ $Z_{q_-}$ $nq_-$ $nq_-(1-q_-)$ $\Phi$ $nq$ por lo tanto es arbitrariamente cerca de

1 - Φ (\frac{n q - n q_{-}}{\sqrt{n q_{-} (1 - q_{-})}}) = 1 - Φ (\sqrt{n} \frac{q - q_{-}}{\sqrt{q_{-} (1 - q_{-})}}) .

$1-\Phi\left(\frac{nq - nq_-}{\sqrt{nq_-(1-q_-)}}\right) = 1-\Phi\left(\sqrt{n}\frac{q - q_-}{\sqrt{q_-(1-q_-)}}\right).$

Debido a que el argumento en en el lado derecho es un múltiplo fijo de , crece arbitrariamente grande a medida que crece. Como es un CDF, su valor se aproxima arbitrariamente a , lo que muestra que el valor límite de esta probabilidad es cero. $\Phi$ $\sqrt{n}$ $n$ $\Phi$ $1$

En palabras: en el límite, es casi seguro que de los elementos de muestra no sean menores que . Un argumento análogo demuestra que es casi seguro que de los elementos de la muestra no son mayores que . En conjunto, esto implica que el cuantil de una muestra suficientemente grande es extremadamente probable que se encuentre entre y . $nq$ $Z_{q_-}$ $nq$ $Z_{q_+}$ $q$ $Z_q-\epsilon$ $Z_q+\epsilon$

Eso es todo lo que necesitamos para saber que la simulación funcionará. Puede elegir cualquier grado deseado de precisión y nivel de confianza y saber que para un tamaño de muestra suficientemente grande , el estadístico de orden más cercano a en esa muestra tendrá una posibilidad de al menos de estar dentro de del verdadero cuantil . $\epsilon$ $1-\alpha$ $n$ $nq$ $1-\alpha$ $\epsilon$ $Z_q$

Una vez establecido que una simulación funcionará, el resto es fácil. Los límites de confianza pueden obtenerse a partir de los límites para la distribución binomial y luego transformarse nuevamente. Se puede encontrar una explicación más detallada (para el cuantil , pero generalizando a todos los cuantiles) en las respuestas en Teorema del límite central para medianas de muestra . $q=0.50$

El cuantil de es negativo. Su distribución de muestreo es muy sesgada. Para reducir la inclinación, Esta figura muestra un histograma de los logaritmos de los negativos de 1.000 muestras simuladas de valores de . $q=0.01$ $Y$ $n=300$ $Y$

library(stabledist)
n <- 3e2
q <- 0.01
n.sim <- 1e3

Y.q <- replicate(n.sim, {
  Y <- apply(matrix(rstable(3*n, 3/2, 0, 1, 1), nrow=3), 2, prod) - 1
  log(-quantile(Y, 0.01))
})
m <- median(-exp(Y.q))
hist(Y.q, freq=FALSE, 
     main=paste("Histogram of the", q, "quantile of Y for", n.sim, "iterations" ),
     xlab="Log(-Y_q)",
     sub=paste("Median is", signif(m, 4), 
               "Negative log is", signif(log(-m), 4)),
     cex.sub=0.8)
abline(v=log(-m), col="Red", lwd=2)

— whuber
fuente