CLT con variables aleatorias que no son integrables

El ejercicio 15.5.1 de la "Teoría de la probabilidad: un curso completo" de Klenke dice lo siguiente. Encuentre una secuencia de variables aleatorias reales independientes con para todos tal que No estoy seguro de cómo es esto posible si la media ni siquiera está definida en este caso. Todos los casos que se me ocurren de variables con una media indefinida no satisfacen un Teorema del límite central con una escala . Cualquier ayuda es apreciada. $X_1, X_2, \ldots$ $\mathbb{E}[|X_n|]=\infty$ $n\in \mathbb{N}$

\frac{X_{1} + \dots + X_{n}}{\sqrt{n}} \overset{n \to \infty}{⟹} N (0, 1) .

$\frac{X_1+ \cdots + X_n}{\sqrt{n}} \stackrel{n \to \infty}{\Longrightarrow} N(0,1).$

\sqrt{n}

$\sqrt{n}$

self-study central-limit-theorem

— invitado0877
fuente

Sugerencia: reduzca los conceptos a sus elementos básicos. Dado que la Normal está en el corazón de la CLT, comience con iid Normal . Luego modifíquelos de modo que (a) cada uno tenga un valor absoluto esperado infinito mientras que (b) la cantidad de modificación disminuye rápidamente con , de modo que en la división límite por "mata" la parte modificada. Una manera simple de modificar una variable aleatoria es agregarle otra.

X_{i}

$X_i$

n

$n$

\sqrt{n}

$\sqrt{n}$

— whuber

@whuber ¿Su punto es que no se dice que las variables aleatorias estén distribuidas de manera idéntica? Si fueran iid, estaría de acuerdo con el OP.

— Michael R. Chernick

@whuber La respuesta también requiere que solo Xn tenga la media infinita.

— Michael R. Chernick

Supongo que "para todo n" significa que todos los Xi tienen un valor absoluto medio infinito. Estoy tratando de tener cuidado aquí. Quiero entender su sugerencia, pero no decir algo que revele la solución al OP.

— Michael R. Chernick

@Michael Si fueran iid, entonces el resultado no sería cierto. La idea es hacer que la parte de provoque que la expectativa infinita tenga cada vez menos posibilidades de ocurrir a medida que aumenta. Una buena manera de hacerlo es con una mezcla.

X_{n}

$X_n$

n

$n$

— whuber

Entre las muchas formas de resolver este problema, construir la secuencia perturbando una variable Normal estándar parece ser la más simple y elegante.

Al final comento sobre la conexión con el Teorema del límite central.

Funciones Caracteristicas

Permítame una digresión antes de presentar una solución. La inspiración para la técnica que se utiliza proviene de la idea de que hay más de una manera de describir la distribución de cualquier variable aleatoria . La más común y más directa es su función de distribución . Una alternativa indirecta pero extremadamente útil es su función característica. $X$ $F_X(x)=\Pr(X\le x)$

ψ_{X} (t) = mi [{mi}^{yo t X}] = mi [\cos (t X)] + yo mi [pecado (t X)] .

$\psi_X(t) = E\left[e^{itX}\right] = E\left[\cos(t X)\right] + i\, E\left[\sin(t X)\right].$

Debido a que para todo , se define para cualquier distribución (y sus valores para todo no pueden exceder en tamaño). Además, e tienen la misma distribución si y solo si tienen la misma función característica. Aún mejor es el teorema de continuidad de Lévy: una secuencia converge en distribución a una variable aleatoria si y solo si para cada la secuencia converge a un valor y la función $|e^{itX}|=1$ $t$ $\psi_F$ $F$ $t$ $1$ $X$ $Y$ $X_n$ $X$ $t$ $\phi_{X_n}(t)$ $\psi(t)$ $\psi$ es continuo en . (Todas las funciones características son continuas en ). En ese caso, es la función característica de . $0$ $0$ $\psi$ $X$

Otra de las propiedades encantadoras que disfrutan las funciones características es su relación con las combinaciones lineales: cuando e son variables aleatorias (en el mismo espacio de probabilidad y y son números reales, $X$ $Y$ $\alpha$ $\beta$

\begin{matrix} (1) & ψ_{α X + β Y} (t) = ψ_{X} (α t) ψ_{Y} (β t) . \end{matrix}

$\psi_{\alpha X+\beta Y}(t) = \psi_X(\alpha t)\psi_Y(\beta t).\tag{1}$

Esto hace que las funciones características (cfs) sean una herramienta adecuada para estudiar perturbaciones de variables aleatorias logradas al agregarles pequeñas cantidades de otras variables aleatorias : es decir, variables aleatorias de la forma parapequeña. $X$ $Y$ $X+\beta Y$ $|\beta|$

Solución

Construcción de una secuencia.

Constructo de Let una solución partiendo de una variable normal estándar y formando una secuencia independiente con la misma distribución que . Obviamente, esto tiene la propiedad limitante que queremos: las medias son todas normales Normal, por lo que en el límite la media es Normal normal. $Z$ $Z_1, Z_2, \ldots, Z_n, \ldots$ $Z$

Su cf es

\begin{matrix} (2) & ψ_{Z} (t) = {mi}^{- t^{2} / / 2} . \end{matrix}

$\psi_Z(t) = e^{-t^2/2}.\tag{2}$

Para las perturbaciones, elija alguna variable aleatoria con expectativa infinita. Será conveniente que tenga un cf con el que sea fácil trabajar. Me gustaría sugerir la distribución Lévy ( también conocida como Distribución estable con o distribución Inverse Gamma ) para la cual $Y$ $Y$ $\alpha=1/2,\ \beta=1$ $(1/2,1/2)$

ψ_{Y} (t) = {mi}^{- \sqrt{El | t El |} (1 - yo sgn (t))} .

$\psi_Y(t) = e^{-\sqrt{|t|}\,(1 - i \operatorname{sgn}(t))}.$

(Para , ; para ) $t\gt 0$ $\operatorname{sgn}(t)=1$ $t \lt 0,$ $\operatorname{sgn}(t)=-1$

Esta distribución es compatible con y no tiene momentos finitos. $(0,\infty)$

A esta secuencia de variables normales estándar agreguemos múltiplos positivos de cada vez más pequeños . $(Z_n)$ $Y$ (La positividad es innecesaria pero facilita el trabajo con la función ). Deje que la secuencia de múltiplos sea por determinar. Así, la secuencia de variables aleatorias se define para ser donde es una secuencia iid de variables aleatorias con la misma distribución que . $\operatorname{sgn}$ $p_1,p_2,p_3,\ldots,$

X_{norte} = Z_{norte} + {pags}_{norte} Y_{norte}

$X_n=Z_n + p_n Y_n$

(Y_{n})

$(Y_n)$

Y

$Y$

Intuición

De lo que debemos preocuparnos es de si las perturbaciones son tan graves que arruinan la convergencia a una distribución Normal estándar. Para aquellos con experiencia en distribuciones de cola tan pesada, esto es una preocupación real: siempre habrá alguna probabilidad positiva de que la pequeña cantidad de agregada en ocasionalmente presente un valor atípico tan grande que supere la suma parcial . La razón completa para usar funciones características es demostrar que esto no sucederá a largo plazo, siempre que reduzcamos la cantidad de perturbación ( ) lo suficientemente rápido. $Y_n$ $Z_n$ $S_n$ $p_n$

Cálculos formales

Primero, tiene una expectativa infinita porque $X_n$

mi [X_{norte}] = mi [Z_{norte} + {pags}_{norte} Y_{norte}] = mi [Z] + {pags}_{norte} mi [Y] = {pags}_{norte} mi [Y]

$E[X_n] = E[Z_n + p_n Y_n] = E[Z] + p_n E[Y] = p_n E[Y]$

debe ser infinito ya que es infinito. Por lo tanto, esta secuencia satisface todos los requisitos del problema. $E[Y]$ $(X_n)$

Pasemos al análisis de los medios parciales. Aplicación repetida de a la media parcial $(1)$

S_{norte} = \frac{X_{1} + X_{2} + \dots + X_{norte}}{\sqrt{norte}}

$S_n = \frac{X_1 + X_2 + \cdots + X_n}{\sqrt{n}}$

\begin{matrix} (3) & \begin{aligned} ψ_{S_{n}} (t) & = [e^{- (t / \sqrt{n})^{2} / 2} ψ_{Y} (p_{1} t / \sqrt{n})] \dots [e^{- (t / \sqrt{n})^{2} / 2} ψ_{Y} (p_{norte} t / / \sqrt{norte})] \\ = [{mi}^{- (t / / \sqrt{norte})^{2} / / 2} \dots {mi}^{- (t / / \sqrt{norte})^{2} / / 2}] [ψ_{Y} ({pags}_{1} t / / \sqrt{norte}) \dots ψ_{Y} ({pags}_{norte} t / / \sqrt{norte})] \\ = {mi}^{- t^{2} / / (2 norte) - t^{2} / / (2 norte) - \dots - t^{2} / / (2 norte)} {mi}^{\sqrt{El | {pags}_{1} t / / \sqrt{norte} El |} (- 1 + yo sgn ({pags}_{1} t / / \sqrt{norte})} \dots {mi}^{\sqrt{El | {pags}_{norte} t / / \sqrt{norte} El |} (- 1 + yo sgn ({pags}_{norte} t / / \sqrt{norte})} . \end{aligned} \end{matrix}

$\eqalign{ \psi_{S_n}(t) &= \left[e^{-(t/\sqrt{n})^2/2}\color{Blue}{\psi_Y(p_1 t/\sqrt{n})}\right] \cdots \left[e^{-(t/\sqrt{n})^2/2}\color{Blue}{\psi_Y(p_n t/\sqrt{n})}\right] \\ &= \left[e^{-(t/\sqrt{n})^2/2} \cdots e^{-(t/\sqrt{n})^2/2}\right] \left[\color{Blue}{\psi_Y(p_1t/\sqrt{n}) \cdots \psi_Y(p_nt/\sqrt{n})}\right] \\ &= e^{-t^2/(2n) - t^2/(2n) - \cdots - t^2/(2n)}\quad \color{Blue}{e^{\sqrt{|p_1t/\sqrt{n}|}(-1+i\operatorname{sgn}(p_1t/\sqrt{n})} \cdots e^{\sqrt{|p_nt/\sqrt{n}|}(-1+i\operatorname{sgn}(p_nt/\sqrt{n})} }.\tag{3} }$

Recolectar los poderes negros de da el poder mientras que recolectando los poderes azules (provenientes de las perturbaciones) da $e$ $-t^2/2$

\begin{matrix} (4) & \sum_{yo = 1}^{norte} \sqrt{El | {pags}_{yo} t / / \sqrt{norte} El |} (- 1 + yo sgn ({pags}_{yo} t / / \sqrt{norte})) = \sqrt{El | t El |} (- 1 + yo sgn (t)) \frac{\sum_{yo = 1}^{norte} \sqrt{{pags}_{yo}}}{{norte}^{1 / / 4 4}} \end{matrix}

$\sum_{i=1}^n \color{blue}{\sqrt{|p_it/\sqrt{n}|}(-1+i\operatorname{sgn}(p_it/\sqrt{n}))} = \sqrt{|t|}(-1+i\operatorname{sgn}(t))\frac{\sum_{i=1}^n \sqrt{p_i}}{n^{1/4}}\tag{4}$

porque todos los son positivos. Desde , para cualquier fija, el valor de va a cero a medida que aumenta siempre queUna forma de hacer que esto suceda es hacer que la suma de converja: tome , por ejemplo. Entonces $n$ $p_i$ $|-1 + i\operatorname{sgn}(t)| \le \sqrt{2}$ $t$ $(4)$ $n$ $\sum_{i=1}^n\sqrt{p_i} = o(n^{-1/4}).$ $\sqrt{p_i}$ $p_i = 2^{-2i}$

\frac{1}{n^{1 / 4}} \sum_{i = 1}^{n} \sqrt{p_{i}} \leq \frac{1}{n^{1 / 4}} (1 / 2 + 1 / 4 + \dots + 1 / 2^{n} + \dots) = \frac{1}{n^{1 / 4}} \to 0.

$\frac{1}{n^{1/4}} \sum_{i=1}^n \sqrt{p_i} \le \frac{1}{n^{1/4}} (1/2+1/4+\cdots+1/2^n+\cdots) = \frac{1}{n^{1/4}}\to 0.$

En consecuencia, debido a que el exponencial es continuo en , los términos azules convergen en : no afectan el límite. Concluimos converge a . Como este es el cf de la distribución normal estándar, el teorema de continuidad de Lévy implica que converge a una distribución normal estándar, QED . $0$ $(3)$ $e^0=1$ $(\psi_{S_n})$ $\psi_X$ $S_n$

Comentarios

Las ideas que se muestran aquí pueden ser generalizadas. No necesitamos que sea estándar Normal; es suficiente (por el teorema del límite central habitual) que están en medio con cero media y varianza unitaria. Parece que hemos establecido una extensión del CLT: las distribuciones de medias de una secuencia de variables aleatorias independientes, incluso aquellas con expectativas y variaciones infinitas , pueden (cuando está adecuadamente estandarizado) converger a una distribución Normal estándar, siempre que la "parte infinita" de las variables aleatorias crece lo suficientemente pequeño lo suficientemente rápido. $X_n$

— whuber
fuente