En varios contextos diferentes, invocamos el teorema del límite central para justificar cualquier método estadístico que queramos adoptar (por ejemplo, aproximar la distribución binomial por una distribución normal). Entiendo los detalles técnicos de por qué el teorema es verdadero, pero justo ahora se me ocurre que realmente no entiendo la intuición detrás del teorema del límite central.

Entonces, ¿cuál es la intuición detrás del teorema del límite central?

Las explicaciones profanas serían ideales. Si se necesitan algunos detalles técnicos, suponga que entiendo los conceptos de pdf, cdf, variable aleatoria, etc.

Pido disculpas de antemano por la extensión de esta publicación: es con cierta inquietud que la dejo salir en público, porque lleva algo de tiempo y atención leerla y, sin duda, tiene errores tipográficos y fallas expositivas. Pero aquí está para aquellos que estén interesados ​​en el fascinante tema, ofrecido con la esperanza de que lo aliente a identificar una o más de las muchas partes del CLT para una mayor elaboración de sus propias respuestas.

---

La mayoría de los intentos de "explicar" el CLT son ilustraciones o simplemente reafirmaciones que afirman que es cierto. Una explicación correcta, realmente penetrante, tendría que explicar muchas cosas.

Antes de seguir analizando esto, seamos claros acerca de lo que dice el CLT. Como todos saben, hay versiones que varían en su generalidad. El contexto común es una secuencia de variables aleatorias, que son ciertos tipos de funciones en un espacio de probabilidad común. Para explicaciones intuitivas que se sostienen rigurosamente, encuentro útil pensar en un espacio de probabilidad como una caja con objetos distinguibles. No importa cuáles sean esos objetos, pero los llamaré "tickets". Hacemos una "observación" de una caja mezclando completamente los boletos y sacando uno; ese boleto constituye la observación. Después de grabarlo para su posterior análisis, devolvemos el ticket a la caja para que su contenido permanezca sin cambios. Una "variable aleatoria" es básicamente un número escrito en cada boleto.

En 1733, Abraham de Moivre consideró el caso de una sola caja donde los números en los boletos son solo ceros y unos ("ensayos de Bernoulli"), con algunos de cada número presente. Se imaginó haciendo observaciones físicamente independientes , produciendo una secuencia de valores , todos los cuales son cero o uno. La suma de esos valores, , es aleatoria porque los términos en la suma son. Por lo tanto, si pudiéramos repetir este procedimiento muchas veces, aparecerían varias sumas (números enteros que varían de a ) con varias frecuencias, proporciones del total. (Consulte los histogramas a continuación).x 1 , x 2 , … , x n y n = x 1 + x 2 + … + x n 0 $n$$x_1, x_2, \ldots, x_n$$y_n = x_1 + x_2 + \ldots + x_n$$0$$n$

Ahora uno esperaría, y es cierto, que para valores muy grandes de , todas las frecuencias serían bastante pequeñas. Si fuéramos a ser tan audaz (o tonto) como para intentar "tener un límite" o "Let ir a ", llegaríamos a la conclusión correcta de que todas las frecuencias se reducen a . Pero si simplemente dibujamos un histograma de las frecuencias, sin prestar atención a cómo se etiquetan sus ejes, vemos que todos los histogramas para grandes comienzan a verse iguales: en cierto sentido, estos histogramas se acercan a un límite aunque las frecuencias todos ellos van a cero.n ∞ 0 $n$$n$$\infty$$0$$n$

Estos histogramas representan los resultados de repetir el procedimiento para obtener muchas veces. es el "número de ensayos" en los títulos.$y_n$$n$

La idea aquí es dibujar el histograma primero y etiquetar sus ejes más tarde . Con grande, el histograma cubre un amplio rango de valores centrados alrededor de (en el eje horizontal) y un intervalo de valores extremadamente pequeño (en el eje vertical), porque las frecuencias individuales crecen bastante pequeñas. Por lo tanto Montaje de esta curva en la región trazando ha requerido tanto un desplazamiento y cambio de escala del histograma. La descripción matemática de esto es que para cada podemos elegir algún valor central (¡no necesariamente único!) Para posicionar el histograma y algún valor de escalan / 2 n m n s n y n z n = ( y n - m n ) / s $n$$n/2$$n$$m_n$$s_n$(¡no necesariamente único!) para que encaje dentro de los ejes. Esto se puede hacer matemáticamente cambiando a .$y_n$$z_n = (y_n - m_n) / s_n$

Recuerde que un histograma representa frecuencias por áreas entre él y el eje horizontal. Por lo tanto, la estabilidad final de estos histogramas para valores grandes de debe establecerse en términos de área. $n$ Por lo tanto, elija cualquier intervalo de valores que desee, digamos de a y, a medida que aumenta, rastree el área de la parte del histograma de que abarca horizontalmente el intervalo . El CLT afirma varios cosas:b > a n z n ( a , b $a$$b \gt a$$n$$z_n$$(a, b]$

1. No importa lo que y son,$a$$b$ si elegimos las secuencias y apropiada (de una manera que no dependa de o en absoluto), esta área se aproxima de hecho un límite en cuanto se hace grande.s n a b $m_n$$s_n$$a$$b$$n$

2. Las secuencias y se pueden elegir de una manera que depende solo de , el promedio de valores en el cuadro y alguna medida de propagación de esos valores, pero en nada más, de modo que independientemente de lo que esté en el cuadro , el límite es siempre el mismo. (Esta propiedad de universalidad es asombrosa).s n$m_n$$s_n$$n$

3. Específicamente, esa área limitante es el área bajo la curva entre y : esta es la fórmula de ese histograma limitante universal. a$y = \exp(-z^2/2) / \sqrt{2 \pi}$$a$$b$

   La primera generalización del CLT agrega:

4. Cuando el cuadro puede contener números además de ceros y unos, se mantienen exactamente las mismas conclusiones (siempre que las proporciones de números extremadamente grandes o pequeños en el cuadro no sean "demasiado grandes", un criterio que tiene una declaración cuantitativa precisa y simple) .

   La próxima generalización, y tal vez la más sorprendente, reemplaza esta única caja de boletos con un conjunto de cajas ordenado indefinidamente largo con boletos. Cada caja puede tener diferentes números en sus boletos en diferentes proporciones. La observación se realiza extrayendo un ticket de la primera casilla, proviene de la segunda casilla, y así sucesivamente.x $x_1$$x_2$

5. Exactamente las mismas conclusiones se mantienen siempre que el contenido de los cuadros "no sea muy diferente" (hay varias caracterizaciones cuantitativas precisas pero diferentes de lo que significa "no muy diferente"; permiten una sorprendente cantidad de latitud).

Estas cinco afirmaciones, como mínimo, deben explicarse. Hay más. Varios aspectos intrigantes de la configuración están implícitos en todas las declaraciones. Por ejemplo,

• ¿Qué tiene de especial la suma ? ¿Por qué no tenemos teoremas de límite central para otras combinaciones matemáticas de números como su producto o su máximo? (Resulta que sí, pero no son tan generales ni siempre tienen una conclusión tan simple y limpia a menos que puedan reducirse al CLT). Las secuencias de y no son únicas pero son casi únicas. en el sentido de que eventualmente tienen que aproximar la expectativa de la suma de tickets y la desviación estándar de la suma, respectivamente (que, en las dos primeras declaraciones de la CLT, es igual a veces la desviación estándar de la caja). s n n $m_n$$s_n$$n$$\sqrt{n}$

  La desviación estándar es una medida de la propagación de valores, pero de ninguna manera es la única ni es la más "natural", ya sea históricamente o para muchas aplicaciones. (Muchas personas elegirían algo así como una desviación absoluta media de la mediana , por ejemplo).

• ¿Por qué aparece la SD de una manera tan esencial?

• Considere la fórmula para el histograma limitante: ¿ quién hubiera esperado que tomara esa forma? Dice que el logaritmo de la densidad de probabilidad es una función cuadrática . ¿Por qué? ¿Hay alguna explicación intuitiva o clara y convincente para esto?

---

Confieso que no puedo alcanzar el objetivo final de proporcionar respuestas que sean lo suficientemente simples como para cumplir con los criterios desafiantes de Srikant para la intuición y la simplicidad, pero he bosquejado estos antecedentes con la esperanza de que otros puedan inspirarse para llenar algunos de los muchos vacíos. Creo que una buena demostración tendrá que basarse en un análisis elemental de cómo los valores entre y pueden surgir al formar la suma . Volviendo a la versión de cuadro único del CLT, el caso de una distribución simétrica es más simple de manejar: su mediana es igual a su media, por lo que hay un 50% de posibilidades de que sea ​​menor que el promedio del cuadro y un 50% de posibilidades de que$\alpha_n = a s_n + m_n$$\beta_n = b s_n + m_n$$x_1 + x_2 + \ldots + x_n$$x_i$$x_i$será mayor que su media. Además, cuando es suficientemente grande, las desviaciones positivas de la media deberían compensar las desviaciones negativas en la media. (Esto requiere una justificación cuidadosa, no solo agitar las manos). Por lo tanto , deberíamos preocuparnos principalmente por contar el número de desviaciones positivas y negativas y solo tener una preocupación secundaria sobre sus tamaños.$n$ (De todas las cosas que he escrito aquí, esta podría ser la más útil para proporcionar alguna intuición sobre por qué funciona el CLT. De hecho, los supuestos técnicos necesarios para hacer que las generalizaciones del CLT sean verdaderas son esencialmente varias formas de descartar la posibilidad de que raras desviaciones enormes alterarán el equilibrio lo suficiente como para evitar que surja el histograma limitante).

Esto muestra, hasta cierto punto de todos modos, por qué la primera generalización del CLT realmente no revela nada que no estaba en la versión de prueba original de Bernoulli de De Moivre.

En este punto, parece que no hay nada más que hacer un poco de matemática: necesitamos contar el número de formas distintas en que el número de desviaciones positivas de la media puede diferir del número de desviaciones negativas en cualquier valor predeterminado , donde evidentemente es uno de . Pero debido a que los pequeños errores desaparecerán en el límite, no tenemos que contar con precisión; solo necesitamos aproximar los recuentos. Para este fin es suficiente saber que$k$$k$$-n, -n+2, \ldots, n-2, n$

$$\text{The number of ways to obtain } k \text{ positive and } n-k \text{ negative values out of } n$$

$$\text{equals } \frac{n-k+1}{k}$$

$$\text{times the number of ways to get } k-1 \text{ positive and } n-k+1 \text { negative values.}$$

(Es un resultado perfectamente elemental, así que no me molestaré en escribir la justificación). Ahora nos aproximamos al por mayor. La frecuencia máxima se produce cuando está lo más cerca posible de (también elemental). Escribamos . Luego, en relación con la frecuencia máxima, el producto estima la frecuencia de desviaciones positivas ( )$k$$n/2$$m = n/2$$m+j+1$$j \ge 0$

$$\frac{m+1}{m+1} \frac{m}{m+2} \cdots \frac{m-j+1}{m+j+1}$$

$$=\frac{1 - 1/(m+1)}{1 + 1/(m+1)} \frac{1-2/(m+1)}{1+2/(m+1)} \cdots \frac{1-j/(m+1)}{1+j/(m+1)}.$$

135 años antes de que De Moivre escribiera, John Napier inventó los logaritmos para simplificar la multiplicación, así que aprovechemos esto. Usando la aproximación

$$\log\left(\frac{1-x}{1+x}\right) \sim -2x,$$

encontramos que el logaritmo de la frecuencia relativa es aproximadamente

$$-2/(m+1) - 4/(m+1) - \cdots - 2j/(m+1) = -\frac{j(j+1)}{m+1} \sim -\frac{j^2}{m}.$$

Debido a que el error acumulativo es proporcional a , esto debería funcionar bien siempre que sea ​​pequeño en relación con . Eso cubre un mayor rango de valores de que se necesita. (Es suficiente que la aproximación funcione para solo en el orden de que asintóticamente es mucho más pequeño que ).$j^4/m^3$$j^4$$m^3$$j$$j$$\sqrt{m}$$m^{3/4}$

---

Obviamente, se debe presentar mucho más análisis de este tipo para justificar las otras afirmaciones en el CLT, pero me estoy quedando sin tiempo, espacio y energía, y probablemente he perdido al 90% de las personas que comenzaron a leer esto de todos modos. Sin embargo, esta simple aproximación sugiere cómo De Moivre podría haber sospechado originalmente que existe una distribución limitante universal, que su logaritmo es una función cuadrática y que el factor de escala apropiado debe ser proporcional a (porque ).$s_n$ j2/m=2j2/n=2(j/$\sqrt{n}$$j^2/m = 2 j^2 / n = 2 (j/\sqrt{n})^2$ Es difícil imaginar cómo se podría explicar esta importante relación cuantitativa sin invocar algún tipo de información matemática y razonamiento; cualquier cosa menos dejaría la forma precisa de la curva limitante en un completo misterio.

La mejor animación que conozco: http://www.ms.uky.edu/~mai/java/stat/GaltonMachine.html

Las palabras más simples que he leído: http://elonen.iki.fi/articles/centrallimit/index.en.html

Si suma los resultados de estos diez lanzamientos, es probable que lo que obtenga esté más cerca de 30-40 que el máximo, 60 (todos los seis) o, por otro lado, el mínimo, 10 (todos).

La razón de esto es que puede obtener los valores medios de muchas maneras más diferentes que los extremos. Ejemplo: al lanzar dos dados: 1 + 6 = 2 + 5 = 3 + 4 = 7, pero solo 1 + 1 = 2 y solo 6 + 6 = 12.

Es decir: aunque obtenga cualquiera de los seis números igualmente probables al lanzar un dado, los extremos son menos probables que los valores medios en sumas de varios dados.

La intuición es algo complicado. Es aún más complicado con la teoría en nuestras manos atadas a la espalda.

El CLT tiene que ver con sumas de pequeñas perturbaciones independientes. "Sumas" en el sentido de la media de la muestra, "pequeño" en el sentido de la variación finita (de la población) y "perturbaciones" en el sentido de más / menos alrededor de un valor central (de la población).

Para mí, el dispositivo que atrae más directamente a la intuición es el quincunx, o 'caja de Galton', vea Wikipedia (¿para 'máquina de frijoles'?) La idea es hacer rodar una pequeña bola por la cara de un tablero adornado con una red. de pasadores igualmente espaciados. En su camino hacia abajo, la pelota se desvía hacia la derecha y hacia la izquierda (... al azar, independientemente) y se acumula en la parte inferior. Con el tiempo, vemos un bonito montículo en forma de campana justo delante de nuestros ojos.

El CLT dice lo mismo. Es una descripción matemática de este fenómeno (más precisamente, el quincunx es evidencia física de la aproximación normal a la distribución binomial). Hablando en términos generales, el CLT dice que siempre y cuando nuestra población no se comporte demasiado (es decir, si las colas del PDF son lo suficientemente delgadas), la media de la muestra (correctamente ajustada) se comporta como esa pequeña bola que rebota en la cara de el quincunx: a veces cae a la izquierda, a veces cae a la derecha, pero la mayoría de las veces cae justo en el medio, en una bonita forma de campana.

La majestuosidad del CLT (para mí) es que la forma de la población subyacente es irrelevante. La forma solo juega un papel en la medida en que delega el tiempo que necesitamos esperar (en el sentido del tamaño de la muestra).

Una observación sobre el CLT puede ser la siguiente. Cuando tiene una suma de muchos componentes aleatorios, si uno es "más pequeño de lo habitual", esto se compensa principalmente por algunos de los otros componentes que son "más grandes de lo habitual". En otras palabras, las desviaciones negativas y las desviaciones positivas del componente significan cancelarse mutuamente en la suma. Personalmente, no tengo una intuición clara de por qué exactamente las desviaciones restantes forman una distribución que se ve más y más normal cuanto más términos tenga.

$$S = X_1 + X_2 + \ldots + X_n$$

Hay muchas versiones del CLT, algunas más fuertes que otras, algunas con condiciones relajadas, como una dependencia moderada entre los términos y / o distribuciones no idénticas para los términos. En el más simple a probar versiones de la CLT, la prueba se basa generalmente en la función generadora de momentos (o Laplace-Stieltjes transformar o alguna otra adecuada transformada de la densidad) de la suma . Escribir esto como una expansión de Taylor y mantener solo el término más dominante le da la función generadora de momento de la distribución normal. Entonces, para mí personalmente, la normalidad es algo que se desprende de un montón de ecuaciones y no puedo proporcionar más intuición que eso.$S$

Sin embargo, debe tenerse en cuenta que la distribución de la suma, en realidad nunca se distribuye normalmente, ni el CLT afirma que lo sería. Si es finito, todavía hay cierta distancia a la distribución normal y si tanto la media como la varianza también son infinitas. En el último caso, podría tomar la media de la suma infinita, pero luego obtendrá un número determinista sin ninguna variación, que difícilmente podría etiquetarse como "normalmente distribuido".$n$$n=\infty$

Esto puede plantear problemas con aplicaciones prácticas del CLT. Por lo general, si está interesado en la distribución de cerca de su centro, CLT funciona bien. Sin embargo, la convergencia a la normalidad no es uniforme en todas partes y cuanto más te alejes del centro, más términos necesitarás para tener una aproximación razonable.$S/n$

Con toda la "santidad" del Teorema del límite central en las estadísticas, sus limitaciones a menudo se pasan por alto con demasiada facilidad. A continuación, doy dos diapositivas de mi curso, señalando que CLT falla completamente en las colas, en cualquier caso de uso práctico. Desafortunadamente, mucha gente usa específicamente CLT para estimar las probabilidades de cola, a sabiendas o de otra manera.

Esta respuesta espera dar un significado intuitivo del teorema del límite central, utilizando técnicas simples de cálculo (expansión de Taylor de orden 3). Aquí está el bosquejo:

1. Lo que dice el CLT
2. Una prueba intuitiva del CLT usando cálculo simple
3. ¿Por qué la distribución normal?

Mencionaremos la distribución normal al final; porque el hecho de que eventualmente surja la distribución normal no tiene mucha intuición.

1. ¿Qué dice el teorema del límite central? Varias versiones del CLT

Hay varias versiones euivalentes del CLT. La declaración del libro de texto del CLT dice que para cualquier real y cualquier secuencia de variables aleatorias independientes con media cero y varianza 1, Para comprender lo que es universal e intuitivo sobre el CLT, olvidemos el límite por un momento. La declaración anterior dice que si y son dos secuencias de variables aleatorias independientes, cada una con media cero y varianza 1, entonces $x$$X_1,\cdots,X_n$

$$P\left(\frac{X_1+\cdots+X_n}{\sqrt n} \le x\right) \to_{n\to+\infty} \int_{-\infty}^x \frac{e^{-t^2/2}}{\sqrt{2\pi}} dt.$$ $X_1.,\ldots,X_n$$Z_1,\ldots,Z_n$ $$E \left[ f\left(\tfrac{X_1+\cdots+X_n}{\sqrt n}\right) \right] - E \left[ f\left(\tfrac{Z_1+\cdots+Z_n}{\sqrt n}\right) \right] \to_{n\to+\infty} 0$$ para cada función de indicador de la forma, para algunas reales fijas , La pantalla anterior representa el hecho de que el límite es el mismo sin importar las distribuciones particulares de y , siempre que las variables aleatorias sean independientes con media cero, varianza uno.$f$$x$ $$\begin{equation} f(t) = \begin{cases} 1 \text{ if } t < x \\ 0 \text{ if } t\ge x.\end{cases} \end{equation}$$ $X_1,\ldots,X_n$$Z_1,\ldots,Z_n$

Algunas otras versiones del CLT mencionan la clase de funciones de Lipschtiz que están delimitadas por 1; algunas otras versiones de CLT mencionan la clase de funciones suaves con derivada acotada del orden . Considere dos secuencias y como arriba, y para alguna función , el resultado de convergencia (CONV)$k$$X_1,\ldots,X_n$$Z_1,\ldots,Z_n$$f$

$$E \left[ f\left(\tfrac{X_1+\cdots+X_n}{\sqrt n}\right) \right] - E \left[ f\left(\tfrac{Z_1+\cdots+Z_n}{\sqrt n}\right) \right] \to_{n\to+\infty} 0 \tag{CONV}$$

Es posible establecer la equivalencia ("si y solo si") entre las siguientes afirmaciones:

1. (CONV) anterior se cumple para todas las funciones de indicador de la forma para y para para alguna real fija .$f$$f(t)=1$$t < x$$f(t)=0$$t\ge x$$x$
2. (CONV) se mantiene para cada función de Lipschitz acotada .$f:R\to R$
3. (CONV) se cumple para todas las funciones suaves (es decir, ) con soporte compacto.$C^{\infty}$
4. (CONV) se mantiene para cada función tres veces continuamente diferenciable con .$f$$\sup_{x\in R} |f'''(x)| \le 1$

Cada uno de los 4 puntos anteriores dice que la convergencia es válida para una gran clase de funciones. Mediante un argumento de aproximación técnica, se puede demostrar que los cuatro puntos anteriores son equivalentes, remitimos al lector al Capítulo 7, página 77 del libro de David Pollard , Guía del usuario para medir las probabilidades teóricas de las cuales esta respuesta está altamente inspirada.

Nuestra suposición para el resto de esta respuesta ...

que para alguna constante , que corresponde al punto 4 anterior. También asumiremos que las variables aleatorias tienen un tercer momento finito limitado: y son finitas.$\sup_{x\in R} |f'''(x)| \le C$$C>0$$E[|X_i|^3]$$E[|Z_i|^3]$

2. El valor de es universal: no depende de la distribución de$E\left[ f\left( \tfrac{X_1+\cdots+X_n}{\sqrt n} \right) \right]$$X_1,...,X_n$

Demostremos que esta cantidad es universal (hasta un pequeño término de error), en el sentido de que no depende de qué colección de variables aleatorias independientes se proporcionó. Tome y dos secuencias de variables aleatorias independientes, cada una con media 0 y varianza 1, y tercer momento finito.$X_1,\ldots,X_n$$Z_1,\ldots,Z_n$

La idea es reemplazar iterativamente por en una de las cantidades y controlar la diferencia por cálculo básico (la idea, creo, se debe a Lindeberg). Por una expansión de Taylor, si , y entonces donde y$X_i$$Z_i$$W = Z_1+\cdots+Z_{n-1}$$h(x)=f(x/\sqrt n)$

$$\begin{align} h(Z_1+\cdots+Z_{n-1}+X_n) &= h(W) + X_n h'(W) + \frac{X_n^2 h''(W)}{2} + \frac{X_n^3/h'''(M_n)}{6} \\ h(Z_1+\cdots+Z_{n-1}+Z_n) &= h(W) + Z_n h'(W) + \frac{Z_n^2 h''(W)}{2} + \frac{Z_n^3 h'''(M_n')}{6} \\ \end{align}$$ $M_n$$M_n'$son puntos medios dados por el teorema del valor medio. Tomando expectativa en ambas líneas, el término de orden cero es el mismo, los términos de primer orden son iguales en expectativa porque por independencia de y , y de manera similar para la segunda línea. Nuevamente, por independencia, los términos de segundo orden son los mismos que se esperan. Los únicos términos restantes son el de tercer orden, y en la expectativa la diferencia entre las dos líneas es como máximo Aquí es un límite superior en la tercera derivada de . El denominador aparece porque$X_n$$W$$E[X_n h'(W)]= E[X_n] E[h'(W)] =0$

$$\frac{(C/6)E[ |X_n|^3 + |Z_n|^3 ]}{(\sqrt n)^3}.$$ $C$$f'''$$(\sqrt{n})^3$$h'''(t) = f'''(t/\sqrt n)/(\sqrt n)^3$ . Por independencia, la contribución de en la suma no tiene sentido porque podría reemplazarse por sin incurrir en un error mayor que la pantalla anterior.$X_n$$Z_n$

Ahora reiteramos reemplazar por . Si entonces Por independencia de y , y por independencia de y$X_{n-1}$$Z_{n-1}$$\tilde W= Z_1+Z_2+\cdots+Z_{n-2} + X_n$

$$\begin{align} h(Z_1+\cdots+Z_{n-2}+X_{n-1}+X_n) &= h(\tilde W) + X_{n-1} h'(\tilde W) + \frac{X_{n-1}^2 h''(\tilde W)}{2} + \frac{X_{n-1}^3/h'''(\tilde M_n)}{6}\\ h(Z_1+\cdots+Z_{n-2}+Z_{n-1}+X_n) &= h(\tilde W) + Z_{n-1} h'(\tilde W) + \frac{Z_{n-1}^2 h''(\tilde W)}{2} + \frac{Z_{n-1}^3/h'''(\tilde M_n)}{6}. \end{align}$$ $Z_{n-1}$$\tilde W$$X_{n-1}$$\tilde W$, de nuevo, los términos cero, primer y segundo orden son iguales en expectativa para ambas líneas. La diferencia de expectativa entre las dos líneas es nuevamente como máximo Seguimos iterando hasta que reemplazamos todos los 's por ' s. Al agregar los errores cometidos en cada uno de los pasos, obtenemos como

$$\frac{(C/6)E[ |X_{n-1}|^3 + |Z_{n-1}|^3 ]}{(\sqrt n)^3}.$$ $Z_i$$X_i$$n$ $$\Big| E\left[ f\left( \tfrac{X_1+\cdots+X_n}{\sqrt n} \right) \right]-E\left[ f\left( \tfrac{Z_1+\cdots+Z_n}{\sqrt n} \right) \right] \Big| \le n \frac{(C/6)\max_{i=1,\ldots,n} E[ |X_i|^3 + |Z_i|^3 ]}{(\sqrt n)^3}.$$ $n$aumenta, el lado derecho se vuelve arbitrariamente pequeño si los terceros momentos o las variables aleatorias son finitas (supongamos que es el caso). Esto significa que las expectativas de la izquierda se vuelven arbitrariamente cercanas entre sí, sin importar si la distribución de está lejos de la de . Por independencia, la contribución de cada en la suma no tiene sentido porque podría ser reemplazada por sin incurrir en un error mayor que . Y reemplazar todas las 's por las ' s no cambia la cantidad en más de .$X_1,\ldots,X_n$$Z_1,\ldots,Z_n$$X_i$$Z_i$$O(1/(\sqrt n)^3)$$X_i$$Z_i$$O(1/\sqrt n)$

La expectativa es, por lo tanto, universal, no depende de la distribución de . Por otro lado, la independencia y fue de suma importancia para los límites anteriores.$E\left[ f\left( \frac{X_1+\cdots+X_n}{\sqrt n} \right) \right]$$X_1,\ldots,X_n$$E[X_i]=E[Z_i]=0,E[Z_i^2]=E[X_i^2]=1$

3. ¿Por qué la distribución normal?

Hemos visto que la expectativa será la misma sin importar cuál sea la distribución de , hasta un pequeño error de orden .$E\left[ f\left( \frac{X_1+\cdots+X_n}{\sqrt n} \right) \right]$$X_i$$O(1/\sqrt n)$

Pero para las aplicaciones, sería útil calcular tal cantidad. También sería útil obtener una expresión más simple para esta cantidad .$E\left[ f\left( \frac{X_1+\cdots+X_n}{\sqrt n} \right) \right]$

Dado que esta cantidad es la misma para cualquier colección , simplemente podemos elegir una colección específica de manera que la distribución sea ​​fácil de calcular o fácil de recordar.$X_1,\ldots,X_n$$(X_1+\cdots+X_n)/\sqrt n$

Para la distribución normal , sucede que esta cantidad se vuelve realmente simple. De hecho, si son iid entonces también tiene la distribución y no depende de . Por lo tanto, si , entonces y por el argumento anterior, para cualquier colección de variables aleatorias independientes con , luego$N(0,1)$$Z_1,\ldots,Z_n$$N(0,1)$$\frac{Z_1+\cdots+Z_n}{\sqrt n}$$N(0,1)$$n$$Z\sim N(0,1)$

$$E\left[ f\left( \frac{Z_1+\cdots+Z_n}{\sqrt n} \right) \right] = E[ f(Z)],$$ $X_1,\ldots,X_n$$E[X_i]=0,E[X_i^2]=1$

$$\left| E\left[ f\left( \frac{X_1+\cdots+X_n}{\sqrt n} \right) \right] -E[f(Z) \right| \le \frac{\sup_{x\in R} |f'''(x)| \max_{i=1,\ldots,n} E[|X_i|^3 + |Z|^3]}{6\sqrt n}.$$

Dejé de tratar de encontrar una versión intuitiva y se me ocurrieron algunas simulaciones. Tengo uno que presenta una simulación de un Quincunx y otros que hacen cosas como mostrar cómo incluso una distribución de tiempo de reacción cruda sesgada se volverá normal si recolecta suficientes RT por sujeto. Creo que ayudan pero son nuevos en mi clase este año y aún no he calificado la primera prueba.

Una cosa que me pareció buena fue poder mostrar la ley de grandes números también. Podría mostrar cuán variables son las cosas con tamaños de muestra pequeños y luego mostrar cómo se estabilizan con las grandes. También hago muchas otras demostraciones de gran número. Puedo mostrar la interacción en el Quincunx entre la cantidad de procesos aleatorios y la cantidad de muestras.

(Resulta que no haber podido usar una tiza o pizarra en mi clase puede haber sido una bendición)

Cuando agrega muchos histogramas de distribuciones aleatorias juntos, mantiene la forma de distribución normal porque todos los histogramas individuales ya tienen esa forma u obtiene esa forma porque las fluctuaciones en los histogramas individuales tienden a cancelarse entre sí si agrega un gran Número de histogramas. Un histograma de una distribución aleatoria de una variable ya está aproximadamente distribuido de una manera que la gente ha comenzado a llamar la distribución normal porque es muy común y ese es un microcosmos del teorema del límite central.

Esta no es toda la historia, pero creo que es tan intuitiva como parece.