¿Cómo se aproxima la estadística de Chi cuadrado de Pearson a una distribución de Chi cuadrado?

Entonces, si la estadística de Chi cuadrado de Pearson se da para una tabla , entonces su forma es:$1 \times N$

Entonces, esto se aproxima a , la Distribución Chi-Cuadrada con grados de libertad, a medida que el tamaño de la muestra aumenta . $\chi_{n-1}^2$$n-1$$N$

Lo que no entiendo es cómo funciona esta aproximación asintótica. Siento que los en los denominadores deben reemplazarse con . Como eso le daría , para . Pero, por supuesto, esto tiene grados de libertad, no , por lo que claramente está sucediendo algo más.$E_i$$\frac{s_i^2}{n_i}$$\chi_n^2 = \sum_{i=1}^nZ_i^2$$Z_i\sim n(0,1)$$n$$n-1$

Voy a motivar esto intuitivamente e indicar cómo se produce para el caso especial de dos grupos, suponiendo que esté contento de aceptar la aproximación normal al binomio.

Esperemos que eso sea suficiente para que entiendas por qué funciona de la manera en que lo hace.

Estás hablando de la prueba de bondad de ajuste de chi-cuadrado. Digamos que hay grupos (lo tienes como , pero hay una razón por la que prefiero llamarlo ).$k$$n$$k$

En el modelo que se aplica para esta situación, los recuentos , son multinomiales .$O_i$$i=1,2,...,k$

Deje . Los recuentos están condicionados a la suma (excepto en algunas situaciones bastante raras); y hay un conjunto preestablecido de probabilidades para cada categoría, , que suman .$N=\sum_{i=1}^k O_i$$N$$p_i, i=1, 2, \ldots,k$$1$

Al igual que con el binomio, hay una aproximación asintótica normal para los multinomios; de hecho, si considera solo el recuento en una celda dada ("en esta categoría" o no), entonces sería binomial. Al igual que con el binomio, las variaciones de los recuentos (así como sus covarianzas en el multinomio) son funciones de y 's; No se estima una varianza por separado.$N$$p$

Es decir, si los recuentos esperados son suficientemente grandes, el vector de recuentos es aproximadamente normal con una media . Sin embargo, debido a que los recuentos están condicionados por , la distribución es degenerada (existe en un hiperplano de dimensión , ya que al especificar de los recuentos se corrige el restante). La matriz de varianza-covarianza tiene entradas diagonales y elementos diagonales fuera , y es de rango debido a la degeneración.$E_i=Np_i$$N$$k-1$$k-1$$Np_i(1-p_i)$$-Np_ip_j$$k-1$

Como resultado, para una celda individual , y podría escribir . Sin embargo, los términos son dependientes (correlacionados negativamente), por lo que si suma los cuadrados de esos no tendrá la (como lo haría si fueran variables estandarizadas independientes). En cambio, podríamos construir un conjunto de variables independientes partir de la original que son independientes y aún aproximadamente normales (asintóticamente normales). Si sumamos sus cuadrados (estandarizados), obtendríamos un . Hay formas de construir tal conjunto de$\text{Var}(O_i)=Np_i(1-p_i)$$z_i = \frac{O_i-E_i}{\sqrt{E_i(1-p_i)}}$$z_i$$\chi^2_k$$k-1$$k$$\chi^2_{k-1}$$k-1$ variables explícitamente, pero afortunadamente hay un atajo muy ordenado que evita lo que equivale a una cantidad sustancial de esfuerzo y produce el mismo resultado (el mismo valor de la estadística) como si nos hubiéramos tomado la molestia.

Considere, por simplicidad, una bondad de ajuste con dos categorías (que ahora es binomial). La probabilidad de estar en la primera celda es , y en la segunda celda es . Hay observaciones en la primera celda, y en la segunda celda.$p_1=p$$p_2=1-p$$X = O_1$$N-X=O_2$

El primer recuento de células observado, es asintóticamente . Podemos estandarizarlo como . Entonces es aproximadamente (asintóticamente ).$X$$\text{N}(Np,Np(1-p))$$z=\frac{X-Np}{\sqrt{Np(1-p)}}$$z^2 = \frac{(X-Np)^2}{Np(1-p)}$$\sim \chi^2_1$$\sim \chi^2_1$

Darse cuenta de

$\sum_{i=1}^2 \frac{(O_i-E_i)^2}{E_i} = \frac{[X-Np]^2}{Np}+ \frac{[(N-X)-(N-Np)]^2}{N(1-p)}= \frac{[X-Np]^2}{Np}+ \frac{[X-Np]^2}{N(1-p)}=(X-Np)^2[\frac{1}{Np}+ \frac{1}{N(1-p)}]$ .

Pero

$\frac{1}{Np}+ \frac{1}{N(1-p)} =\frac{Np+N(1-p)}{Np.N(1-p)} = \frac{1}{Np(1-p)}$ .

Entonces que es el comenzamos con - que asintóticamente será una variable aleatoria . La dependencia entre las dos celdas es tal que al zambullirse por lugar de compensamos exactamente la dependencia entre las dos y obtenemos la variable aleatoria al cuadrado original de aproximadamente una normal.$\sum_{i=1}^2 \frac{(O_i-E_i)^2}{E_i} =\frac{(X-Np)^2}{Np(1-p)}$$z^2$$\chi^2_1$$E_i$$E_i(1-p_i)$

El mismo enfoque se ocupa del mismo tipo de dependencia de suma cuando hay más de dos categorías: sumando lugar de sobre todos los términos, se efectúa la compensación precisamente por el efecto de la dependencia, y obtener una suma equivalente a la suma de independientes normales.$\frac{(O_i-E_i)^2}{E_i}$$\frac{(O_i-E_i)^2}{E_i(1-p_i)}$$k$$k-1$

Hay una variedad de formas de mostrar que la estadística tiene una distribución que asintóticamente para más grande (está cubierto en algunos cursos de estadística de pregrado y se puede encontrar en varios textos de nivel de pregrado), pero no quiero llevarte demasiado más allá del nivel que sugiere tu pregunta. De hecho, las derivaciones son fáciles de encontrar en notas en Internet, por ejemplo, hay dos derivaciones diferentes en el espacio de aproximadamente dos páginas aquí$\chi^2_{k-1}$$k$

El manuscrito de una página http://sites.stat.psu.edu/~dhunter/asymp/lectures/p175to184.pdf al que hace referencia el usuario @Glen_b en última instancia muestra que la estadística puede reescribirse como un Hotelling con rango de covarianza = (ver ecuación 9.6). Entonces podemos invocar un resultado clásico de SJ Sepanski (1994) para obtener su distribución asintótica como un chi-cuadrado con grados de libertad.$T^2$$k-1$$k-1$