Esta es una pregunta muy básica. ¿Por qué usamos una distribución de chi cuadrado? ¿Cuál es el significado de esta distribución? ¿Por qué es esta la distribución utilizada para crear un intervalo de confianza para la varianza?

Cada lugar en el que busco una explicación en Google solo presenta esto como un hecho, explicando cuándo usar chi, pero no explicando por qué usar chi y por qué se ve de la manera en que lo hace.

Muchas gracias a cualquiera que pueda señalarme en la dirección correcta y eso es, realmente entender por qué estoy usando chi cuando estoy creando un intervalo de confianza para la varianza.

Respuesta rápida

La razón es porque, asumiendo que los datos son iid y , y definiendo ˉ $X_i\sim N(\mu,\sigma^2)$ cuando se forman intervalos de confianza, la distribución de muestreo asociada con la varianza de la muestra (S2, recuerde, ¡una variable aleatoria!) Es una distribución de chi-cuadrado (S2(N-1)/σ2∼χ2n-1), así como la distribución de muestreo asociada con la media muestral es una distribución normal estándar ((ˉX-μ)

$$\begin{eqnarray*} \bar{X}&=&\sum^N \frac{X_i}{N}\\ S^2 &=& \sum^{N} \frac{(\bar{X}-X_i)^2}{N-1} \end{eqnarray*}$$ $S^2$$S^2(N-1)/\sigma^2 \sim \chi^2_{n-1}$) cuando conoce la varianza, y con un t-student cuando no (( ˉ X -μ)$(\bar{X}-\mu)\sqrt{n}/\sigma \sim Z(0,1)$ ).$(\bar{X}-\mu)\sqrt{n}/S \sim T_{n-1}$

Respuesta larga

En primer lugar, demostraremos que sigue una distribución de chi-cuadrado con N - 1 grados de libertad. Después de eso, veremos cómo esta prueba es útil al derivar los intervalos de confianza para la varianza, y cómo aparece la distribución de chi-cuadrado (¡y por qué es tan útil!). Vamos a empezar.$S^2(N-1)/\sigma^2$$N-1$

La prueba

Para esto, quizás deba acostumbrarse a la distribución de chi-cuadrado en este artículo de Wikipedia . Esta distribución tiene solo un parámetro: los grados de libertad, , y tiene una función generadora de momentos (MGF) dada por: m χ 2 ν ( t ) = ( 1 - 2 t ) - ν / 2 . Si podemos demostrar que la distribución de S 2 ( N - 1 ) / σ 2 tiene una función generadora de momento como esta, pero con ν $\nu$

$$\begin{equation*} m_{\chi^2_\nu}(t)=(1-2t)^{-\nu/2}. \end{equation*}$$ $S^2(N-1)/\sigma^2$ , entonces hemos demostrado que S 2 ( N - 1 ) $\nu=N-1$ sigue una distribución de chi-cuadrado con N - 1 grados de libertad. Para mostrar esto, tenga en cuenta dos hechos:$S^2(N-1)/\sigma^2$$N-1$

1. Si definimos, dondeZi∼N(0,1), es decir, variables aleatorias normales estándar, la función generadora de momento deYviene dada por m Y (t

   $$\begin{equation*} Y = \sum \frac{(X_i-\bar{X})^2}{\sigma^2} = \sum Z_i^2, \end{equation*}$$ $Z_i\sim N(0,1)$$Y$ $$\begin{eqnarray*} m_Y(t) &=& \mathbb{E}[e^{tY}]\\ &=&\mathbb{E}[e^{tZ_1^2}]\times \mathbb{E}[e^{tZ_2^2}]\times ...\mathbb{E}[e^{tZ_N^2}]\\ &=&m_{Z_i^2}(t)\times m_{Z_2^2}(t)\times ...m_{Z_N^2}(t). \end{eqnarray*}$$ $Z^2$ is given by $$\begin{eqnarray*} m_{Z^2}(t) &=& \int_{-\infty}^{\infty} f(z)\exp(tz^2)dz\\ &=&(1-2t)^{-1/2}, \end{eqnarray*}$$ where I have used the PDF of the standard normal, $f(z)=e^{-z^2/2}/\sqrt{2\pi}$ and, hence, $$\begin{equation*} m_Y(t)=(1-2t)^{-N/2}, \end{equation*}$$ which implies that $Y$ follows a chi-square distribution with $N$ degrees of freedom.

2. If $Y_1$ and $Y_2$ are independent and each distribute as a chi-square distribution but with $\nu_1$ and $\nu_2$ degrees of freedom, then $W=Y_1+Y_2$ distributes with a chi-square distribution with $\nu_1+\nu_2$ degrees of freedom (this follows from taking the MGF of $W$; do this!).

With the above facts, note that if you multiply the sample variance by $N-1$, you obtain (after some algebra),

$$\begin{equation*} (N-1)S^2 = -n(\bar{X}-\mu)+\sum(X_i-\mu)^2, \end{equation*}$$ and, hence, dividing by $\sigma^2$, $$\begin{equation*} \frac{(N-1)S^2}{\sigma^2}+\frac{(\bar{X}-\mu)^2}{\sigma^2/N}=\sum \frac{(X_i-\mu)^2}{\sigma^2}. \end{equation*}$$ Note that the second term in the left-side of this sum distributes as a chi-square distribution with 1 degree of freedom, and the right-hand side sum distributes as a chi-square with $N$ degrees of freedom. Therefore, $S^2(N-1)/\sigma^2$ distributes as a chi-square with $N-1$ degrees of freedom.

Calculating the Confidence Interval for the variance.

When looking for a confidence interval for the variance, you want to know the limits $L_1$ and $L_2$ in

$$\begin{equation*} \mathbb{P}\left(L_1\leq \sigma^2 \leq L_2\right) = 1-\alpha. \end{equation*}$$ Let's play with the inequality inside the parenthesis. First, divide by $S^2(N-1)$, $$\begin{equation*} \frac{L_1}{S^2(N-1)}\leq \frac{\sigma^2}{S^2(N-1)} \leq \frac{L_2}{S^2(N-1)}. \end{equation*}$$ And then remember two things: (1) the statistic $S^2(N-1)/\sigma^2$ has a chi-squared distribution with $N-1$ degrees of freedom and (2) the variances is always greather than zero, which implies that you can invert the inequalities, because $$\begin{eqnarray*} \frac{L_1}{S^2(N-1)}\leq \frac{\sigma^2}{S^2(N-1)} &\Rightarrow& \frac{S^2(N-1)}{\sigma^2}\leq \frac{S^2(N-1)}{L_1},\\ \frac{\sigma^2}{S^2(N-1)} \leq \frac{L_2}{S^2(N-1)} &\Rightarrow& \frac{S^2(N-1)}{L_2} \leq \frac{S^2(N-1)}{\sigma^2},\\ \end{eqnarray*}$$ hence, the probability we are looking for is: $$\begin{equation*} \mathbb{P}\left(\frac{S^2(N-1)}{L_2} \leq \frac{S^2(N-1)}{\sigma^2}\leq \frac{S^2(N-1)}{L_1}\right) = 1-\alpha. \end{equation*}$$ Note that $S^2(N-1)/\sigma^2 \sim \chi^2(N-1)$. We want then, $$\begin{eqnarray*} \int_{\frac{S^2(N-1)}{L_2}}^{N-1}p_{\chi^2}(x)dx &=& (1-\alpha)/2\ \ \ ,\\ \int_{N-1}^{\frac{S^2(N-1)}{L_1}}p_{\chi^2}(x)dx &=& (1-\alpha)/2\ \ \, \end{eqnarray*}$$ (we integrate up to $N-1$ because the expected value of a chi-squared random variable with $N-1$ degrees of freedom is $N-1$) or, equivalently, $$\begin{eqnarray*} \int_{0}^{\frac{S^2(N-1)}{L_2}}p_{\chi^2}(x)dx=\alpha/2,\\ \int_{\frac{S^2(N-1)}{L_1}}^{\infty}p_{\chi^2}(x)dx=\alpha/2. \end{eqnarray*}$$ Calling $\chi^2_{\alpha/2}=\frac{S^2(N-1)}{L_2}$ and $\chi^2_{1-\alpha/2}= \frac{S^2(N-1)}{L_1}$, where the values $\chi^2_{\alpha/2}$ and $\chi^2_{1-\alpha/2}$ can be found in chi-square tables (in computers mainly!) and solving for $L_1$ and $L_2$, $$\begin{eqnarray*} L_1 &=& \frac{S^2(N-1)}{\chi^2_{1-\alpha/2}},\\ L_2 &=& \frac{S^2(N-1)}{\chi^2_{\alpha/2}}. \end{eqnarray*}$$ Hence, your confidence interval for the variance is $$\begin{equation*} C.I.=\left(\frac{S^2(N-1)}{\chi^2_{1-\alpha/2}}, \frac{S^2(N-1)}{\chi^2_{\alpha/2}}\right). \end{equation*}$$