Valor esperado de , el coeficiente de determinación, bajo la hipótesis nula

Tengo curiosidad acerca de la declaración hecha en la parte inferior de la primera página de este texto con respecto al ajuste $R^2_\mathrm{adjusted}$

R_{a d j u s t e d}^{2} = 1 - (1 - R^{2}) (\frac{n - 1}{n - m - 1}) .

$R^2_\mathrm{adjusted} =1-(1-R^2)\left({\frac{n-1}{n-m-1}}\right).$

El texto dice:

La lógica del ajuste es la siguiente: en la regresión múltiple ordinaria, un predictor aleatorio explica en promedio una proporción $1/(n – 1)$ de la variación de la respuesta, de modo que $m$ predictores aleatorios explican juntos, en promedio, $m/(n – 1)$ de la variación de la respuesta; en otras palabras, el valor esperado de $R^2$ es $\mathbb{E}(R^2) = m/(n – 1)$ . Al aplicar la fórmula [ $R^2_\mathrm{adjusted}$ ] a ese valor, donde todos los predictores son aleatorios, se obtiene $R^2_\mathrm{adjusted} = 0$ ".

Esto parece ser una motivación muy simple e interpretable para $R^2_\mathrm{adjusted}$ . Sin embargo, no he podido calcular ese $\mathbb{E}(R^2)=1/(n – 1)$ para un único predictor aleatorio (es decir, no correlacionado).

¿Podría alguien señalarme en la dirección correcta aquí?

— gregory_britten
fuente

En caso de que el enlace falle en el futuro, ¿podría proporcionar una referencia completa? Gracias.

— Richard Hardy

Esta es una estadística matemática precisa. Vea esta publicación para la derivación de la distribución de bajo la hipótesis de que todos los regresores (salvo el término constante) no están correlacionados con la variable dependiente ("predictores aleatorios"). $R^2$

Esta distribución es Beta, siendo el número de predictores sin contar el término constante, el tamaño de la muestra, $m$ $n$

R^{2} \sim B e t a (\frac{m}{2}, \frac{n - m - 1}{2})

$R^2 \sim Beta\left (\frac {m}{2}, \frac {n-m-1}{2}\right)$

y entonces

E (R^{2}) = \frac{m / 2}{(m / 2) + [(n - m - 1) / 2]} = \frac{m}{n - 1}

$E(R^2) = \frac {m/2}{(m/2)+[(n-m-1)/2]} = \frac{m}{n-1}$

Esta parece ser una forma inteligente de "justificar" la lógica detrás del ajustado : si de hecho todos los regresores no están correlacionados, entonces el ajustado es "en promedio" cero. $R^2$ $R^2$

— Alecos Papadopoulos
fuente

¡Justo la información que necesitaba! ¡Gracias! Y larga vida a Stack Exchange!

— gregory_britten

Me interesaría el caso en el que no todos los regresores no están correlacionados con la variable dependiente. ¿Tendrías alguna referencia sobre esto?

— Olivier

@ Olivier No, me temo que no. Mire bajo "Prueba F para la significación de regresión, distribución bajo la alternativa", o algo así.

— Alecos Papadopoulos