¿Por qué los efectos aleatorios se reducen a 0?

10

¿Existe una razón intuitiva para que los efectos aleatorios se reduzcan a su valor esperado en el modelo mixto lineal general?

mixed-model random-effects-model

— usuario7064
fuente

¿Puedes por favor proporcionar más contexto para esta pregunta?

— Macro

Los valores pronosticados de los modelos de efectos aleatorios son estimadores de contracción ; Habrá poca grieta cuando las unidades estadísticas sean diferentes, o cuando las mediciones sean precisas, o con una muestra grande. ¿Es esto lo que buscas, o realmente quieres decir contracción hacia el valor esperado?

— chl

3

Sugeriría un artículo anterior de Bradley Efron y Carl Morris, La paradoja de Stein en estadísticas (1977) (un PDF en línea está aquí ). No estoy seguro de si es intuitivo, pero es una introducción bastante suave (con ejemplos del mundo real) en el concepto de contracción.

— Andy W

4

en términos generales, la mayoría de los "efectos aleatorios" ocurren en situaciones donde también hay un "efecto fijo" o alguna otra parte del modelo. El modelo mixto lineal general se ve así:

y_{yo} = X_{yo}^{T} β + z_{yo}^{T} tu + ϵ_{yo}

$y_i=x_i^T\beta+z_i^Tu+\epsilon_i$

Donde son los "efectos fijos" son los "efectos aleatorios". Claramente, la distinción solo puede ser a nivel conceptual, o en el método de estimación de y . Porque si defino un nuevo "efecto fijo" y entonces I tener una regresión lineal ordinaria: $\beta$ $u$ $u$ $\beta$ $\tilde{x}_i=(x_i^T,z_i^T)^T$ $\tilde{\beta}=(\beta^T,u^T)^T$

y_{yo} = {\tilde{X}}_{yo}^{T} \tilde{β} + ϵ_{yo}

$y_i=\tilde{x}_i^T\tilde{\beta}+\epsilon_i$

Este es a menudo un problema práctico real cuando se trata de ajustar modelos mixtos cuando los objetivos conceptuales subyacentes no están claros. Creo que el hecho de que los efectos aleatorios se reducen a cero, y que los efectos fijos no son de alguna ayuda aquí. Esto significa que nos tenderá a favorecer el modelo con solamente incluido (es decir, ) cuando las estimaciones de tienen una baja precisión en la formulación de MCO, y tienden a favorecer la OLS formulación completa cuando las estimaciones tienen alta precisión. $u$ $\beta$ $\beta$ $u=0$ $u$ $u$

— probabilidadislogica
fuente

2

¿Tu pregunta no se responde sola? Si se espera un valor, lo mejor sería una técnica que acerque los valores.

Una respuesta simple proviene de la ley de los grandes números. Digamos que los sujetos son su efecto aleatorio. Si ejecuta los temas A a D en 200 ensayos y el sujeto E en 20 ensayos, ¿cuál de los rendimientos medios medidos del sujeto cree que es más representativo de mu? La ley de los grandes números predeciría que el rendimiento del sujeto E tendrá más probabilidades de desviarse en una cantidad mayor de mu que cualquiera de A a D. Puede o no, y cualquiera de los sujetos podría desviarse, pero seríamos mucho más justificado en reducir el efecto del sujeto E hacia el sujeto A a D que al revés. Por lo tanto, los efectos aleatorios que son más grandes y tienen N más pequeños tienden a ser los más reducidos.

De esta descripción también se deduce por qué los efectos fijos no se reducen. Es porque están arreglados, solo hay uno en el modelo. No tienes ninguna referencia para reducirlo. Podría usar una pendiente de 0 como referencia, pero no es hacia eso que se reducen los efectos aleatorios. Son hacia una estimación general como mu. El efecto fijo que tiene de su modelo es esa estimación.

— Juan
fuente

1

Creo que puede ser útil para su intuición pensar en un modelo mixto como un modelo jerárquico o multinivel . Al menos para mí, tiene más sentido cuando pienso en anidar y cómo funciona el modelo dentro y entre categorías de manera jerárquica.

EDITAR: Macro, había dejado esto un poco abierto porque me ayuda a verlo de manera más intuitiva, pero no estoy seguro de que sea correcto. Pero para expandirlo en direcciones posiblemente incorrectas ...

Lo veo como un promedio de efectos fijos entre categorías y efectos aleatorios que distinguen entre categorías. En cierto sentido, los efectos aleatorios son "grupos" que comparten algunas características, y los grupos más grandes y compactos tendrán mayor influencia sobre el promedio en el nivel superior.

Con OLS haciendo el ajuste (en fases, creo), los "grupos" de efectos aleatorios más grandes y más compactos atraerán el ajuste con mayor fuerza hacia ellos mismos, mientras que los "grupos" más pequeños o más difusos tirarán menos del ajuste. O tal vez el ajuste comienza más cerca de "grupos" más grandes y más compactos ya que el promedio de nivel superior está más cerca para comenzar

Lo siento, no puedo ser más claro, e incluso puede estar equivocado. Tiene sentido para mí intuitivamente, pero cuando trato de escribirlo no estoy seguro de si es algo de arriba hacia abajo o de abajo hacia arriba, o algo diferente. ¿Es una cuestión de "conglomerados" de nivel inferior que se ajustan a sí mismos con mayor fuerza, o de tener una mayor influencia sobre el promedio de nivel superior y, por lo tanto, "terminar" más cerca del promedio de nivel superior, o ninguno?

En cualquier caso, creo que explica por qué las categorías más pequeñas y difusas de variables aleatorias se acercarán más a la media que las categorías más grandes y compactas.

— Wayne
fuente

Hola Wayne, ¿puedes ampliar esto para describir cómo se puede conceptualizar (quizás más intuitivamente) la contracción al pensar en esto como un modelo jerárquico?

— Macro

@Macro: OK, lo intenté. Sin embargo, no estoy seguro de si mejora o empeora la respuesta.

— Wayne