En la práctica, ¿cómo se calcula la matriz de covarianza de efectos aleatorios en un modelo de efectos mixtos?

Básicamente, me pregunto cómo se aplican las diferentes estructuras de covarianza y cómo se calculan los valores dentro de estas matrices. Funciones como lme () nos permiten elegir qué estructura nos gustaría, pero me encantaría saber cómo se estiman.

Considere el modelo de efectos lineales mixtos $Y=X\beta+Zu+\epsilon$ .

Donde $u \stackrel{d}{\sim} N(0,D)$ y . Además:$\epsilon \stackrel{d}{\sim} N(0,R)$

$Var(Y|X,Z,\beta,u)=R$

$Var(Y|X,\beta)=Z'DZ+R=V$

Por simplicidad asumiremos .$R=\sigma^2I_n$

Básicamente mi pregunta es: ¿cómo se estima exactamente partir de los datos para las diversas parametrizaciones? Digamos si asumimos que es diagonal (los efectos aleatorios son independientes) o completamente parametrizado (caso en el que estoy más interesado en este momento) o alguna de las otras parametrizaciones. ¿Existen estimadores / ecuaciones simples para estos? (Eso sin duda sería estimado de forma iterativa).$D$$D$$D$

EDITAR: Del libro Variance Components (Searle, Casella, McCulloch 2006) me las arreglé para brillar lo siguiente:

Si entonces los componentes de varianza se actualizan y calculan de la siguiente manera:$D=\sigma^2_uI_q$

$\sigma_u^{2(k+1)} = \frac{\hat{\textbf{u}}^T\hat{\textbf{u}}} {\sigma_u^{2(k)}\text{trace}(\textbf{V}^{-1}\textbf{Z}^T\textbf{Z})}$

$\sigma_e^{2(k+1)} = Y'(Y-X{\hat{\beta}}^{(k)}-{Z}\hat{{u}}^{(k)})/n$

Donde y son las actualizaciones, respectivamente.$\hat{\beta}^{(k)}$$\hat{{u}}^{(k)}$$k$

¿Hay fórmulas generales cuando es diagonal de bloque o está completamente parametrizada? Supongo que en el caso completamente parametrizado, se utiliza una descomposición de Cholesky para garantizar una definición y simetría positivas.$D$

El Goldstein .pdf @probabilityislogic vinculado es un gran documento. Aquí hay una lista de algunas referencias que discuten su pregunta particular:

Harville, 1976: Extensión del teorema de Gauss-Markov para incluir la estimación de efectos aleatorios .

Harville, 1977: enfoques de máxima verosimilitud para la estimación de componentes de varianza y problemas relacionados .

Laird y Ware, 1982: modelos de efectos aleatorios para datos longitudinales .

McCulloch, 1997: algoritmos de máxima verosimilitud para modelos mixtos lineales generalizados .

La Guía de SAS User extracto para el procedimiento MIXED tiene información excelente sobre la estimación de covarianza y muchas más fuentes (a partir de la página 3968).

Existen numerosos libros de texto de calidad sobre análisis de datos de medidas longitudinales / repetidas, pero aquí hay uno que detalla algunos detalles sobre la implementación en R (de los autores de lme4ynlme ):

Pinheiro y Bates, 2000: Modelos de efectos mixtos en S y S-PLUS .

EDITAR : Un artículo más relevante: Lindstrom y Bates, 1988: Newton-Raphson y EM Algorithms para modelos lineales de efectos mixtos para datos de medidas repetidas .

EDIT 2 : Y otro: Jennrich y Schluchter, 1986: Modelos de medidas repetidas desequilibradas con matrices de covarianza estructuradas .

Harvey Goldstein no es un mal lugar para comenzar.

Al igual que con los métodos de estimación más complejos, varía con el paquete de software. Sin embargo, a menudo lo que se hace es en los siguientes pasos:

1. Elija un valor inicial para (digamos ) y (digamos ). Establecer$D$$D_0$$R$$R_0$$i=1$
2. Condicionada a y , la estimación y y . Llame a las estimaciones y y$D=D_{i-1}$$R=R_{i-1}$$\beta$$u$$\epsilon$$\beta_i$$u_i$$\epsilon_i$ .
3. Condicionado a y y , estimación y . Llame a las estimaciones y$\beta=\beta_i$$u=u_i$$\epsilon=\epsilon_i$$D$$R$$D_i$$R_i$
4. Verifique la convergencia. Si no converge, establezca y regrese al paso 2$i=i+1$

Un método simple y rápido es IGLS, que se basa en iterar entre dos procedimientos de mínimos cuadrados, y se describe en detalle en el capítulo dos. Lo malo es que no funciona bien para componentes de varianza cercanos a cero.

El siguiente artículo ofrece una solución de forma cerrada para D:

• J. Shao, Mari Palta y Roger Qu, (1998), " Estimación de mínimos cuadrados de parámetros de regresión en modelos de efectos mixtos con covariables no medidas ", Comunicaciones en Estadística - Teoría y Métodos , 27: 6, 1487-1501, DOI: 10.1080 / 03610929808832172

dos referencias más que podrían ser útiles Componentes de varianza de Searle et al y Lynch y Walsh Genetics and Analysis of Quantitative Traits . El libro de Lynch y Walsh ofrece un algoritmo paso a paso si recuerdo bien