Requisitos previos para la comparación del modelo AIC


26

¿Cuáles son exactamente los requisitos previos que deben cumplirse para que funcione la comparación del modelo AIC?

Acabo de responder esta pregunta cuando hice una comparación como esta:

> uu0 = lm(log(usili) ~ rok)
> uu1 = lm(usili ~ rok)
> AIC(uu0)
[1] 3192.14
> AIC(uu1)
[1] 14277.29

De esta manera justifiqué la logtransformación de la variable usili. Pero no sé si puedo comparar modelos AIC cuando, por ejemplo, la variable dependiente es diferente.

La respuesta ideal incluiría la lista de requisitos previos (supuestos matemáticos).

Respuestas:


29

No puede comparar los dos modelos, ya que no modelan la misma variable (como se reconoce correctamente). Sin embargo, AIC debería funcionar al comparar modelos anidados y no anidados.

Solo un recordatorio antes de continuar: un log-verosimilitud gaussiano viene dado por

log(L(θ))=|D|2log(2π)12log(|K|)12(xμ)TK1(xμ),

es la estructura de covarianza de su modelo, | D | el número de puntos en sus conjuntos de datos, μ la respuesta media yx su variable dependiente.K|D|μx

Más específicamente, se calcula que AIC es igual a , donde k es el número de efectos fijos en su modelo y L su función de probabilidad [1]. Prácticamente compara el equilibrio entre la varianza ( 2 k ) y el sesgo ( 2 log ( L ) ) en sus supuestos de modelado. Como tal, en su caso, compararía dos estructuras de probabilidad de registro diferentes cuando se trata del término de sesgo. Esto se debe a que cuando calcula su probabilidad de registro prácticamente observa dos términos: un término de ajuste, denotado por - 12k2log(L)kL2k2Iniciar sesión(L), y un término de penalización de complejidad, denotado por-1-12(X-μ)TK-1(X-μ). Por lo tanto, verá que su término de ajuste es completamente diferente entre los dos modelos; en el primer caso, compara los residuos de los datos sin procesar y en el otro caso los residuos de los datos registrados.-12Iniciar sesión(El |KEl |)

Aparte de Wikipedia, AIC también se define para equiparar: [3]; Esta forma hace aún más obvio por qué los diferentes modelos con diferentes variables dependientes no son comparables. El RSS es el caso dos es simplemente incomparable entre los dos.El |reEl |Iniciar sesión(RSSEl |reEl |)+2k

El artículo original de Akaike [4] es bastante difícil de entender (creo). Se basa en la divergencia KL (la diferencia entre dos distribuciones más o menos hablando) y funciona para demostrar cómo puede aproximar la distribución verdadera desconocida de sus datos y compararlos con la distribución de los datos que asume su modelo. Es por eso que "un puntaje AIC más pequeño es mejor" ; está más cerca de la distribución verdadera aproximada de sus datos.

Entonces, para reunir todo, las cosas obvias para recordar cuando se usa AIC son tres [2,5]:

  1. No puede usarlo para comparar modelos de diferentes conjuntos de datos.

  2. Debe usar las mismas variables de respuesta para todos los modelos candidatos.

  3. Deberías tener , porque de lo contrario no obtiene una buena consistencia asintótica.El |reEl |>>k

Lamento comunicarle las malas noticias, pero usar AIC para mostrar que está eligiendo una variable dependiente sobre otra no es algo estadísticamente sólido. Verifique la distribución de sus residuos en ambos modelos, si el caso de datos registrados tiene residuos distribuidos normalmente y el caso de datos sin procesar no tiene, tiene toda la justificación que pueda necesitar. También es posible que desee verificar si sus datos sin procesar corresponden a un registro lognormal, que también podría ser una justificación suficiente.

Para suposiciones matemáticas estrictas, el juego es la divergencia KL y la teoría de la información ...

Ah, y algunas referencias:

  1. http://en.wikipedia.org/wiki/Akaike_information_criterion
  2. Criterio de información de Akaike, Shuhua Hu, (Presentación p.17-18)
  3. Análisis estadístico multivariado aplicado, Johnson & Wichern, 6ª ed. (pág. 386-387)
  4. Una nueva mirada a la identificación del modelo estadístico, H. Akaike, IEEE Transactions on Automatic Control 19 (6): 716–723 (1974)
  5. Tutorial de selección de modelos # 1: Criterio de información de Akaike, D. Schmidt y E. Makalic, (Presentación p.39)

¡Gracias! No entendí las matemáticas, pero entendí el núcleo del mensaje. Sin embargo, ¿puede enumerar todos los requisitos previos necesarios para la comparación del modelo AIC? Solo para asegurarme de que no cometeré otro error la próxima vez. Iré a revisarlos uno por uno.
Curioso

1
El |reEl |pagsL(θ)θpags(XEl |θ)
usεr11852 dice Reinstate Monic

1
¡Gracias por agregar una lista de esos 3 supuestos a la respuesta! Eso es lo que necesitaba.
Curioso

1
Mirando nuevamente su respuesta: su punto 1. "No puede usarlo para comparar modelos de diferentes conjuntos de datos" . ¿Qué quiere decir con "conjunto de datos"? ¿Qué pasa si cambio el conjunto de variables dependientes? ¿Supongo que en ese caso AIC debería seguir siendo comparable? ¿Pueden actualizar su respuesta para aclarar esto?
Curioso

1
RSSμX

11

uu0yoyyo-12yoIniciar sesión(yyo)uu0AIC (uu0)+2*sum (log (usili))AIC (uu1)


No entiendo lo que sigue con su intento de "corregir" la AIC de alguna manera y qué obtuvo realmente (cómo interpretar su resultado). De todos modos, no profundice en esto, no importa porque mi pregunta era sobre algo completamente diferente: ¿cuáles son los requisitos previos generales para que el AIC (real, sin corregir) sea sensiblemente comparable. No se concentre en este ejemplo en particular, es solo un ejemplo de lo general.
Curioso

1
-2Iniciar sesión(pags(yEl |θ))X=sol(y)X=losol(y)AIC()
probabilidadislogico

@probabilityislogic: ¿Tiene alguna referencia académica para su sugerencia (AIC (uu0) + 2 * sum (log (usili))) para poder citarlos en escritos académicos? Gracias.
KuJ

3

Tomado de Akaike 1978

Este extracto de Akaike 1978 proporciona una cita en apoyo de la solución de @probabilityislogic.

Akaike, H. 1978. Sobre la probabilidad de un modelo de serie temporal. Revista de la Real Sociedad Estadística. Serie D (El Estadístico) 27: 217-235.


1
lo siento, no entiendo, ¿qué es la "transformación de una variable" y cómo se relaciona con mi pregunta? Por favor explique, gracias
Curioso
Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.