¿Es un vago anterior lo mismo que un previo no informativo?

Esta es una pregunta sobre terminología. ¿Es un "vago previo" lo mismo que un previo no informativo, o hay alguna diferencia entre los dos? Mi impresión es que son iguales (al buscar juntos vagos y no informativos), pero no puedo estar seguro.

Gelman y col. (2003) dicen:

Durante mucho tiempo ha existido el deseo de distribuciones previas que puedan garantizar un papel mínimo en la distribución posterior. Tales distribuciones a veces se denominan 'distribuciones previas de referencia' y la densidad previa se describe como vaga, plana o no informativa . [Énfasis del texto original]

Basado en mi lectura de la discusión sobre el previo de Jeffreys en Gelman et al. (2003, p.62ff, no hay consenso sobre la existencia de un previo verdaderamente no informativo, y que los previos suficientemente vagos / planos / difusos son suficientes.

Algunos de los puntos que hacen:

1. Cualquier previo incluye información, incluidos los anteriores que indican que no se conoce información.
   • Por ejemplo, si sabemos que no sabemos nada sobre el parámetro en cuestión, entonces sabemos algo al respecto.
2. En la mayoría de los contextos aplicados, no existe una ventaja clara para un prior verdaderamente no informativo cuando bastan suficientes antecedentes vagos, y en muchos casos hay ventajas, como encontrar un previo adecuado, al uso de una parametrización vaga de un conjugado previo.
3. El principio de Jeffreys puede ser útil para construir antecedentes que minimicen el contenido de información de Fisher en modelos univariados, pero no existe un análogo para el caso multivariante
4. Al comparar modelos, el previo de Jeffreys variará con la distribución de la probabilidad, por lo que los anteriores también tendrían que cambiar
5. En general, ha habido mucho debate sobre si existe un previo no informativo (debido a 1, pero también vea la discusión y las referencias en p.66 en Gelman et al. para la historia de este debate).

tenga en cuenta que esto es wiki de la comunidad: la teoría subyacente está en los límites de mi comprensión, y agradecería las contribuciones a esta respuesta.

Gelman y col. Análisis de datos bayesianos 2003, Chapman y Hall / CRC

Definitivamente no, aunque con frecuencia se usan indistintamente. Un vago previo (relativamente desinformado, que no favorece realmente algunos valores sobre otros) en un parámetro puede inducir un previo muy informativo sobre alguna otra transformación f ( θ ) . Esto es al menos parte de la motivación para el previo de Jeffreys, que inicialmente se construyó para ser lo menos informativo posible.$\theta$$f(\theta)$

Los antecedentes vagos también pueden hacerle algunas cosas bastante miserables a su modelo. El ejemplo ahora clásico está usando como ϵ → 0 anteriores en componentes de varianza en un modelo jerárquico.$\mathrm{InverseGamma}(\epsilon, \epsilon)$$\epsilon\rightarrow 0$

$\epsilon$$\mathbb{R}^+$

Editar: @csgillespie (¡con razón!) Señala que no he respondido completamente a su pregunta. En mi opinión, un prior no informativo es uno que es vago en el sentido de que no favorece particularmente un área del espacio de parámetros sobre otra, pero al hacerlo no debería inducir previos informativos sobre otros parámetros. Entonces, un prior no informativo es vago, pero un prior vago no es necesariamente no informativo. Un ejemplo donde esto entra en juego es la selección de variables bayesianas; ¡un "vago" previo sobre las probabilidades de inclusión de variables puede inducir un previo bastante informativo sobre el número total de variables incluidas en el modelo!

Me parece que la búsqueda de antecedentes verdaderamente no informativos es quijotesca (aunque muchos estarían en desacuerdo); es mejor usar los llamados antecedentes informativos "débilmente" (que, supongo, generalmente son vagos en algún sentido). Realmente, ¿con qué frecuencia no sabemos nada sobre el parámetro en cuestión?

Lambert et al (2005) plantean la pregunta "¿Qué tan vago es vago? Un estudio de simulación del impacto del uso de distribuciones anteriores vagas en MCMC usando WinBUGS ". Escriben: "No abogamos por el uso del término distribución previa no informativa, ya que consideramos que todos los anteriores aportan información". Tiendo a estar de acuerdo, pero definitivamente no soy un experto en estadísticas bayesianas.

Sospecho que "previo vago" se usa para referirse a un previo que se sabe que codifica una cantidad pequeña, pero no nula, de conocimiento sobre el valor verdadero de un parámetro, mientras que un "previo no informativo" se usaría para significar ignorancia completa con respecto al valor de ese parámetro. Quizás se usaría para mostrar que el análisis no fue completamente objetivo.

Por ejemplo, un Gaussiano muy amplio podría ser un vago previo para un parámetro donde un previo no informativo sería uniforme. El gaussiano sería casi plano en la escala de interés, pero, sin embargo, favorecería un valor particular un poco más que cualquier otro (pero podría hacer que el problema sea más manejable matemáticamente).

Los antecedentes no informativos tienen diferentes formas. Estas formas incluyen antecedentes vagos y previos impropios. Por lo tanto, un vago prior es parte de anteriores no informativos