¿Por qué la g anterior de Zellner es "inaceptable"?

Sé que el anterior de Zellner está utilizando datos para establecer información previa, pero en realidad todo el modelo depende de los datos. ¿Hay alguna otra razon?

regression bayesian uninformative-prior

— Ruido rojo
fuente

¿Puede publicar una cita / referencia para la afirmación de que es inaceptable? ¿Y también cuéntanos todo el contexto de este reclamo como puedas?

— Jake Westfall

Lo leí en algún artículo (no recuerdo el nombre o el autor), sobre la regresión y el enfoque bayesiano. No tenía mucha información. (Recuerdo que usaron los mismos argumentos que la gente usa con Jeffreys '). Entiendo la controversia que habla sobre los antecedentes no informativos en un contexto independiente, pero usando la regresión no puedo ver el punto

— Ruido rojo

En nuestro libro, Bayesian Essentials with R , afirmamos casi lo mismo:

El previo de Zellner aparece de alguna manera como un previo dependiente de datos a través de su dependencia de $X$ , pero esto no es realmente un problema ya que todo el modelo está condicionado a $X$ .

El anterior de Zellner escribe como

β El | σ \sim {norte}_{pags} (\tilde{β}, sol σ^{2} (X^{T} X)^{- 1}) σ \sim π (σ) = 1 / / σ

$\beta|\sigma \sim \mathscr{N}_p\left(\tilde\beta,g\sigma^2(X^\text{T}X)^{-1}\right)\qquad \sigma\sim\pi(\sigma)=1/\sigma$ y su mayor inconveniente es la dependencia de la constante

g

$g$ , que impacta de manera significativa la inferencia resultante. Esto se ilustra en el libro . Una forma de salir de este problema es asociar

g

$g$ con una distribución previa, como se detalla en bayesianos Esencial con R . Una salida más rápida es conformarse con

g = n

$g=n$ .

Un segundo problema con el prior de Zellner es que este es un prior inapropiado (debido a $\sigma$ ), por lo tanto, enfrenta dificultades para la comparación de modelos como en la selección de variables. Un truco un tanto sucio pasa por alto esta dificultad: nuevamente citando el libro :

estamos obligados a denotar por $\sigma^2$ y $\alpha$ los términos de varianza e intercepción comunes a todos los modelos, respectivamente. Aunque esto es más un truco matemático que una verdadera razón de modelado, la independencia previa de $(\alpha; \sigma2)$ y el índice del modelo permite el uso simultáneo de factores de Bayes y un previo incorrecto sobre esos parámetros molestos.

Por lo tanto, no parece correcto llamar inaceptable a Zellner . En mi opinión, los únicos antecedentes inaceptables son aquellos que entran en conflicto con la información previa. En una situación no informativa, cualquier prioridad debe ser aceptable, al menos a priori. (Puede ser que los datos revelen un conflicto entre lo anterior y el parámetro que podría haber estado detrás de los datos).

— Xi'an
fuente