Los algoritmos MCMC como el muestreo de Metropolis-Hastings y Gibbs son formas de muestreo de las distribuciones posteriores conjuntas.
Creo que entiendo y puedo implementar la aceleración de las metrópolis con bastante facilidad: simplemente elige los puntos de partida de alguna manera y "recorre el espacio de parámetros" al azar, guiado por la densidad posterior y la densidad de propuesta. El muestreo de Gibbs parece muy similar pero más eficiente, ya que actualiza solo un parámetro a la vez, mientras mantiene constantes los demás, recorriendo el espacio de manera ortogonal.
Para hacer esto, necesita el condicional completo de cada parámetro en análisis desde *. ¿Pero de dónde vienen estos condicionales completos? Para obtener el denominador necesita marginar la articulación sobre . Parece mucho trabajo analítico si hay muchos parámetros, y podría no ser manejable si la distribución conjunta no es muy "agradable". Me doy cuenta de que si usa conjugación en todo el modelo, los condicionales completos pueden ser fáciles, pero debe haber una mejor manera para situaciones más generales. x1
Todos los ejemplos de muestreo de Gibbs que he visto en línea usan ejemplos de juguetes (como el muestreo de una normal multivariada, donde los condicionales son simplemente normales), y parecen esquivar este problema.
* ¿O necesita los condicionales completos en forma analítica? ¿Cómo lo hacen programas como winBUGS?