Tengo un vago sentido de lo que es un método de paso de mensajes: un algoritmo que construye una aproximación a una distribución construyendo iterativamente aproximaciones de cada uno de los factores de la distribución condicional a todas las aproximaciones de todos los demás factores.
Creo que ambos son ejemplos de transmisión de mensajes variados y propagación de expectativas . ¿Qué es un algoritmo de paso de mensajes de manera más explícita / correcta? Las referencias son bienvenidas.
Respuestas:
Como solicita referencias, puedo recomendar el capítulo 16 de David MacKay's Information Theory, Inference, and Learning Algorithms. (no necesita leer los 15 capítulos anteriores para comprender el capítulo 16) El libro se puede descargar gratis del sitio web del autor (con permiso del editor).
Para un ejemplo interesante, echa un vistazo a la tesis de John Winn . Utiliza un algoritmo de paso de mensajes para el aprendizaje genérico por conjuntos variados, lo que permite la construcción simple de problemas de inferencia como ICA y PCA.
Quizás el artículo sobre propagación de creencias sea útil.
El artículo da una descripción de dos puntos de viñeta de cómo se pasan los "mensajes" a lo largo de los bordes en un gráfico de factores. Este "paso de mensaje" se puede hacer para cualquier gráfico. Para los árboles, el algoritmo es exacto en el sentido de que proporciona el cálculo de las distribuciones marginales y conjuntas deseadas de los nodos en el árbol. Las iteraciones del algoritmo para gráficos generales son intentos de producir aproximaciones de las distribuciones marginales o conjuntas deseadas.