Motores de inferencia variacional


8

Después de investigar un poco sobre el tema, he notado un sorprendente déficit de paquetes de inferencia y bibliotecas que dependen de métodos de optimización o transmisión de mensajes para Python y R.

Que yo sepa, estos métodos son extremadamente útiles. Por ejemplo, para una red de Bayes (dirigida, acíclica), la propagación de creencias por sí sola debería ser capaz de dar respuestas exactas. Sin embargo, la mayoría del software de inferencia que está disponible en línea (por ejemplo, STAN, BUGS, PyMC) se basa en métodos MCMC.

En el caso de Python, que yo sepa, ni PyMC, scikit-learn o statsmodels incluyen algoritmos de inferencia variacional como propagación de creencias, métodos de transmisión de mensajes o cualquiera de sus variantes.

¿Porqué es eso? ¿Son estos métodos menos utilizados en la práctica porque no se consideran tan potentes o genéricos como sus contrapartes MCMC? o ¿Es simplemente una cuestión de falta de mano de obra y tiempo?


¿Por qué los votos cerrados?
Amelio Vazquez-Reina

Probablemente porque su pregunta parece ser sobre software en lugar de estadísticas o aprendizaje automático. Si edita para dejar muy claro sobre cuáles de los temas de CV está haciendo una pregunta (es decir, por qué no es 'solo una pregunta de software'), es menos probable que la votación cerrada tenga éxito (e incluso si lo logra, si usted editar para aclararlo, es más probable que se revierta con una votación de reapertura). Entonces, si su pregunta claramente parece ser una "red de creencias" o una pregunta de "inferencia variacional" (incluso si también involucra software), probablemente debería estar bien.
Glen_b -Reinstalar Monica

Gracias @Glen_b. Eso tiene sentido, lo entiendo. He actualizado la pregunta. Esperemos que eso lo ponga más en el alcance del sitio.
Amelio Vazquez-Reina

1
Eso podría ser suficiente: si no hubiera votado para mantenerlo abierto, me preocuparía poco hacerlo ahora. Por otro lado, algunas personas son mucho más estrictas sobre dónde trazan la línea entre 'esta es una pregunta de estadísticas / ML' y 'esta es una pregunta de software' que yo. No debe tomar votos cerrados de ninguna manera personalmente, incluso si termina cerrado o trasladado a otro sitio de SE; Esto es en parte cómo se supone que funciona el sitio.
Glen_b -Reinstalar Monica

Esto es sobre el tema, espero que haya un tomador en algún momento.
conjeturas

Respuestas:


2

¿Has mirado a Edward ? La API de inferencia admite, entre otras cosas, la inferencia variacional:

  • Inferencia variacional de caja negra
  • Inferencia variacional estocástica
  • Codificadores automáticos variacionales
  • Divergencia inclusiva de KL: KL(p∥q)

¡Gracias! Sí, lo probé recientemente. Creo que es muy nuevo y no estaba presente cuando le pregunté a la P. ¡Aunque es bueno tenerlo en el hilo!
Amelio Vazquez-Reina

2
¿Cómo te pareció trabajar con Edward? ¿Como en lo que pensaste? ¿Satisfizo tus requerimientos?
ruoho ruotsi
Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.