Preguntas etiquetadas con expectation-maximization

¿Hay alguna alternativa rápida al algoritmo EM para aprender modelos con variables latentes (especialmente pLSA)? Estoy de acuerdo con sacrificar la precisión en favor de la velocidad.

13 machine-learning  optimization  expectation-maximization  lsa 

Digamos que tengo una población de 50 millones de cosas únicas, y tomo 10 millones de muestras (con reemplazo) ... El primer gráfico que adjunto muestra cuántas veces pruebo la misma "cosa", lo cual es relativamente raro. La población es mayor que mi muestra. Sin embargo, si mi población es …

13 r  sampling  expectation-maximization 

Estoy tratando de separar dos grupos de valores de un solo conjunto de datos. Puedo suponer que una de las poblaciones está normalmente distribuida y tiene al menos la mitad del tamaño de la muestra. Los valores del segundo son más bajos o más altos que los valores del primero …

13 dataset  outliers  expectation-maximization 

Tengo algunas preguntas conceptuales simples que me gustaría aclarar con respecto a MLE (Estimación de máxima verosimilitud), y qué vínculo tiene, si lo hay, con EM (Maximización de expectativas). Según tengo entendido, si alguien dice "Usamos el MLE", ¿significa eso automáticamente que tienen un modelo explícito del PDF de sus …

12 estimation  maximum-likelihood  expectation-maximization 

Suponga que tengo un conjunto de observaciones univariadas independientes, distribuidas idénticamente dos hipótesis sobre cómo se generó :xxxxxx H0H0H_0 : xxx se extrae de una distribución gaussiana única con media y varianza desconocidas. HAHAH_A : xxx se extrae de una mezcla de dos gaussianos con media, varianza y coeficiente de …

11 hypothesis-testing  normal-distribution  expectation-maximization 

¿Cuáles son los beneficios de dar ciertos valores iniciales a las probabilidades de transición en un modelo oculto de Markov? Finalmente, el sistema los aprenderá, entonces, ¿cuál es el punto de dar valores distintos de los aleatorios? ¿El algoritmo subyacente hace una diferencia como Baum-Welch? Si conozco las probabilidades de …

11 machine-learning  expectation-maximization  hidden-markov-model 

Matemáticamente, a menudo se ve que las expresiones y algoritmos para la Maximización de Expectativas (EM) son a menudo más simples para modelos mixtos, sin embargo, parece que casi todo (si no todo) que se puede resolver con EM también se puede resolver con MLE (por, digamos, el método de …

11 mixed-model  maximum-likelihood  expectation-maximization 

El modelo de regresión de Poisson inflado a cero se define para una muestra por y además supone que los parámetros \ mathbf {\ lambda} = (\ lambda_1, \ dots, \ lambda_n) y \ textbf {p} = (p_1, \ dots, p_n) satisfacen(y1,…,yn)(y1,…,yn)(y_1,\ldots,y_n)λ = ( λ 1 , ... , λ …

10 generalized-linear-model  maximum-likelihood  poisson-distribution  expectation-maximization  latent-variable 

¿Alguien puede aclarar cómo los modelos ocultos de Markov están relacionados con la maximización de expectativas? He pasado por muchos enlaces pero no pude tener una visión clara. ¡Gracias!

10 markov-process  expectation-maximization  hidden-markov-model 

Estoy tratando de implementar un algoritmo EM para el siguiente modelo de análisis factorial; Wj= μ + B aj+ ejparaj = 1 , ... , nWj=μ+Baj+ejforj=1,…,nW_j = \mu+B a_j+e_j \quad\text{for}\quad j=1,\ldots,n donde es un vector aleatorio p-dimensional, a j es un vector q-dimensional de variables latentes y B es una …

10 factor-analysis  expectation-maximization 

En esta pregunta popular , la respuesta altamente votada hace que MLE y Baum Welch se separen en la adaptación HMM. Para problemas de entrenamiento podemos usar los siguientes 3 algoritmos: MLE (estimación de máxima verosimilitud), entrenamiento de Viterbi (NO confundir con la decodificación de Viterbi), Baum Welch = algoritmo …

9 hidden-markov-model  expectation-maximization 

La pregunta se basa en el artículo titulado: Reconstrucción de imágenes en tomografía óptica difusa utilizando el modelo acoplado de transporte radiativo-difusión Enlace de descarga Los autores aplican el algoritmo EM con regularización de dispersión de un vector desconocido para estimar los píxeles de una imagen. El modelo viene dado …

9 self-study  bayesian  maximum-likelihood  expectation-maximization  moving-average 

Actualmente estoy aprendiendo modelos bayesianos jerárquicos usando JAGS de R, y también pymc usando Python ( "Métodos Bayesianos para Hackers" ). Puedo entender algo de esta publicación : "terminarás con una pila de números que parece" como si "hubieras logrado tomar muestras independientes de la complicada distribución que querías saber". …

9 bayesian  mcmc  expectation-maximization 

Estoy estudiando el modelo de mezcla gaussiana y se me ocurre esta pregunta. Supongamos que los datos subyacentes se generan a partir de una mezcla de distribución Gaussiana y cada uno de ellos tiene un vector medio , donde y cada uno de ellos tiene el mismo coeficiente matriz de …

9 self-study  expectation-maximization  gaussian-mixture  consistency 

Tengo un modelo de mezcla que quiero encontrar el estimador de máxima verosimilitud de un conjunto de datos dado y un conjunto de datos observados parcialmente . He implementado tanto el paso E (calculando la expectativa de dado y los parámetros actuales ), como el paso M, para minimizar la …

9 maximum-likelihood  mixture  expectation-maximization