Preguntas etiquetadas con maximum-likelihood

¿Cuándo es preferible utilizar la Estimación de máxima verosimilitud en lugar de los mínimos cuadrados ordinarios? ¿Cuáles son las fortalezas y limitaciones de cada uno? Estoy tratando de reunir conocimientos prácticos sobre dónde usar cada uno en situaciones comunes.

13 regression  maximum-likelihood  least-squares 

He escrito un código que puede hacer el filtrado de Kalman (utilizando varios filtros de tipo Kalman diferentes [Filtro de información et al.]) Para el Análisis de espacio de estado lineal gaussiano para un vector de estado n-dimensional. Los filtros funcionan muy bien y estoy obteniendo una buena salida. Sin …

13 maximum-likelihood  algorithms  kalman-filter  likelihood 

Digamos que tengo un problema de selección de modelo y estoy tratando de usar AIC o BIC para evaluar los modelos. Esto es sencillo para los modelos que tienen algún número de parámetros con valores reales.kkk Sin embargo, ¿qué sucede si uno de nuestros modelos (por ejemplo, el modelo Mallows …

13 modeling  maximum-likelihood  aic  fitting  bic 

Tengo un modelo para predecir una trayectoria (x en función del tiempo) con varios parámetros. Por el momento, calculo el error cuadrático medio (RMSE) entre la trayectoria prevista y la trayectoria registrada experimentalmente. Actualmente, minimizo esta diferencia (el RMSE) usando simplex (fminsearch en matlab). Si bien este método funciona para …

13 maximum-likelihood  curve-fitting 

Esta pregunta está motivada por esta . Busqué dos fuentes y esto es lo que encontré. A. van der Vaart, Estadísticas asintóticas: Rara vez es posible calcular explícitamente la probabilidad de un perfil, pero su evaluación numérica a menudo es factible. Entonces, la probabilidad de perfil puede servir para reducir …

13 estimation  maximum-likelihood  likelihood  asymptotics  profile-likelihood 

Premisa: esta puede ser una pregunta estúpida. Solo conozco las afirmaciones sobre las propiedades asintóticas de MLE, pero nunca estudié las pruebas. Si lo hiciera, tal vez no estaría haciendo estas preguntas, o tal vez me daría cuenta de que estas preguntas no tienen sentido ... así que por favor, …

13 maximum-likelihood  model  asymptotics 

Estoy tratando de entender la regresión logística de Firth (método de manejo de separación perfecta / completa o cuasi-completa en regresión logística) para poder explicarlo a otros en términos simplificados. ¿Alguien tiene una explicación tonta de qué modificación está haciendo la estimación de Firth a MLE? Leí, lo mejor que …

13 logistic  maximum-likelihood  separation 

En general, parece que el método de los momentos solo coincide con la media de la muestra observada o la varianza con los momentos teóricos para obtener estimaciones de los parámetros. Esto es a menudo lo mismo que MLE para familias exponenciales, supongo. Sin embargo, es difícil encontrar una definición …

13 maximum-likelihood  method-of-moments 

Antecedentes: Estoy tratando de seguir la revisión de Princeton de la estimación de MLE para GLM . Entiendo los conceptos básicos de la estimación MLE: likelihood, score, observada y esperada Fisher informationy la Fisher scoringtécnica. Y sé cómo justificar la regresión lineal simple con la estimación MLE . La pregunta: …

12 regression  generalized-linear-model  maximum-likelihood  link-function  irls 

Sea una distribución conjunta de dos variables categóricas X , Y , con x , y ∈ { 1 , ... , K } . Digamos que se tomaron n muestras de esta distribución, pero solo se nos dan los recuentos marginales, es decir, para j = 1 , ... …

12 categorical-data  maximum-likelihood  joint-distribution  marginal  maximum-entropy 

Estoy tratando de calcular la probabilidad logarítmica de una regresión no lineal generalizada de mínimos cuadrados para la función optimizada por funcionan en el paquete R , usando la matriz de covarianza de varianza generada por distancias en un árbol filogenético asumiendo movimiento browniano ( del paquete). El siguiente código …

12 r  maximum-likelihood  least-squares  nonlinear-regression  mixed-model 

Estoy usando Bayes para resolver un problema de agrupamiento. Después de hacer algunos cálculos termino con la necesidad de obtener la razón de dos probabilidades: P(A)/P(B)P(A)/P(B)P(A)/P(B) para poder obtener . Estas probabilidades se obtienen mediante la integración de dos KDE multivariados 2D diferentes como se explica en esta respuesta :P(H|D)P(H|D)P(H|D) …

12 probability  bayesian  maximum-likelihood  kernel-smoothing 

Tengo algunas preguntas conceptuales simples que me gustaría aclarar con respecto a MLE (Estimación de máxima verosimilitud), y qué vínculo tiene, si lo hay, con EM (Maximización de expectativas). Según tengo entendido, si alguien dice "Usamos el MLE", ¿significa eso automáticamente que tienen un modelo explícito del PDF de sus …

12 estimation  maximum-likelihood  expectation-maximization 

Vengo de esta pregunta en caso de que alguien quiera seguir el rastro. Básicamente tengo un conjunto de datos ΩΩ\Omega compuesto de NNN objetos donde cada objeto tiene un número dado de valores medidos adjuntos (dos en este caso): Ω=o1[x1,y1],o2[x2,y2],...,oN[xN,yN]Ω=o1[x1,y1],o2[x2,y2],...,oN[xN,yN]\Omega = o_1[x_1, y_1], o_2[x_2, y_2], ..., o_N[x_N, y_N] Necesito una …

12 probability  maximum-likelihood  kernel-smoothing  numerical-integration 

Si alguien dijera "Ese método utiliza el MLE, la estimación puntual para el parámetro que maximiza , por lo tanto, es frecuentista; y además no es bayesiano".P ( x | θ )P(x|θ)\mathrm{P}(x|\theta) estarías de acuerdo? Actualización sobre los antecedentes : Hace poco leí un artículo que dice ser frecuente. No …

12 bayesian  maximum-likelihood  likelihood  frequentist  philosophical