Preguntas etiquetadas con maximum-likelihood

Supongamos que tenemos un modelo lineal que cumple con todos los supuestos de regresión estándar (Gauss-Markov). Estamos interesados ​​en . θ = 1 / β 1yi=β0+β1xi+ϵiyi=β0+β1xi+ϵiy_i = \beta_0 + \beta_1 x_i + \epsilon_iθ=1/β1θ=1/β1\theta = 1/\beta_1 Pregunta 1: ¿Qué supuestos son necesarios para que la distribución de esté bien definida? sería …

9 regression  distributions  maximum-likelihood  bootstrap 

Necesito hacer inferencia sobre un parámetro positivo . Para acomodar la positividad reparametrice . Usando la rutina MLE, calculé la estimación puntual y se para q . La propiedad de invariancia del MLE me da directamente una estimación puntual para p , pero no estoy seguro de cómo calcular se …

9 maximum-likelihood  standard-error  delta-method 

Actualmente estoy estudiando sobre Regresión logística. Pero me estoy en el cálculo de la intercepción ( ) y el coeficiente ( ). Lo he estado buscando a través de Internet, pero solo obtengo tutoriales usando Microsoft Excel o funciones integradas en R. Escuché que se puede resolver con Maximum Likelihood, …

9 regression  machine-learning  logistic  maximum-likelihood 

Supongamos que reemplazamos la función de pérdida de la regresión logística (que normalmente es log-verosimilitud) con el MSE. Es decir, que la razón de probabilidad logarítmica sea una función lineal de los parámetros, pero minimice la suma de las diferencias al cuadrado entre la probabilidad estimada y el resultado (codificado …

9 logistic  maximum-likelihood  unbiased-estimator  mse 

Estoy luchando con la implementación del estimador de máxima verosimilitud para un proceso de Hawkes (HP) multivariante. Específicamente, aunque la expresión analítica para una función de probabilidad logarítmica de un HP univariante se puede encontrar fácilmente en línea (por ejemplo, Ozaki, 1979), parece haber versiones diferentes (¿inconsistentes o equivalentes?) De …

9 maximum-likelihood  stochastic-processes  likelihood 

Considere una respuesta y y matriz de datos X . Supongamos que estoy creando un modelo del formulario: y ~ g (X, )θθ\theta (g () podría ser cualquier función de X y )θθ\theta Ahora, para estimar utilizando el método de máxima verosimilitud (ML), podría seguir adelante con ML condicional (suponiendo …

9 estimation  maximum-likelihood  optimization 

En "Aprendizaje automático: una perspectiva probabilística" de Kevin Murphy, capítulo 3.2, el autor demuestra el concepto de aprendizaje bayesiano en un ejemplo llamado "juego de números": después de observar muestras de , queremos escoja una hipótesis que describa mejor la regla que generó las muestras. Por ejemplo, "números pares" o …

8 self-study  bayesian  maximum-likelihood  convergence 

Esta pregunta parece lo suficientemente fundamental como para estar convencido de que se ha respondido aquí en alguna parte, pero no la he encontrado. Entiendo que si la variable dependiente en una regresión se distribuye normalmente, la probabilidad máxima y los mínimos cuadrados ordinarios producen las mismas estimaciones de parámetros. …

8 regression  maximum-likelihood  least-squares  blue 

He visto la siguiente justificación para la prueba de Wald de la hipótesis nula para un parámetro escalar . Cuando es el MLE para estimado a partir de una muestra independiente de tamaño , bajo la hipótesis nula tenemos en distribución como , donde es la información esperada para una …

8 hypothesis-testing  maximum-likelihood 

Estoy tratando de entender la diferencia entre la Newton-Raphsontécnica y la Fisher scoringtécnica calculando la primera iteración para cada método para una Bernoullimuestra. (Sé que en este caso puedo calcular explícita e inmediatamenteπm l eπmetrolmi\pi_{mle} pero quiero hacerlo de forma iterativa solo para comprender y ver cómo converge cada método). …

8 maximum-likelihood  fisher-information  fisher-scoring 

Me dieron una mesa de x=(0,1,2,3,4,5,6)x=(0,1,2,3,4,5,6)x=(0,1,2,3,4,5,6) y y=(3062,587,284,103,33,4,2)y=(3062,587,284,103,33,4,2)y=(3062,587,284,103,33,4,2), que son tales que el número de xixix_i le dice a una cantidad de niños que todos yiyiy_is tener. Me piden que ajuste una distribución de Poisson a esto. ¿Qué significa ajustar una distribución de Poisson a esto? Aquí, p.8: http://www.stats.ox.ac.uk/~marchini/teaching/L5/L5.notes.pdf se …

8 self-study  distributions  maximum-likelihood  fitting 

En un modelo de ecuación estructural, a menudo se usa el estimador de ML. En el caso de que las variables no sean multivariadas normales, ¿se puede utilizar ML? Muchas veces los indicadores que tiene disponibles para trabajar no son multivariados normales. No estoy seguro de cómo proceder en ese …

8 maximum-likelihood  sem  normality-assumption  multivariate-normal 

Encontré que para un modelo de regresión lineal simple, tanto el MCO como el método de máxima verosimilitud (suponiendo una distribución Normal) dan el mismo resultado (valores de parámetros). A partir de esto, ¿podemos decir que los MCO también hacen suposiciones implícitas sobre la distribución Normal o viceversa? No me …

8 regression  normal-distribution  maximum-likelihood  least-squares 

¿Por qué un GLM predice la media y no el modo de una señal? ¿Esto no contradice la base misma detrás del GLM, es decir, la máxima probabilidad? Las ecuaciones para resolver los parámetros del modelo en un GLM se basan en la maximización de la probabilidad según lo descrito …

8 generalized-linear-model  maximum-likelihood  mean  mode 

Entiendo dónde ocurre el paso E en el algoritmo (como se explica en la sección matemática a continuación). En mi opinión, el ingenio clave del algoritmo es el uso de la desigualdad de Jensen para crear un límite inferior a la probabilidad logarítmica. En ese sentido, tomar Expectationsimplemente se hace …

8 maximum-likelihood  optimization  expectation-maximization  latent-variable  kullback-leibler