Preguntas etiquetadas con maximum-likelihood

Existen bastantes métodos para la estimación de parámetros. MLE, UMVUE, MoM, decisión teórica y otros parecen tener un caso bastante lógico de por qué son útiles para la estimación de parámetros. ¿Es algún método mejor que los demás, o es solo una cuestión de cómo definimos cuál es el estimador …

12 estimation  mathematical-statistics  maximum-likelihood  method-of-moments  umvue 

¿Podría alguien decirme cuáles son las condiciones de regularidad para la distribución asintótica de la prueba de relación de probabilidad? Donde quiera que mire, está escrito 'Bajo las condiciones de regularidad' o 'bajo las regularidades probabilísticas'. ¿Cuáles son las condiciones exactamente? ¿Que existan el primer y segundo derivados de probabilidad …

12 maximum-likelihood  likelihood-ratio  asymptotics 

Quería entender mejor la prueba exacta del pescador, así que ideé el siguiente ejemplo de juguete, donde f y m corresponde a machos y hembras, y n e y corresponden a "consumo de refrescos" de esta manera: > soda_gender f m n 0 5 y 5 0 Obviamente, esta es …

12 fishers-exact  hypergeometric  clustering  supervised-learning  modeling  econometrics  r  regression  residuals  heteroscedasticity  independence  distributions  self-study  matlab  libsvm  self-study  conditional-probability  conditional-expectation  hypothesis-testing  self-study  multiple-comparisons  mode  statistical-significance  chi-squared  multiple-comparisons  maximum-likelihood  poisson-process  optimization  uncertainty  genetic-algorithms  bayesian  model-selection  overfitting  maximum-likelihood  optimization  approximation  r  prediction  model-evaluation  r  machine-learning  survival  neural-networks  cox-model  machine-learning  bayesian  bayesian-network  hierarchical-bayesian  pooling 

En el teorema bayesiano, , y del libro que estoy leyendo,p(x|y)se llamaprobabilidad, pero supongo que es solo laprobabilidad condicionaldexdadoy, ¿verdad?p(y|x)=p(x|y)p(y)p(x)p(y|x)=p(x|y)p(y)p(x)p(y|x) = \frac{p(x|y)p(y)}{p(x)}p(x|y)p(x|y)p(x|y)xxxyyy La estimación de máxima verosimilitud intenta maximizar , ¿verdad? Si es así, estoy muy confundido, porque x , y son variables aleatorias, ¿verdad? Para maximizar p ( x …

12 bayesian  maximum-likelihood 

¿Existe una regla general o incluso alguna forma de decir qué tan grande debe ser una muestra para estimar un modelo con un número dado de parámetros? Entonces, por ejemplo, si quiero estimar una regresión de mínimos cuadrados con 5 parámetros, ¿qué tan grande debe ser la muestra? ¿Importa qué …

12 sample-size  estimation  least-squares  maximum-likelihood 

Entiendo que dado un conjunto de observaciones independientes el Estimador de máxima verosimilitud (o, de manera equivalente, el MAP con anterior plano / uniforme) que identifica los parámetros \ mathbf {θ} que producen la distribución del modelo p_ {modelo} \ izquierda (\, \ cdot \,; \ mathbf {θ} \ right) …

12 maximum-likelihood  deep-learning  cross-entropy 

Estoy leyendo PRML y no entiendo la imagen. ¿Podría darnos algunas pistas para comprender la imagen y por qué el MLE de la varianza en una distribución gaussiana está sesgado? fórmula 1.55: fórmula 1.56 σ 2 M L E =1μMLE=1N∑n=1NxnμMLE=1N∑n=1Nxn \mu_{MLE}=\frac{1}{N} \sum_{n=1}^N x_n σ2MLE=1N∑n=1N(xn−μMLE)2σMLE2=1N∑n=1N(xn−μMLE)2 \sigma_{MLE}^2=\frac{1}{N}\sum_{n=1}^{N}(x_n-\mu_{MLE})^2

12 machine-learning  self-study  maximum-likelihood 

¿Cómo puedo construir un intervalo de confianza asintótico para un parámetro real, comenzando desde el MLE para ese parámetro?

12 confidence-interval  mathematical-statistics  maximum-likelihood  inference 

¿Es posible aplicar el procedimiento MLE habitual a la distribución triangular? - Estoy intentando pero parece que estoy bloqueado en un paso u otro en las matemáticas por la forma en que se define la distribución. Estoy tratando de utilizar el hecho de que sé el número de muestras arriba …

12 distributions  mathematical-statistics  maximum-likelihood  triangular-distribution 

Mientras estudio la Estimación de máxima verosimilitud, para hacer inferencia en la Estimación de máxima verosimilitud, necesitamos conocer la varianza. Para descubrir la varianza, necesito conocer el límite inferior de Cramer's Rao, que se parece a una matriz de Hesse con una segunda derivación en la curvatura. Estoy un poco …

12 machine-learning  mathematical-statistics  maximum-likelihood  data-mining 

Tengo una función de probabilidad L(d|θ)L(d|θ)\mathcal{L}(d | \theta) para la probabilidad de mis datos ddd dados algunos parámetros del modelo θ∈RNθ∈RN\theta \in \mathbf{R}^N , que me gustaría estimar. Suponiendo anteriores planos sobre los parámetros, la probabilidad es proporcional a la probabilidad posterior. Yo uso un método MCMC para probar esta …

11 bayesian  maximum-likelihood  optimization  inference  mcmc 

Recientemente me he dado cuenta de los métodos 'libres de probabilidades' que se usan en la literatura. Sin embargo, no tengo claro qué significa que un método de inferencia u optimización esté libre de probabilidades . En el aprendizaje automático, el objetivo suele ser maximizar la probabilidad de que algunos …

11 machine-learning  deep-learning  maximum-likelihood  generative-models  abc 

El título lo dice todo. Entiendo que los mínimos cuadrados y la máxima verosimilitud darán el mismo resultado para los coeficientes de regresión si los errores del modelo se distribuyen normalmente. Pero, ¿qué sucede si los errores no se distribuyen normalmente? ¿Por qué los dos métodos ya no son equivalentes?

11 regression  normal-distribution  maximum-likelihood  least-squares  error 

Estoy leyendo el documento de teoría de Doug Bates sobre el paquete lme4 de R para comprender mejor la esencia de los modelos mixtos, y encontré un resultado intrigante que me gustaría entender mejor, sobre el uso de la máxima verosimilitud restringida (REML) para estimar la varianza . En la …

11 maximum-likelihood  mixed-model  unbiased-estimator  hierarchical-bayesian  reml 

Estaba leyendo el libro El problema de identificación en econometría de Franklin M. Fisher, y estaba confundido por la parte de que demuestra la identificación al visualizar la función de probabilidad. El problema podría simplificarse como: Para una regresión , donde , y son los parámetros. Supongamos que Y tiene …

11 mathematical-statistics  maximum-likelihood  geometry