Preguntas etiquetadas con maximum-likelihood

Pregunta general Supongamos que tenemos datos de iid , , ... transmiten. Queremos calcular recursivamente la estimación de máxima probabilidad de \ boldsymbol {\ theta} . Es decir, haber calculado \ hat {\ boldsymbol {\ theta}} _ {n-1} = \ underset {\ boldsymbol {\ theta} \ in \ mathbb {R} …

15 maximum-likelihood  online 

Jeffrey Wooldridge en su Análisis econométrico de la sección transversal y los datos del panel (página 357) dice que el hessiano empírico "no garantiza que sea definitivo positivo, o incluso semidefinido positivo, para la muestra particular con la que estamos trabajando". Esto me parece incorrecto ya que (aparte de los …

15 estimation  maximum-likelihood  econometrics  asymptotics 

Me pregunto si alguna vez se utilizó la estimación de máxima verosimilitud en las estadísticas. Aprendemos el concepto, pero me pregunto cuándo se usa realmente. Si asumimos la distribución de los datos, encontramos dos parámetros, uno para la media y otro para la varianza, pero ¿realmente lo usa en situaciones …

14 estimation  maximum-likelihood 

θ^θ^\hat\thetaθ∗θ∗\theta^*nnn∥θ^−θ∗∥‖θ^−θ∗‖\lVert\hat\theta-\theta^*\rVertO(1/n−−√)O(1/n)O(1/\sqrt n)∥Eθ^−θ∗∥‖Eθ^−θ∗‖\lVert \mathbb E\hat\theta - \theta^*\rVert∥Eθ^−θ^∥‖Eθ^−θ^‖\lVert \mathbb E\hat\theta - \hat\theta\rVertO(1/n−−√)O(1/n)O(1/\sqrt{n}) Estoy interesado en los modelos que tienen un sesgo que se reduce más rápido que O(1/n−−√)O(1/n)O(1/\sqrt n) , pero donde el error no se reduce a esta velocidad más rápida porque la desviación todavía se reduce como O(1/n−−√)O(1/n)O(1/\sqrt n) . …

14 variance  estimation  maximum-likelihood  bias 

Esta pregunta trata sobre la estimación de máxima verosimilitud restringida (REML) en una versión particular del modelo lineal, a saber: Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)),Y=X(α)β+ϵ,ϵ∼Nn(0,Σ(α)), Y = X(\alpha)\beta + \epsilon, \\ \epsilon\sim N_n(0, \Sigma(\alpha)), donde es una matriz ( n × p ) parametrizada por α ∈ R k , como lo es Σ …

14 mixed-model  maximum-likelihood  linear-model  optimization  reml 

En el primer capítulo del libro Algebraic Geometry and Statistical Learning Theory, que habla sobre la convergencia de las estimaciones en diferentes espacios funcionales, menciona que la estimación bayesiana corresponde a la topología de distribución de Schwartz, mientras que la estimación de máxima verosimilitud corresponde a la topología supranormal (en …

14 bayesian  maximum-likelihood  statistical-learning 

Parece haber mucha confusión en la comparación de usar glmnetdentro caretpara buscar una lambda óptima y usar cv.glmnetpara hacer la misma tarea. Se plantearon muchas preguntas, por ejemplo: Modelo de clasificación train.glmnet vs. cv.glmnet? ¿Cuál es la forma correcta de usar glmnet con caret? Validación cruzada de `glmnet` usando` caret` …

14 r  caret  glmnet  machine-learning  neural-networks  maximum  softmax  probability  distributions  mathematical-statistics  random-variable  cdf  statistical-significance  variance  expected-value  ratio  sample-size  reliability  tolerance-interval  wilcoxon-signed-rank  self-study  variance  sampling  mean  machine-learning  svm  libsvm  self-study  sampling  ranks  data-visualization  histogram  machine-learning  classification  normal-distribution  mathematical-statistics  maximum-likelihood  mixture  predictive-models  prediction  seasonality 

MLE = Estimación de máxima verosimilitud MAP = Máximo a posteriori MLE es intuitivo / ingenuo en el sentido de que comienza solo con la probabilidad de observación dado el parámetro (es decir, la función de probabilidad) y trata de encontrar el parámetro que mejor concuerde con la observación . …

14 machine-learning  bayesian  estimation  maximum-likelihood  inference 

Dado un conjunto de datos con resultados binarios algunas matrices de predicción , el modelo de regresión logística estándar estima los coeficientes que maximizan la probabilidad binomial. Cuando X es rango completo, \ beta_ {MLE} es único; cuando la separación perfecta no está presente, es finita.y∈{0,1}ny∈{0,1}ny\in\{0,1\}^nX∈Rn×pX∈Rn×pX\in\mathbb{R}^{n\times p}βMLEβMLE\beta_{MLE}XXXβMLEβMLE\beta_{MLE} ¿Este modelo de …

13 logistic  maximum-likelihood  auc 

Este es un pensamiento extraño que tuve al revisar algunas estadísticas antiguas y, por alguna razón, parece que no puedo pensar en la respuesta. Un PDF continuo nos dice la densidad de los valores de observación en cualquier rango dado. Es decir, si , por ejemplo, entonces la probabilidad de …

13 normal-distribution  maximum-likelihood  pdf 

Recientemente he revisado algunos documentos antiguos de Nancy Reid, Barndorff-Nielsen, Richard Cox y, sí, un pequeño Ronald Fisher sobre el concepto de "inferencia condicional" en el paradigma frecuentista, lo que parece significar que las inferencias se basan considerando solo el "subconjunto relevante" del espacio muestral, no todo el espacio muestral. …

13 confidence-interval  maximum-likelihood  inference 

Veo mencionado en varios lugares que ANOVA hace su estimación utilizando el método de los momentos. Esa afirmación me confunde porque, aunque no estoy familiarizado con el método de los momentos, entiendo que es algo diferente y no equivalente al método de máxima probabilidad; Por otro lado, ANOVA puede verse …

13 anova  mixed-model  maximum-likelihood  method-of-moments 

Esta pregunta está inspirada en la larga discusión en los comentarios aquí: ¿Cómo usa la regresión lineal la distribución normal? En el modelo de regresión lineal habitual, para simplificar aquí escrito con un solo predictor: Yi=β0+β1xi+ϵiYi=β0+β1xi+ϵi Y_i = \beta_0 + \beta_1 x_i + \epsilon_i donde xixix_i son constantes conocidas y …

13 regression  normal-distribution  mathematical-statistics  maximum-likelihood  least-squares 

Al realizar la regresión, si vamos por la definición de: ¿Cuál es la diferencia entre una probabilidad parcial, probabilidad de perfil y probabilidad marginal? eso, máxima verosimilitud Encuentra β y θ que maximiza L (β, θ | datos). Mientras, probabilidad marginal Integramos θ a partir de la ecuación de probabilidad …

13 regression  maximum-likelihood 

Después de centrar, se puede suponer que las dos mediciones x y −x son observaciones independientes de una distribución de Cauchy con función de densidad de probabilidad: 1f(x:θ)=f(x:θ)=f(x :\theta) = ,-∞&lt;x&lt;∞1π(1+(x−θ)2)1π(1+(x−θ)2)1\over\pi (1+(x-\theta)^2) ,−∞&lt;x&lt;∞,−∞&lt;x&lt;∞, -∞ < x < ∞ Muestre que si el MLE de θ es 0, pero si x …

13 self-study  distributions  maximum-likelihood  cauchy