Preguntas etiquetadas con bayesian

No entiendo por qué convertir una red bayesiana en un gráfico de factores es bueno para la inferencia bayesiana. Mis preguntas son: ¿Cuál es el beneficio de usar el factor gráfico en el razonamiento bayesiano? ¿Qué pasaría si no lo usamos? Cualquier ejemplo concreto será apreciado!

10 bayesian  graphical-model  bayesian-network 

Considere la bayesiana posterior . Asintóticamente, su máximo ocurre en la estimación MLE , que simplemente maximiza la probabilidad .θ ∣ Xθ∣X\theta\mid Xθ argmin θθ^θ^\hat \thetaargminθFθ( X)argminθfθ(X)\operatorname{argmin}_\theta\, f_\theta(X) Todos estos conceptos (antecedentes bayesianos, maximizando la probabilidad) suenan súper principios y no son en absoluto arbitrarios. No hay un registro a …

9 bayesian  maximum-likelihood  kullback-leibler 

Estoy trabajando en un problema de inferencia de alta dimensión (alrededor de 2000 parámetros del modelo) para el cual somos capaces de realizar una estimación MAP de manera sólida al encontrar el máximo global del log-posterior utilizando una combinación de optimización basada en gradiente y un algoritmo genético. Me gustaría …

9 bayesian  uncertainty  high-dimensional  variational-bayes 

Esto podría ser un poco de una cuestión filosófica, pero aquí vamos: En teoría de la decisión, el riesgo de un estimador de Bayes θ ( x ) para θ ∈ Θ se define con respecto a una distribución a priori π en Θ .θ^(x)θ^(x)\hat\theta(x)θ∈Θθ∈Θ\theta\in\Thetaππ\piΘΘ\Theta Ahora, por un lado, para …

9 bayesian  prior  decision-theory  point-estimation 

La definición más simple de estadísticas suficientes en la perspectiva frecuentista se da aquí en Wikipedia . Sin embargo, recientemente me encontré con un libro bayesiano, con la definición . En el enlace se afirma que ambos son equivalentes, pero no veo cómo. Además, en esa misma página, en la …

9 bayesian  mathematical-statistics  sufficient-statistics 

Recientemente vi esta charla de Eric J. Ma y revisé su entrada de blog , donde cita a Radford Neal, que los modelos bayesianos no se sobreajustan (pero pueden sobreajustar ) y cuando los usamos , no necesitamos conjuntos de prueba para validarlos (para Me parece que las citas hablan …

9 machine-learning  bayesian  cross-validation  deep-learning 

En el artículo titulado Deep Learning and the Information Bottleneck Principle, los autores declaran en la sección II A) lo siguiente: Las neuronas individuales clasifican solo entradas separables linealmente, ya que pueden implementar solo hiperplanos en su espacio de entrada . Los hiperplanes pueden clasificar de manera óptima los datos …

9 bayesian  neural-networks  information-theory 

Casella y Berger establecen la propiedad de invariancia del estimador de ML de la siguiente manera: Sin embargo, me parece que definen la "probabilidad" de de una manera completamente ad hoc y sin sentido:ηη\eta Si aplico las reglas básicas de la teoría de la probabilidad al caso simple donde , …

9 self-study  bayesian  maximum-likelihood  frequentist  invariance 

Considere la siguiente gráfica en la que simulé datos de la siguiente manera. Observamos un resultado binario para el cual la probabilidad real de ser 1 se indica mediante la línea negra. La relación funcional entre una covariable y es un polinomio de tercer orden con enlace logístico (por lo …

9 regression  logistic  bayesian  confidence-interval  credible-interval 

Tengo un conjunto de datos con tres variables, donde todas las variables son cuantitativas. Vamos a llamarlo , y . Estoy ajustando un modelo de regresión en una perspectiva bayesiana a través de MCMC conx 1 x 2yyyX1x1x_1X2x2x_2rjags Hice un análisis exploratorio y el diagrama de dispersión de sugiere que …

9 bayesian  feature-selection  model-selection  model  credible-interval 

Ejemplos: Tengo una oración en la descripción del trabajo: "Ingeniero senior de Java en el Reino Unido". Quiero usar un modelo de aprendizaje profundo para predecirlo en 2 categorías: English y IT jobs. Si uso el modelo de clasificación tradicional, solo puede predecir 1 etiqueta con softmaxfunción en la última …

9 machine-learning  deep-learning  natural-language  tensorflow  sampling  distance  non-independent  application  regression  machine-learning  logistic  mixed-model  control-group  crossover  r  multivariate-analysis  ecology  procrustes-analysis  vegan  regression  hypothesis-testing  interpretation  chi-squared  bootstrap  r  bioinformatics  bayesian  exponential  beta-distribution  bernoulli-distribution  conjugate-prior  distributions  bayesian  prior  beta-distribution  covariance  naive-bayes  smoothing  laplace-smoothing  distributions  data-visualization  regression  probit  penalized  estimation  unbiased-estimator  fisher-information  unbalanced-classes  bayesian  model-selection  aic  multiple-regression  cross-validation  regression-coefficients  nonlinear-regression  standardization  naive-bayes  trend  machine-learning  clustering  unsupervised-learning  wilcoxon-mann-whitney  z-score  econometrics  generalized-moments  method-of-moments  machine-learning  conv-neural-network  image-processing  ocr  machine-learning  neural-networks  conv-neural-network  tensorflow  r  logistic  scoring-rules  probability  self-study  pdf  cdf  classification  svm  resampling  forecasting  rms  volatility-forecasting  diebold-mariano  neural-networks  prediction-interval  uncertainty 

Pregunta: Un malentendido común de los valores p es que representan la probabilidad de que la hipótesis nula sea verdadera. Sé que eso no es correcto y sé que los valores p solo representan la probabilidad de encontrar una muestra tan extrema como esta, dado que la hipótesis nula es …

9 hypothesis-testing  bayesian  p-value  frequentist 

Estoy tratando de implementar el modelo de mezcla gaussiana con inferencia variacional estocástica, siguiendo este artículo . Esta es la pgm de Gaussian Mixture. Según el artículo, el algoritmo completo de inferencia variacional estocástica es: Y todavía estoy muy confundido con el método para escalarlo a GMM. Primero, pensé que …

9 machine-learning  bayesian  clustering  gaussian-mixture  variational-bayes 

Estoy leyendo esta preimpresión en papel , y tengo dificultades para seguir su derivación de las ecuaciones para la regresión del proceso gaussiano. Utilizan la configuración y la notación de Rasmussen y Williams . Por lo tanto, se supone un aditivo, de media cero, estacionario y normalmente distribuido con varianza …

9 regression  bayesian  gaussian-process 

Los estadísticos bayesianos sostienen que "las estadísticas bayesianas pueden estimar parámetros que son muy difíciles de estimar mediante métodos frecuentistas". ¿La siguiente cita tomada de esta documentación de SAS dice lo mismo? Proporciona inferencias que son condicionales a los datos y son exactas, sin depender de la aproximación asintótica. La …

9 bayesian  inference  sas  frequentist