Estadísticas y Big Data

Contexto El gaussiano multivariante aparece con frecuencia en Machine Learning y los siguientes resultados se utilizan en muchos libros y cursos de ML sin las derivaciones. Datos dados en forma de una matriz de dimensiones , si suponemos que los datos siguen una distribución gaussiana de -variable con parámetros media …

20 normal-distribution  maximum-likelihood  estimators  multivariate-normal 

Estoy tratando de entender cómo funciona XGBoost. Ya entiendo cómo funcionan los árboles impulsados ​​por gradiente en Python sklearn. Lo que no está claro para mí es si XGBoost funciona de la misma manera, pero más rápido, o si hay diferencias fundamentales entre él y la implementación de Python. Cuando …

20 scikit-learn  boosting  gbm  xgboost 

En términos de jerga de redes neuronales (y = Peso * x + sesgo), ¿cómo sabría qué variables son más importantes que otras? Tengo una red neuronal con 10 entradas, 1 capa oculta con 20 nodos y 1 capa de salida que tiene 1 nodo. No estoy seguro de cómo …

20 machine-learning  neural-networks  bias  tensorflow  theano 

Los algoritmos genéticos son una forma de método de optimización. A menudo, el descenso de gradiente estocástico y sus derivados son la mejor opción para la optimización de la función, pero a veces todavía se utilizan algoritmos genéticos. Por ejemplo, la antena de la nave espacial ST5 de la NASA …

20 machine-learning  optimization  gradient-descent  genetic-algorithms 

Recientemente me interesé en los LSTM y me sorprendió saber que los pesos se comparten a lo largo del tiempo. Sé que si comparte los pesos a lo largo del tiempo, sus secuencias de tiempo de entrada pueden ser de longitud variable. Con los pesos compartidos tiene muchos menos parámetros …

20 machine-learning  lstm  rnn 

Sea un espacio de probabilidad, dada una variable aleatoria y a -algebra podemos construir una nueva variable aleatoria , que es la expectativa condicional.(Ω,F,μ)(Ω,F,μ)(\Omega,\mathscr{F},\mu)ξ:Ω→Rξ:Ω→R\xi:\Omega \to \mathbb{R}σσ\sigmaG⊆FG⊆F\mathscr{G}\subseteq \mathscr{F}E[ξ|G]E[ξ|G]E[\xi|\mathscr{G}] ¿Cuál es exactamente la intuición para pensar en ? Entiendo la intuición de lo siguiente:E[ξ|G]E[ξ|G]E[\xi|\mathscr{G}] (i) donde es un evento (con probabilidad positiva).E[ξ|A]E[ξ|A]E[\xi|A]AAA …

20 probability  conditional-probability  conditional-expectation  conditioning  sigma-algebra 

Soy nuevo en optimización. Sigo viendo ecuaciones que tienen un superíndice 2 y un subíndice 2 en el lado derecho de una norma. Por ejemplo, aquí está la ecuación de mínimos cuadrados min ||Ax−b||22||Ax−b||22 ||Ax-b||^2_2 Creo que entiendo el superíndice 2: significa cuadrar el valor de la norma. Pero, ¿cuál …

20 regression  optimization  notation 

Si bien estos dos términos ubicuos a menudo se usan como sinónimos, a veces parece haber una distinción. ¿Existe alguna diferencia o son exactamente sinónimos?

20 residuals  error  terminology 

Estoy confundido acerca de cómo dividir los datos para la validación cruzada k-fold del aprendizaje en conjunto. Suponiendo que tengo un marco de aprendizaje conjunto para la clasificación. Mi primera capa contiene los modelos de clasificación, por ejemplo, svm, árboles de decisión. Mi segunda capa contiene un modelo de votación, …

20 classification  cross-validation  ensemble 

Estoy luchando por comprender la derivación del error de predicción esperado a continuación (ESL), especialmente en la derivación de 2.11 y 2.12 (condicionamiento, el paso hacia el mínimo puntual). Cualquier puntero o enlace muy apreciado. A continuación estoy informando el extracto de ESL pág. 18. Las dos primeras ecuaciones son, …

20 regression  prediction  error 

La "supervisión distante" es un esquema de aprendizaje en el que se aprende un clasificador dado un conjunto de entrenamiento débilmente etiquetado (los datos de entrenamiento se etiquetan automáticamente según la heurística / reglas). Creo que tanto el aprendizaje supervisado como el aprendizaje semi-supervisado pueden incluir tal "supervisión distante" si …

20 machine-learning  data-mining  dataset  references  unsupervised-learning 

Estoy leyendo sobre dos técnicas populares de interpretación de modelos post hoc: LIME y SHAP Tengo problemas para comprender la diferencia clave en estas dos técnicas. Para citar a Scott Lundberg , el cerebro detrás de SHAP: Los valores SHAP vienen con las ventajas de estimación local de caja negra …

20 model-interpretation  shapley-value  lime 

Estoy trabajando en la clasificación de la etapa del sueño. Leí algunos artículos de investigación sobre este tema, muchos de ellos usaron SVM o método de conjunto. ¿Es una buena idea usar una red neuronal convolucional para clasificar la señal EEG unidimensional? Soy nuevo en este tipo de trabajo. Disculpe …

20 neural-networks  svm  conv-neural-network  signal-processing 

Existen diferentes tipos de algoritmos MCMC: Metrópolis-Hastings Gibbs Muestra de importancia / rechazo (relacionado). ¿Por qué se usaría el muestreo de Gibbs en lugar de Metropolis-Hastings? Sospecho que hay casos en los que la inferencia es más manejable con el muestreo de Gibbs que con Metropolis-Hastings, pero no tengo claros …

20 bayesian  simulation  mcmc  gibbs  metropolis-hastings 

Me ha costado mucho tratar de comprender el uso de la regresión logística en un artículo. El documento disponible aquí utiliza la regresión logística para predecir la probabilidad de complicaciones durante la cirugía de cataratas. Lo que me confunde es que el documento presenta un modelo que asigna una razón …

20 logistic  odds-ratio