Estadísticas y Big Data

Del libro de texto Pronósticos: Principios y práctica de Rob J Hyndman y George Athanasopoulos , específicamente la sección sobre medición de precisión : Un método de pronóstico que minimiza el MAE conducirá a pronósticos de la mediana, mientras que minimizar el RMSE conducirá a pronósticos de la media ¿Alguien …

20 forecasting  mean  median  rms  mae 

¿Cuáles son las principales diferencias entre los datos dispersos y los datos faltantes? ¿Y cómo influye en el aprendizaje automático? Más específicamente, qué efecto tienen los datos dispersos y los datos faltantes en los algoritmos de clasificación y el tipo de algoritmos de regresión (números de predicción). Estoy hablando de …

20 machine-learning  dataset  missing-data  sparse 

Dediqué mucho tiempo al desarrollo de métodos y software para validar modelos predictivos en el dominio estadístico frecuentista tradicional. Al poner en práctica más ideas bayesianas y enseñar, veo algunas diferencias clave que aceptar. Primero, el modelo predictivo bayesiano le pide al analista que piense detenidamente sobre las distribuciones anteriores …

20 bayesian  cross-validation  predictive-models  validation  regression-strategies 

Recientemente he aprendido que una de las formas de encontrar mejores soluciones para los problemas de LA es mediante la creación de funciones. Se puede hacer eso, por ejemplo, sumando dos características. Por ejemplo, poseemos dos características: "ataque" y "defensa" de algún tipo de héroe. Luego creamos una característica adicional …

20 machine-learning  feature-construction 

He escuchado la noción de que Jaynes afirma que los frecuentistas operan con un "previo implícito". ¿Qué es o son estos antecedentes implícitos? ¿Significa esto que los modelos frecuentistas son todos casos especiales de modelos bayesianos que esperan ser encontrados?

20 bayesian  prior  posterior  frequentist 

Recientemente, descubrí que en la literatura de econometría aplicada, cuando se trata de problemas de selección de características, no es raro realizar LASSO seguido de una regresión de OLS utilizando las variables seleccionadas. Me preguntaba cómo podemos calificar la validez de tal procedimiento. ¿Causará problemas como variables omitidas? ¿Alguna prueba …

20 regression  feature-selection  econometrics  least-squares  lasso 

Esta es probablemente una cuestión trivial, pero mi búsqueda ha sido infructuosa hasta ahora, incluyendo este artículo de Wikipedia , y el "Compendio de Distribuciones" documento . Si tiene una distribución uniforme, ¿significa que sigue una distribución exponencial?XXXmiXeXe^X Del mismo modo, si sigue una distribución exponencial, ¿significa que sigue una …

20 distributions  data-transformation  exponential  uniform 

Tengo un modelo de red neuronal profunda y necesito entrenarlo en mi conjunto de datos que consta de aproximadamente 100,000 ejemplos, mis datos de validación contienen aproximadamente 1000 ejemplos. Debido a que lleva tiempo entrenar cada ejemplo (alrededor de 0.5s para cada ejemplo) y para evitar el sobreajuste, me gustaría …

20 neural-networks  deep-learning 

Estoy tratando de entender las diferentes arquitecturas de redes neuronales recurrentes (RNN) que se aplicarán a los datos de series temporales y me estoy confundiendo un poco con los diferentes nombres que se usan con frecuencia al describir los RNN. ¿Es la estructura de la memoria a corto plazo (LSTM) …

20 neural-networks  lstm  rnn 

Intuitivamente, la media es solo el promedio de las observaciones. La variación es cuánto varían estas observaciones de la media. Me gustaría saber por qué la inversa de la varianza se conoce como precisión. ¿Qué intuición podemos hacer de esto? ¿Y por qué la matriz de precisión es tan útil …

20 normal-distribution  multivariate-analysis  terminology  intuition 

En el entrenamiento de redes neuronales profundas y superficiales, ¿por qué los métodos de gradiente (p. Ej., Descenso de gradiente, Nesterov, Newton-Raphson) se usan comúnmente, en oposición a otras metaheurísticas? Por metaheurística me refiero a métodos como el recocido simulado, la optimización de colonias de hormigas, etc., que se desarrollaron …

20 neural-networks  optimization  deep-learning  gradient-descent  backpropagation 

En este artículo , el autor vincula el análisis discriminante lineal (LDA) con el análisis de componentes principales (PCA). Con mi conocimiento limitado, no puedo seguir cómo LDA puede ser algo similar a PCA. Siempre he pensado que LDA era una forma de algoritmo de clasificación, similar a la regresión …

20 classification  pca  dimensionality-reduction  discriminant-analysis  canonical-correlation 

Estoy leyendo el capítulo de equilibrio de sesgo-varianza de Los elementos del aprendizaje estadístico y tengo dudas en la fórmula de la página 29. Deje que los datos surjan de un modelo tal que donde es aleatorio número con valor esperado y varianza . Supongamos que el valor esperado de …

20 machine-learning  unbiased-estimator  mse  bias-variance-tradeoff 

He estado usando theano para experimentar con LSTM y me preguntaba qué métodos de optimización (SGD, Adagrad, Adadelta, RMSprop, Adam, etc.) funcionan mejor para LSTM. ¿Hay trabajos de investigación sobre este tema? Además, ¿la respuesta depende del tipo de aplicación para la que estoy usando el LSTM? Si es así, …

20 machine-learning  neural-networks  optimization  lstm 

En el contexto de la regresión OLS, entiendo que una gráfica residual (vs valores ajustados) se ve convencionalmente para probar la varianza constante y evaluar la especificación del modelo. ¿Por qué se trazan los residuos contra los ajustes, y no los valores ? ¿Cómo es la información diferente de estas …

20 regression  residuals