Estadísticas y Big Data

Soy un ingeniero de software que trabaja en aprendizaje automático. Según tengo entendido, la regresión lineal (como OLS) y la clasificación lineal (como la regresión logística y SVM) hacen una predicción basada en un producto interno entre los coeficientes entrenados y las variables de característica :w⃗ w→\vec{w}x⃗ x→\vec{x} y^=f(w⃗ ⋅x⃗ …

15 regression  machine-learning  classification  feature-selection  linear-model 

Cuando implementé el mini lote de gradiente decente, solo promedié los gradientes de todos los ejemplos en el lote de capacitación. Sin embargo, me di cuenta de que ahora la tasa de aprendizaje óptima es mucho más alta que para el gradiente en línea decente. Mi intuición es que esto …

15 neural-networks  gradient-descent  backpropagation 

Según tengo entendido, la correlación de distancia es una forma robusta y universal de verificar si existe una relación entre dos variables numéricas. Por ejemplo, si tenemos un conjunto de pares de números: (x1, y1) (x2, y2) ... (xn, yn) Podemos usar la correlación de distancia para verificar si existe …

15 correlation  independence  intuition  distance-covariance 

Leí una y otra vez que la validación cruzada "Leave-one-out" tiene una gran variación debido a la gran superposición de los pliegues de entrenamiento. Sin embargo, no entiendo por qué es así: ¿no debería ser el rendimiento de la validación cruzada muy estable (baja variación) exactamente porque los conjuntos de …

15 variance  cross-validation  bias 

Una distribución Tweedie puede modelar datos asimétricos con una masa de punto en cero cuando el parámetro ppagp (exponente en la relación media-varianza) está entre 1 y 2. Del mismo modo, un modelo inflado a cero (ya sea continuo o discreto) puede tener una gran cantidad de ceros. Tengo problemas …

15 r  generalized-linear-model  prediction  zero-inflation  tweedie-distribution 

Estoy tratando de entender las cadenas de Markov usando SAS. Entiendo que un proceso de Markov es uno en el que el estado futuro depende solo del estado actual y no del estado pasado y hay una matriz de transición que captura la probabilidad de transición de un estado a …

15 probability  simulation  mcmc  monte-carlo  markov-process 

Actualmente estoy ajustando bosques aleatorios para un problema de clasificación usando el randomForestpaquete en R, y no estoy seguro de cómo informar un error de entrenamiento para estos modelos. Mi error de entrenamiento es cercano al 0% cuando lo calculo usando predicciones que obtengo con el comando: predict(model, data=X_train) ¿Dónde …

15 r  machine-learning  classification  random-forest  overfitting 

Estoy tratando de entender la intuición detrás de los SVM del kernel. Ahora, entiendo cómo funciona el SVM lineal, mediante el cual se toma una línea de decisión que divide los datos lo mejor que puede. También entiendo el principio detrás de la transferencia de datos a un espacio de …

15 machine-learning  svm  kernel-trick 

¿Hay alguna manera de determinar si una diferencia entre un recuento de accidentes de tráfico en el momento 1 es significativamente diferente de un recuento en el momento 2? He encontrado diferentes métodos para determinar la diferencia entre grupos de observaciones en diferentes momentos (por ejemplo, comparar medias de Poisson) …

15 statistical-significance  count-data 

Estoy dando una presentación sobre líneas de ajuste. Tengo una función lineal simple, y=1x+by=1x+by=1x+b . Estoy tratando de obtener puntos de datos dispersos que puedo poner en un diagrama de dispersión que mantendrá mi línea de mejor ajuste en la misma ecuación. Me encantaría aprender esta técnica en R o …

15 r  regression  least-squares  excel 

Tengo una pregunta específica sobre la validación en la investigación de aprendizaje automático. Como sabemos, el régimen de aprendizaje automático les pide a los investigadores que capaciten a sus modelos en los datos de capacitación, que elijan entre los modelos candidatos por conjunto de validación e informen la precisión del …

15 machine-learning  cross-validation  reproducible-research 

En la teoría de la probabilidad, una variable aleatoria no negativa XXX se llama retícula si existe d≥0d≥0d \geq 0 modo que ∑∞n=0P(X=nd)=1∑n=0∞P(X=nd)=1\sum_{n=0}^{\infty}P(X=nd) = 1 . ¿Existe una interpretación geométrica de por qué esta definición se llama red?

15 probability 

¿Existe realmente alguna diferencia entre la navaja y dejar una validación cruzada? El procedimiento parece idéntico ¿me estoy perdiendo algo?

15 cross-validation  jackknife 

Tengo un conjunto de datos con 11 variables y se realizó PCA (ortogonal) para reducir los datos. Decidir sobre el número de componentes para mantener fue evidente para mí, por mi conocimiento sobre el tema y el diagrama de pantalla (ver más abajo), que dos componentes principales (PC) fueron suficientes …

15 variance  pca 

He estado leyendo mucho sobre redes neuronales convolucionales y me preguntaba cómo evitan el problema del gradiente de fuga. Sé que las redes de creencias profundas apilan codificadores automáticos de un solo nivel u otras redes poco profundas previamente entrenadas y, por lo tanto, puedo evitar este problema, pero no …

15 machine-learning  optimization  deep-learning  gradient-descent