Estadísticas y Big Data

Suponga que tengo un tamaño de muestra pequeño, por ejemplo, N = 100 y dos clases. ¿Cómo debo elegir la capacitación, la validación cruzada y los tamaños de los conjuntos de prueba para el aprendizaje automático? Yo elegiría intuitivamente Tamaño del set de entrenamiento como 50 Conjunto de validación cruzada …

10 machine-learning  sampling  svm  cross-validation  sample-size 

He leído algo de literatura que los bosques aleatorios no pueden sobreajustar. Si bien esto suena genial, parece demasiado bueno para ser verdad. ¿Es posible que los rf se sobreajusten?

10 random-forest  overfitting 

El problema Quiero ajustar los parámetros del modelo de una población simple de mezcla 2-Gaussiana. Dada toda la exageración en torno a los métodos bayesianos, quiero entender si para este problema la inferencia bayesiana es una herramienta mejor que los métodos de ajuste tradicionales. Hasta ahora, MCMC funciona muy mal …

10 bayesian  gaussian-mixture  frequentist  pymc  method-comparison 

Toda la literatura de Modelado de Distribución de Especies sugiere que cuando se predice la presencia / ausencia de una especie utilizando un modelo que genera probabilidades (por ejemplo, RandomForests), la elección del umbral de probabilidad para clasificar una especie como presencia o ausencia es importante y uno debe No …

10 r  classification  random-forest  threshold 

Escribí una función simple en Python para calcular la media ponderada exponencialmente: def test(): x = [1,2,3,4,5] alpha = 0.98 s_old = x[0] for i in range(1, len(x)): s = alpha * x[i] + (1- alpha) * s_old s_old = s return s Sin embargo, ¿cómo puedo calcular la SD …

10 standard-deviation  python  exponential-smoothing 

Entonces, si la estadística de Chi cuadrado de Pearson se da para una tabla , entonces su forma es:1×N1×N1 \times N ∑i=1n(Oi−Ei)2Ei∑i=1n(Oi−Ei)2Ei\sum_{i=1}^n\frac{(O_i - E_i)^2}{E_i} Entonces, esto se aproxima a , la Distribución Chi-Cuadrada con grados de libertad, a medida que el tamaño de la muestra aumenta . χ2n−1χn−12\chi_{n-1}^2n−1n−1n-1NNN Lo que …

10 chi-squared  asymptotics 

Supongamos que tenemos una muestra aleatoria de una distribución normal bivariada que tiene ceros como medias y unos como varianzas, por lo que el único parámetro desconocido es la covarianza. ¿Cuál es el MLE de la covarianza? Sé que debería ser algo así como pero ¿cómo sabemos esto?1norte∑nortej = 1Xjyj1n∑j=1nxjyj\frac{1}{n} …

10 normal-distribution  mathematical-statistics  maximum-likelihood  bivariate 

El embolsado es el proceso de crear N alumnos en N muestras de bootstrap diferentes, y luego tomar la media de sus predicciones. Mi pregunta es: ¿por qué no usar ningún otro tipo de muestreo? ¿Por qué usar muestras de bootstrap?

10 bagging 

Entiendo que si tengo dos modelos A y B y A está anidado en B, entonces, dados algunos datos, puedo ajustar los parámetros de A y B usando MLE y aplicar la prueba de razón de probabilidad logarítmica generalizada. En particular, la distribución de la prueba debe ser con grados …

10 maximum-likelihood  model-selection  likelihood-ratio 

Tengo problemas para entender cómo varImpfunciona la función para un modelo randomForest con el caretpaquete. En el ejemplo a continuación, la característica var3 tiene cero importancia usando la varImpfunción de caret , pero el modelo final randomForest subyacente tiene una importancia distinta de cero para la característica var3. ¿Por qué …

10 r  caret  random-forest 

He estado leyendo mucho sobre Dynamic Time Warping (DTW) últimamente. Estoy muy sorprendido de que no haya literatura en absoluto sobre la aplicación de DTW a series temporales irregulares, o al menos no pude encontrarla. ¿Alguien podría darme una referencia a algo relacionado con ese problema, o tal vez incluso …

10 time-series  correlation  distance  unevenly-spaced-time-series 

Al realizar un análisis de intervención con datos de series de tiempo (también conocido como series de tiempo interrumpido) como se discute aquí, por ejemplo, un requisito que tengo es estimar la ganancia (o pérdida) total debido a la intervención, es decir, el número de unidades ganadas o perdidas (la …

10 regression  time-series  intervention-analysis  dynamic-regression 

He estado repensando una respuesta que le di a una pregunta hace un par de semanas La validación cruzada de retención produce un único conjunto de pruebas que se puede usar repetidamente para la demostración. Todos parecemos estar de acuerdo en que esto es en muchos aspectos una característica negativa, …

10 cross-validation 

Estoy trabajando con algunos datos del mundo real y los modelos de regresión están dando algunos resultados contraintuitivos. Normalmente confío en las estadísticas, pero en realidad algunas de estas cosas no pueden ser ciertas. El principal problema que estoy viendo es que un aumento en una variable está causando un …

10 r  regression  regression-coefficients  computational-statistics 

Entonces, por ejemplo, aquí están las definiciones que obtengo de los libros de texto estándar Variable: característica de la población o muestra. ex. Precio de una acción o calificación en una prueba Datos - valores observados reales Entonces, para un informe de dos columnas [Nombre | Ingresos] los nombres de …

10 dataset  ordinal-data  categorical-data  ratio