Estadísticas y Big Data

Supongamos que tengo una muestra aleatoria .{Xnorte,ynorte}norten = 1{xn,yn}n=1N\lbrace x_n ,y_n \rbrace_{n=1}^N Supongamos queynorte=β0 0+β1Xnorte+εnorteyn=β0+β1xn+εny_n = \beta_0 + \beta_1 x_n + \varepsilon_n yy^norte=β^0 0+β^1Xnortey^n=β^0+β^1xn\hat{y}_n = \hat{\beta}_0 +\hat{\beta}_1 x_n ¿Cuál es la diferencia entre y ?β1β1\beta_1β^1β^1\hat{\beta}_1

9 regression 

En su artículo seminal 'Regresión de ángulo mínimo' , Efron et al describen una modificación simple del algoritmo LARS que permite calcular las rutas completas de regularización de LASSO. He implementado esta variante con éxito y, por lo general, trazo la ruta de salida en comparación con el número de …

9 regression  lasso  regularization  lars 

Casi todos los libros de texto que discuten la aproximación normal a la distribución binomial mencionan la regla general de que la aproximación se puede usar si np≥5np≥5np\geq5 y n(1−p)≥5n(1−p)≥5n(1-p)\geq 5. Algunos libros sugierennp(1−p)≥5np(1−p)≥5np(1-p)\geq 5en lugar. La misma constante555 a menudo aparece en discusiones sobre cuándo fusionar celdas en el …

9 normal-distribution  binomial  approximation 

Cuando se aplica el abandono en redes neuronales artificiales, uno debe compensar el hecho de que en el momento del entrenamiento una parte de las neuronas se desactivaron. Para hacerlo, existen dos estrategias comunes: escalar la activación en el momento de la prueba invertir el abandono durante la fase de …

9 neural-networks  deep-learning  dropout 

Hay varias preguntas que hablan de los méritos relativos de varios métodos para evaluar la importancia de los predictores de regresión, por ejemplo, este . Noté que en este comentario @gung se refiere a la práctica como una "idea equivocada", vinculando a esta respuesta en apoyo de esta afirmación. El …

9 regression  standardization 

Estoy usando la función randomForesten el randomForestpaquete de R para hacer una regresión. Sin embargo, cuando intento incluir un término de interacción en los siguientes códigos: library(MASS) library(randomForest) Boston_f <- within(Boston, factor(rad)) mdl <- randomForest(lstat ~ rad * . , data = Boston_f) El resultado mdl$termincluye interacción, pero si me …

9 r  interaction  random-forest 

AIC se recomienda con frecuencia como criterio para comparar modelos para pronósticos de series de tiempo. Vea, por ejemplo, esto en el contexto de los modelos de regresión dinámica : El AIC se puede calcular para el modelo final, y este valor se puede usar para determinar los mejores predictores. …

9 time-series  cross-validation  model-selection  arima  aic 

Me sorprende que no pueda encontrar ningún artículo / conferencia sobre cómo uno puede incorporar Distribuciones de probabilidad de clase previa en clasificadores como Regresión logística o Bosque aleatorio. Entonces mi pregunta es: ¿Cómo se puede incorporar la distribución de probabilidad de clase previa en la regresión logística o los …

9 logistic  bayesian  random-forest  prior 

He visto que hay varias preguntas sobre la interpretación y la construcción de juegos, lo que parece ilustrar la dificultad para los no estadísticos para tratar con ellos. Desafortunadamente, de ninguno de los hilos o tutoriales que leí, pude obtener una comprensión clara de cómo construir un modelo significativo. Actualmente …

9 r  model-selection  gam 

Leí las dos páginas de wikipedia sobre análisis de sensibilidad y validación de modelos (aquí, solo validación de regresión lineal) pero no logro encontrar una manera de separar estos dos términos. Tengo la impresión de que el primero se usa más en la academia y la ingeniería en general y …

9 validation  sensitivity-analysis 

En la wiki, la función softmax se define como el gradiente-log-normalizador de la distribución de probabilidad categórica . Aquí se encuentra una explicación parcial del log-normalizador , pero ¿qué significa gradiente-log-normalizador ?

9 softmax 

Estoy trabajando extensamente con modelos de series de tiempo financieras, principalmente AR (I) MA y Kalman. Un problema que sigo enfrentando es la frecuencia de muestreo. Inicialmente, pensaba que si se me ofrecía la posibilidad de tomar muestras con mayor frecuencia de un proceso subyacente, debería tomar muestras con la …

9 time-series  sampling  arima 

Estoy usando la adonis()función en el veganpaquete para determinar 1) si las especies hospedantes concurrentes varían en su comunidad microbiana en múltiples sitios, y 2) si los sitios son diferentes. He examinado todas las publicaciones sobre CV y ​​SO, y no hay una respuesta clara sobre cómo determinar la importancia …

9 r  permutation-test  sums-of-squares  blocking 

Coeficiente de correlación de Matthews (MCCMCC\textrm{MCC}) es una medida para medir la calidad de una clasificación binaria ([Wikipedia] [1]). MCCMCC\textrm{MCC}La formulación se da para la clasificación binaria utilizando verdaderos positivos (TPTPTP), falsos positivos (FPFPFP), falsos negativos (FNFNFN) y verdaderos negativos (TNTNTN) valores como se indica a continuación: MCC=TP×TN−FP×FN(TP+FP)(TP+FN)(TN+FP)(TN+FN)−−−−−−−−−−−−−−−−−−−−−−−−−−−−−−−−−−−−−−√MCC=TP×TN−FP×FN(TP+FP)(TP+FN)(TN+FP)(TN+FN)\textrm {MCC} = …

9 machine-learning  classification  multi-class  agreement-statistics 

Mi colega y yo estamos tratando de entender la diferencia entre la regresión logística y un SVM. Claramente están optimizando diferentes funciones objetivas. ¿Es un SVM tan simple como decir que es un clasificador discriminatorio que simplemente optimiza la pérdida de la bisagra? ¿O es más complejo que eso? ¿Cómo …

9 regression  logistic  svm  max-margin