Estadísticas y Big Data

Tengo curiosidad por qué hay por lo general sólo y normas de regularización. ¿Hay pruebas de por qué son mejores?L 2L1L1L_1L2L2L_2

36 lasso  regularization  ridge-regression 

Estoy tratando de entender la historia del descenso de gradiente y el descenso de gradiente estocástico . El descenso del gradiente fue inventado en Cauchy en 1847. Méthode générale pour la résolution des systèmes d'équations simultanées . pp. 536–538 Para obtener más información al respecto, consulte aquí . Desde entonces, …

36 references  gradient-descent  history  sgd 

He estado tratando de aprender métodos MCMC y me he encontrado con el muestreo de Metropolis Hastings, Gibbs, Importancia y Rechazo. Si bien algunas de estas diferencias son obvias, es decir, cómo Gibbs es un caso especial de Metropolis Hastings cuando tenemos los condicionales completos, las otras son menos obvias, …

36 mcmc  monte-carlo  gibbs  metropolis-hastings  importance-sampling 

Esta es probablemente una pregunta amateur, pero estoy interesado en cómo surgieron los científicos la forma de la función de densidad de probabilidad de distribución normal. Básicamente, lo que me molesta es que para alguien quizás sea más intuitivo que la función de probabilidad de los datos distribuidos normalmente tiene …

36 normal-distribution  history 

Cuando se utiliza la validación cruzada para hacer la selección del modelo (como, por ejemplo, el ajuste de hiperparámetros) y para evaluar el rendimiento del mejor modelo, se debe usar la validación cruzada anidada . El ciclo externo es evaluar el rendimiento del modelo, y el ciclo interno es seleccionar …

36 cross-validation  model-selection  ridge-regression 

El denominador del estimador de varianza (imparcial) es ya que hay observaciones y solo se está estimando un parámetro.n−1n−1n-1nnn V(X)=∑ni=1(Xi−X¯¯¯¯)2n−1V(X)=∑i=1n(Xi−X¯)2n−1 \mathbb{V}\left(X\right)=\frac{\sum_{i=1}^{n}\left(X_{i}-\overline{X}\right)^{2}}{n-1} Por la misma razón, me pregunto por qué el denominador de covarianza no debería ser cuando se estiman dos parámetros.n−2n−2n-2 Cov(X,Y)=∑ni=1(Xi−X¯¯¯¯)(Yi−Y¯¯¯¯)n−1Cov(X,Y)=∑i=1n(Xi−X¯)(Yi−Y¯)n−1 \mathbb{Cov}\left(X, Y\right)=\frac{\sum_{i=1}^{n}\left(X_{i}-\overline{X}\right)\left(Y_{i}-\overline{Y}\right)}{n-1}

36 self-study  variance  covariance  descriptive-statistics  unbiased-estimator 

Estoy aprendiendo el análisis de supervivencia de esta publicación en UCLA IDRE y me tropecé en la sección 1.2.1. El tutorial dice: ... si se supiera que los tiempos de supervivencia están distribuidos exponencialmente , entonces la probabilidad de observar un tiempo de supervivencia ... ¿Por qué se supone que …

36 distributions  survival  assumptions  exponential 

Este artículo " The Odds, Continually Updates" del NY Times me llamó la atención. Para ser breve, afirma que [Las estadísticas bayesianas] están demostrando ser especialmente útiles para abordar problemas complejos, incluidas búsquedas como la que la Guardia Costera usó en 2013 para encontrar al pescador desaparecido, John Aldridge (aunque …

36 hypothesis-testing  statistical-significance  bayesian  p-value  reproducible-research 

Estoy tratando de averiguar qué método de validación cruzada es mejor para mi situación. Los siguientes datos son solo un ejemplo para resolver el problema (en R), pero mis Xdatos reales ( xmat) están correlacionados entre sí y en diferentes grados con la yvariable ( ymat). Proporcioné el código R, …

36 r  regression  cross-validation  linear-model 

Estoy tratando de entender la diferencia estadística entre el análisis discriminante lineal y la regresión logística . Tengo entendido que, para un problema de clasificación de dos clases , LDA predice dos funciones de densidad normal (una para cada clase) que crean un límite lineal donde se cruzan, mientras que …

36 regression  logistic  classification  discriminant-analysis 

Estoy tratando de crear un ajuste polinómico de segundo orden para algunos datos que tengo. Digamos que trazo esto en forma con ggplot(): ggplot(data, aes(foo, bar)) + geom_point() + geom_smooth(method="lm", formula=y~poly(x, 2)) Yo obtengo: Por lo tanto, un ajuste de segundo orden funciona bastante bien. Lo calculo con R: summary(lm(data$bar …

36 r  regression  interpretation  regression-coefficients 

EffectsEl paquete proporciona una manera muy rápida y conveniente de graficar los resultados del modelo de efectos mixtos lineales obtenidos a través delme4 paquete . La effectfunción calcula los intervalos de confianza (IC) muy rápidamente, pero ¿qué tan confiables son estos intervalos de confianza? Por ejemplo: library(lme4) library(effects) library(ggplot) data(Pastes) …

36 r  mixed-model  confidence-interval  effects  lme4-nlme 

Benjamini y Hochberg desarrollaron el primer método (y aún más utilizado, creo) para controlar la tasa de descubrimiento falso (FDR). Quiero comenzar con un montón de valores de P, cada uno para una comparación diferente, y decidir cuáles son lo suficientemente bajos como para ser llamados un "descubrimiento", controlando el …

36 multiple-comparisons  non-independent  false-discovery-rate 

En este artículo actual en CIENCIA se propone lo siguiente: Suponga que divide al azar 500 millones en ingresos entre 10,000 personas. Solo hay una forma de darles a todos una participación igual de 50,000. Entonces, si está repartiendo ganancias al azar, la igualdad es extremadamente improbable. Pero hay innumerables …

36 distributions  mathematical-statistics  exponential 

Tengo datos de 3 grupos de biomasa de algas ( UNAUNAA , sisiB , dodoC ) que contienen tamaños de muestra desiguales ( norteUNA= 15norteUNA=15n_A=15 , nortesi= 13nortesi=13n_B=13 , nortedo= 12nortedo=12n_C=12 ) y me gustaría comparar si estos grupos son de la misma población . Fmax= 19,1Fmax=19,1F_{\max} = 19.1Fc r …

36 r  anova  data-transformation  heteroscedasticity