Estadísticas y Big Data

Estaba leyendo el informe de la solución ganadora de una competencia de Kaggle ( Clasificación de malware ). El informe se puede encontrar en esta publicación del foro . El problema era un problema de clasificación (nueve clases, la métrica era la pérdida logarítmica) con 10000 elementos en el conjunto …

21 machine-learning  random-forest  boosting  overfitting  semi-supervised 

Tengo problemas para comprender qué es un proceso Bayesian Bootstrapping y cómo eso diferiría de su rutina de arranque normal. Y si alguien pudiera ofrecer una revisión intuitiva / conceptual y una comparación de ambos, sería genial. Pongamos un ejemplo. Digamos que tenemos un conjunto de datos X que es …

21 bayesian  sampling  bootstrap 

Quiero modelar una regresión logística con datos desequilibrados (9: 1). Quería probar la opción de pesos en la glmfunción en R, pero no estoy 100% seguro de lo que hace. Digamos que mi variable de salida es c(0,0,0,0,0,0,0,0,0,1). ahora quiero darle al "1" 10 veces más peso. entonces doy el …

21 regression  logistic  classification  unbalanced-classes  weighted-data 

Preámbulo Esta es una publicación muy larga. Si está releyendo esto, tenga en cuenta que he revisado la parte de la pregunta, aunque el material de fondo sigue siendo el mismo. Además, creo que he ideado una solución al problema. Esa solución aparece en la parte inferior de la publicación. …

21 machine-learning  bayesian  sampling  roc  auc 

Supongamos que estoy tratando de estimar una gran cantidad de parámetros a partir de algunos datos de alta dimensión, utilizando algún tipo de estimaciones regularizadas. El regularizador introduce cierto sesgo en las estimaciones, pero aún puede ser una buena compensación porque la reducción en la variación debería compensarlo con creces. …

21 confidence-interval  bias  regularization  ridge-regression  coverage-probability 

Estoy tratando de diseñar por mí mismo cuando es apropiado usar qué tipo de regresión (geométrica, Poisson, binomial negativa) con datos de recuento, dentro del marco GLM (solo 3 de las 8 distribuciones GLM se usan para datos de recuento, aunque la mayoría de lo que He leído centros alrededor …

21 generalized-linear-model  negative-binomial  count-data  poisson-regression  zero-inflation 

En muchas aplicaciones de aprendizaje automático, los llamados métodos de aumento de datos han permitido construir mejores modelos. Por ejemplo, suponga un conjunto de entrenamiento de100100100 imágenes de gatos y perros. Al girar, reflejar, ajustar el contraste, etc., es posible generar imágenes adicionales a partir de las originales. En el …

21 machine-learning  predictive-models  dataset  independence  data-augmentation 

Gelman y Hill (2006) escriben en p46 que: El supuesto de regresión que generalmente es menos importante es que los errores se distribuyen normalmente. De hecho, con el propósito de estimar la línea de regresión (en comparación con la predicción de puntos de datos individuales), el supuesto de normalidad es …

21 regression  residuals  assumptions 

Recientemente, me encontré con varios documentos y recursos en línea que mencionan la causalidad de Granger . La breve búsqueda en el artículo de Wikipedia correspondiente me dejó con la impresión de que este término se refiere a la causalidad en el contexto de series de tiempo (o, más generalmente, …

21 stochastic-processes  causality  granger-causality 

¿Esta distribución discreta tiene un nombre? Parai∈1...Nyo∈1 ...nortei \in 1...N f(i)=1N∑Nj=i1jF(yo)=1norte∑j=yonorte1jf(i) = \frac{1}{N} \sum_{j = i}^N \frac{1}{j} Me encontré con esta distribución de lo siguiente: Tengo una lista de elementos clasificados por alguna función de utilidad. Quiero seleccionar aleatoriamente uno de los elementos, sesgando hacia el comienzo de la lista. …

21 probability  terminology  discrete-data  distributions 

¿Podría alguien aconsejarme sobre cómo interpretar las estimaciones de una regresión logística utilizando un enlace de cloglog? He instalado el siguiente modelo en lme4: glm(cbind(dead, live) ~ time + factor(temp) * biomass, data=mussel, family=binomial(link=cloglog)) Por ejemplo, la estimación del tiempo es 0.015. ¿Es correcto decir que las probabilidades de mortalidad …

21 logistic  regression-coefficients 

He leído el lema de Neyman-Pearson del libro Introducción a la teoría de la estadística de Mood, Graybill y Boes. Pero no he entendido el lema. ¿Alguien puede explicarme el lema en palabras sencillas? ¿Qué dice? Lema de Neyman-Pearson: Sea una muestra aleatoria de , donde es uno de los …

21 hypothesis-testing  self-study  references  inference  likelihood-ratio 

Deje que un palo de longitud 1 se rompa en fragmentos uniformemente al azar. ¿Cuál es la distribución de la longitud del fragmento más largo?k + 1k+1k+1 Más formalmente, sea ser IID , y sea las estadísticas de pedido asociadas, es decir , simplemente ordenamos la muestra de tal manera …

21 distributions  uniform  order-statistics  dirichlet-distribution  maximum 

Básicamente, mi pregunta es que en los perceptrones multicapa, los perceptrones se usan con una función de activación sigmoidea. Para que en la regla de actualización se calcule comoy^y^\hat{y} y^= 11 + exp( - wTXyo)y^=11+exp⁡(-wTXyo)\hat{y} = \frac{1}{1+\exp(-\mathbf{w}^T\mathbf{x}_i)} ¿En qué se diferencia este Perceptrón "sigmoide" de una regresión logística entonces? Diría …

21 logistic  classification  neural-networks  gradient-descent  perceptron 

Estoy usando la regresión cuantil para encontrar predictores del percentil 90 de mis datos. Estoy haciendo esto en R usando el quantregpaquete. ¿Cómo puedo determinar para la regresión cuantil que indicará cuánta variabilidad están explicando las variables predictoras?r2r2r^2 Lo que realmente quiero saber: "¿Algún método que pueda usar para encontrar …

21 r-squared  quantile-regression