Estadísticas y Big Data

Esta es la función de pérdida de desviación binomial de GradientBoosting de scikit, def __call__(self, y, pred, sample_weight=None): """Compute the deviance (= 2 * negative log-likelihood). """ # logaddexp(0, v) == log(1.0 + exp(v)) pred = pred.ravel() if sample_weight is None: return -2.0 * np.mean((y * pred) - np.logaddexp(0.0, pred)) …

11 machine-learning  scikit-learn  boosting  loss-functions 

Mientras hacía EDA decidí usar un diagrama de caja para ilustrar la diferencia entre dos niveles de un factor. La forma en que ggplot representó el diagrama de caja fue satisfactoria, pero ligeramente simplista (primer diagrama a continuación). Mientras investigaba las características de los diagramas de caja, comencé a experimentar …

11 data-visualization  ggplot2  eda 

Me gustaría entrenar un SVM para clasificar casos (VERDADERO / FALSO) basado en 20 atributos. Sé que algunos de esos atributos están altamente correlacionados. Por lo tanto, mi pregunta es: ¿SVM es sensible a la correlación o redundancia entre las características? Alguna referencia?

11 svm  multicollinearity  kernel-trick 

Las cadenas de Markov tienen sentido para mí, puedo usarlas para modelar cambios probabilísticos de estado en problemas de la vida real. Luego viene el HMM. Se dice que los HMM son más adecuados para modelar muchos problemas que los MC. Sin embargo, los problemas que mencionan las personas son …

11 hidden-markov-model 

Tracé el siguiente código con la función stl (Descomposición estacional de series de tiempo de Loess): plot(stl(ts(rnorm(144), frequency=12), s.window="periodic")) Muestra una variación estacional significativa con datos aleatorios colocados en el código anterior (función rnorm). Se observa una variación significativa cada vez que se ejecuta, aunque el patrón es diferente. A …

11 time-series  seasonality  loess 

Al implementar un codificador automático con red neuronal, la mayoría de las personas usará sigmoide como la función de activación. ¿Podemos usar ReLU en su lugar? (Dado que ReLU no tiene límite en el límite superior, básicamente significa que la imagen de entrada puede tener píxeles mayores que 1, a …

11 machine-learning  neural-networks  deep-learning  autoencoders 

Si β∗=argminβ∥y−Xβ∥22+λ∥β∥1β∗=argminβ‖y−Xβ‖22+λ‖β‖1\beta^*=\mathrm{arg\,min}_{\beta} \|y-X\beta\|^2_2+\lambda\|\beta\|_1 , puede ∥β∗∥2‖β∗‖2\|\beta^*\|_2 aumentar cuando λλ\lambda aumenta? Creo que esto es posible. Aunque ∥β∗∥1‖β∗‖1\|\beta^*\|_1 no aumenta cuando λλ\lambda aumenta (mi prueba ), ∥β∗∥2‖β∗‖2\|\beta^*\|_2 puede aumentar. La siguiente figura muestra una posibilidad. Cuando λλ\lambda aumenta, si β∗β∗\beta^* viaja (linealmente) de PPP a QQQ , entonces ∥β∗∥2‖β∗‖2\|\beta^*\|_2 aumenta mientras …

11 lasso 

Tengo un marco de datos que contiene valores en 4 columnas: Por ejemplo: ID, price, click count,rating Lo que me gustaría hacer es "dividir" este marco de datos en N grupos diferentes donde cada grupo tendrá el mismo número de filas con la misma distribución de precios, recuento de clics …

11 r  distributions 

¿Cómo se puede evaluar la expectativa de la CDF normal al cuadrado en forma cerrada? E [ Φ ( a Z+ b )2] = ∫∞- ∞Φ ( a z+ b )2ϕ ( z)rezE[Φ(aZ+b)2]=∫−∞∞Φ(az+b)2ϕ(z)dz\mathbb{E}\left[\Phi\left(aZ+b\right)^{2}\right] = \int_{-\infty}^{\infty}\Phi\left(az+b\right)^{2}\phi(z)\,dz Aquí, , son números reales, y y son las funciones de densidad y distribución de …

11 mathematical-statistics 

Tengo problemas para entender esta oración: La primera arquitectura propuesta es similar a la NNLM de avance, donde se elimina la capa oculta no lineal y la capa de proyección se comparte para todas las palabras (no solo la matriz de proyección); así, todas las palabras se proyectan en la …

11 machine-learning  neural-networks  natural-language  word-embeddings  language-models 

Estoy trabajando en un problema de clasificación binaria en el que es mucho más importante no tener falsos positivos; bastantes falsos negativos está bien. Por ejemplo, he usado un montón de clasificadores en sklearn, pero creo que ninguno de ellos tiene la capacidad de ajustar explícitamente la compensación de recuperación …

11 classification  precision-recall 

Encontré el término proximidad en bosques al azar. Pero no podía entender lo que hace en bosques al azar. ¿Cómo ayuda para fines de clasificación?

11 machine-learning  random-forest 

Mientras trabajamos con series temporales, a veces detectamos y eliminamos la estacionalidad mediante análisis espectral. Soy un verdadero principiante en series de tiempo, y estoy confundido por qué uno querría eliminar la estacionalidad de la serie de tiempo original. ¿La eliminación de la estacionalidad no distorsiona los datos originales? ¿Qué …

11 time-series  seasonality 

En mi trabajo, he visto varios usos de la prueba exacta de Fisher, y me preguntaba qué tan bien se ajustan a mis datos. Mirando varias fuentes, entendí cómo calcular la estadística, pero nunca vi una explicación clara y formal de la hipótesis nula supuesta. ¿Puede alguien explicarme o referirme …

11 hypothesis-testing  chi-squared  multinomial  contingency-tables  fishers-exact 

Entonces sé que si queremos encontrar la distribución de probabilidad de una suma de variables aleatorias independientes X+YX+YX + Y , podemos calcularla a partir de las distribuciones de probabilidad de XXX e YYY , diciendo fX+Y(a)=∫∞x=−∞fX,Y(X=x,Y=a−x) dx=∫∞x=−∞fX(x)fY(a−x) dxfX+Y(a)=∫x=−∞∞fX,Y(X=x,Y=a−x) dx=∫x=−∞∞fX(x)fY(a−x) dxf_{X + Y}(a) = \int_{x = -\infty}^{\infty} f_{X, Y}(X = …

11 probability