Estadísticas y Big Data

Estoy tratando de agrupar diferentes conjuntos de datos usando algoritmos no supervisados ​​(agrupamiento). El problema es que tengo muchas funciones (~ 500) y una pequeña cantidad de casos (200-300). Hasta ahora solía hacer solo problemas de clasificación para los cuales siempre había etiquetado los datos como conjuntos de entrenamiento. Allí …

9 r  clustering  feature-selection  unsupervised-learning 

¿Qué piensa sobre el uso de la regresión para proyectar fuera del rango de datos? Si estamos seguros de que sigue una forma de modelo lineal o de potencia, ¿no podría ser útil el modelo más allá del rango de datos? Por ejemplo, tengo un volumen impulsado por el precio. …

9 regression  dataset  linear-model 

Cuando utilizo k-fold CV para seleccionar entre los modelos de regresión, generalmente calculo el error CV por separado para cada modelo, junto con su error estándar SE, y selecciono el modelo más simple dentro de 1 SE del modelo con el error CV más bajo (el 1 regla de error …

9 regression  cross-validation  model-selection 

Las redes de autoencoder parecen ser mucho más difíciles que las redes MLP clasificadoras normales. Después de varios intentos de usar Lasagne, todo lo que obtengo en la salida reconstruida es algo que se asemeja en su mejor momento a un promedio borroso de todas las imágenes de la base …

9 machine-learning  neural-networks  dimensionality-reduction  unsupervised-learning  autoencoders 

Considere un modelo de regresión lineal: yi=xi⋅β+εi,i=1,…,n,yi=xi⋅β+εi,i=1,…,n, y_i = \mathbf x_i \cdot \boldsymbol \beta + \varepsilon _i, \, i=1,\ldots ,n, donde εi∼L(0,b)εi∼L(0,b)\varepsilon _i \sim \mathcal L(0, b) , es decir , La distribución de Laplace con media 000 y parámetro de escala bbb , son todos independientes entre sí. Considere …

9 regression  laplace-distribution 

Estoy tratando de convertir mi columna de factor a variables ficticias: str(cards$pointsBin) # Factor w/ 5 levels ".lte100",".lte150",..: 3 2 3 1 4 4 2 2 4 4 ... labels <- model.matrix(~ pointsBin, data=cards) head(labels) # (Intercept) pointsBin.lte150 pointsBin.lte200 pointsBin.lte250 pointsBin.lte300 # 741 1 0 0 0 0 # 407 …

9 r  categorical-data  categorical-encoding 

¿Es posible tener un conjunto de variables que no estén correlacionadas pero sean linealmente dependientes?KKK es decir, y∑ K i = 1 a i x i = 0cor(xi,xj)=0cor(xi,xj)=0cor(x_i, x_j)=0∑Ki=1aixi=0∑i=1Kaixi=0 \sum_{i=1}^K a_ix_i=0 En caso afirmativo, ¿puedes escribir un ejemplo? EDITAR: De las respuestas se deduce que no es posible. ¿Sería al …

9 correlation  mathematical-statistics  multicollinearity 

En este artículo , ( Inferencia bayesiana para componentes de varianza usando solo contrastes de error , Harville, 1974), el autor afirma es un "bien conocido relación ", para una regresión lineal donde (y−Xβ)′H−1(y−Xβ)=(y−Xβ^)′H−1(y−Xβ^)+(β−β^)′(X′H−1X)(β−β^)(y−Xβ)′H−1(y−Xβ)=(y−Xβ^)′H−1(y−Xβ^)+(β−β^)′(X′H−1X)(β−β^)(y-X\beta)'H^{-1}(y-X\beta)=(y-X\hat\beta)'H^{-1}(y-X\hat\beta)+(\beta-\hat\beta)'(X'H^{-1}X)(\beta-\hat\beta)y=Xβ+ϵ,y=Xβ+ϵ,y=X\beta+\epsilon,ϵ∼N(0,H).ϵ∼N(0,H).\epsilon\sim\mathcal{N}(0, H). ¿Cómo se sabe esto? ¿Cuál es la forma más simple de probar esto?

9 regression  regression-coefficients  heteroscedasticity  bias  linear-algebra 

Esta pregunta se refiere a la probabilidad de éxito en un juego de rol. Sin embargo, la pregunta y sus respuestas no cubren algunas de las complejidades de la mecánica de los dados. En particular, no cubre los fallos (un posible resultado) en absoluto. Un jugador tiene un grupo de …

9 dice 

Leí en un libro de aprendizaje automático que los parámetros de regresión lineal se pueden estimar (entre otros métodos) por descenso de gradiente, mientras que los parámetros de regresión logística generalmente se estiman por estimación de máxima verosimilitud. ¿Es posible explicarle a un novato (yo) por qué necesitamos diferentes métodos …

9 regression  logistic  maximum-likelihood 

Estoy tratando de reducir la dimensionalidad y el ruido de un conjunto de datos al realizar PCA en el conjunto de datos y descartar las últimas PC. Después de eso, quiero usar algunos algoritmos de aprendizaje automático en las PC restantes y, por lo tanto, quiero normalizar los datos igualando …

9 variance  pca  factor-rotation 

Considere una distribución diferenciable y simétrica dos veces . Ahora considere una segunda distribución dos veces diferenciable F Z derecha sesgada en el sentido de que:FXFX\mathcal{F}_XFZFZ\mathcal{F}_Z ( 1 )FX⪯CFZ.(1)FX⪯cFZ.(1)\quad\mathcal{F}_X\preceq_c\mathcal{F}_Z. donde es el orden convexo de van Zwet [0] para que ( 1 ) sea ​​equivalente a:⪯C⪯c\preceq_c( 1 )(1)(1) (2)F−1ZFX(x) is …

9 distributions  skewness 

Un factor Bayes se define en las pruebas bayesianas de hipótesis y en la selección del modelo bayesiano por la razón de dos probabilidades marginales: dada una muestra iid y las respectivas densidades de muestreo y , con los precedentes correspondientes y \ pi_2 , el factor de Bayes para …

9 bayes  marginal  sequential-analysis  bayes-factors 

Tengo un conjunto de datos de más de 1000 muestras de 19 variables. Mi objetivo es predecir una variable binaria basada en las otras 18 variables (binarias y continuas). Estoy bastante seguro de que 6 de las variables de predicción están asociadas con la respuesta binaria, sin embargo, me gustaría …

9 pca 

He estado tratando de establecer la desigualdad |Ti|=∣∣Xi−X¯∣∣S≤n−1n−−√|Ti|=|Xi−X¯|S≤n−1n\left| T_i \right|=\frac{\left|X_i -\bar{X} \right|}{S} \leq\frac{n-1}{\sqrt{n}} donde es la media muestral y la desviación estándar muestral, es decir .X¯X¯\bar{X}SSSS=∑ni=1(Xi−X¯)2n−1−−−−−−−−−√S=∑i=1n(Xi−X¯)2n−1S=\sqrt{\frac{\sum_{i=1}^n \left( X_i -\bar{X} \right)^2}{n-1}} Es fácil ver que y así pero esto no está muy cerca de lo que estaba buscando, ni es un …

9 self-study  descriptive-statistics  bounds