Estadísticas y Big Data

Yo hace poco hice una pregunta en busca de una interpretación matemática / intuición detrás de la ecuación primaria relacionada muestra de varianza media y: , geométrico o de otra manera.E[X2]=Var(X)+(E[X])2E[X2]=Var(X)+(E[X])2 E[X^2] = Var(X) +(E[X])^2 Pero ahora tengo curiosidad por la ecuación de compensación de sesgo-varianza superficialmente similar. MSE(θ^)=E[(θ^−θ)2]==E[(θ^−E[θ^])2]+(E[θ^]−θ)2Var(θ^)+Bias(θ^,θ)2MSE(θ^)=E[(θ^−θ)2]=E[(θ^−E[θ^])2]+(E[θ^]−θ)2=Var(θ^)+Bias(θ^,θ)2 \begin{eqnarray} …

12 variance  bias 

Aquí hay un pequeño ejemplo: MyDf<-data.frame(x=c(1,2,3,4), y=c(1.2, .7, -.5, -3)) Ahora con el base::lm: > lm(y~x, data=MyDf) %>% summary Call: lm(formula = y ~ x, data = MyDf) Residuals: 1 2 3 4 -0.47 0.41 0.59 -0.53 Coefficients: Estimate Std. Error t value Pr(>|t|) (Intercept) 3.0500 0.8738 3.491 0.0732 . …

12 r  regression  p-value  linear-model 

Quiero saber la diferencia entre la regresión lineal en un análisis de aprendizaje automático y la regresión lineal en un entorno de "aprendizaje profundo". Qué algoritmos se utilizan para la regresión lineal en el entorno de aprendizaje profundo.

12 regression  machine-learning  deep-learning 

Los términos "muestreo ascendente" y "convolución de transposición" se usan cuando se está haciendo "deconvolución" (<- no es un buen término, pero déjenme usarlo aquí). Originalmente, pensé que significaban lo mismo, pero me parece que son diferentes después de leer estos artículos. alguien puede por favor aclarar? Transvolución de convolución …

12 machine-learning  neural-networks  conv-neural-network  transposed-convolution 

Tengo un conjunto de datos compuesto de proporciones que miden el "nivel de actividad" de renacuajos individuales, por lo tanto, los valores se unen entre 0 y 1. Estos datos se recopilaron contando el número de veces que el individuo se movió dentro de un cierto intervalo de tiempo (1 …

12 r  mixed-model  random-effects-model  beta-distribution  beta-regression 

Estaba leyendo el artículo Aprendizaje residual profundo para el reconocimiento de imágenes y tuve dificultades para comprender con 100% de certeza lo que implica un bloqueo residual computacionalmente. Leyendo su periódico tienen la figura 2: que ilustra lo que se supone que es un Bloque residual. ¿El cálculo de un …

12 machine-learning  neural-networks  deep-learning  conv-neural-network  residual-networks 

Entiendo la relación entre el análisis de componentes principales y la descomposición del valor singular en un nivel algebraico / exacto. Mi pregunta es sobre la implementación de scikit-learn . La documentación dice: " [TruncatedSVD] es muy similar a PCA, pero opera en vectores de muestra directamente, en lugar de …

12 pca  scikit-learn  svd  scipy 

En esta publicación , puedes leer la declaración: Los modelos generalmente están representados por puntos θθ\theta en una variedad dimensional finita. Sobre Geometría diferencial y estadística de Michael K Murray y John W Rice, estos conceptos se explican en prosa legible incluso ignorando las expresiones matemáticas. Lamentablemente, hay muy pocas …

12 distributions  manifold-learning  information-geometry  topologies 

El libro bayesiano de Kruschke dice, con respecto al uso de una distribución beta para lanzar una moneda, Por ejemplo, si no tenemos ningún conocimiento previo que no sea el conocimiento de que la moneda tiene un lado de la cara y un lado de la cola, eso equivale a …

12 probability  bayesian  beta-distribution 

Estoy realizando una tarea de clasificación binaria donde la probabilidad de resultado es bastante baja (alrededor del 3%). Estoy tratando de decidir si optimizar por AUC o pérdida de registro. Por lo que he entendido, AUC maximiza la capacidad del modelo para discriminar entre clases mientras que el logloss penaliza …

12 classification  binary-data  auc  log-loss 

En el aprendizaje automático (para problemas de regresión), a menudo veo que se usa el error cuadrático medio (MSE) o el error absoluto medio (MAE) como la función de error para minimizar (más el término de regularización). Me pregunto si hay situaciones en las que sería más apropiado usar el …

12 regression  machine-learning  svm  optimization  deep-learning 

Actualmente estoy trabajando en la construcción de un modelo predictivo para un resultado binario en un conjunto de datos con ~ 300 variables y 800 observaciones. He leído mucho en este sitio sobre los problemas asociados con la regresión gradual y por qué no usarlo. He estado leyendo sobre la …

12 multiple-regression  predictive-models  interpretation  regression-coefficients  lasso 

Comencé a aprender sobre redes neuronales con el tutorial de redes neuronales y aprendizaje de punto com. En particular, en el tercer capítulo hay una sección sobre la función de entropía cruzada, y define la pérdida de entropía cruzada como: C=−1n∑x∑j(yjlnaLj+(1−yj)ln(1−aLj))C=−1n∑x∑j(yjln⁡ajL+(1−yj)ln⁡(1−ajL))C = -\frac{1}{n} \sum\limits_x \sum\limits_j (y_j \ln a^L_j + (1-y_j) …

12 neural-networks  loss-functions  softmax  cross-entropy 

Quiero usar bootstrapping para estimar los intervalos de confianza para los parámetros estimados de un conjunto de datos de panel con N = 250 empresas y T = 50 meses. La estimación de parámetros es computacionalmente costosa (pocos días de cómputo) debido al uso del filtrado de Kalman y la …

12 confidence-interval  bootstrap  nonlinear-regression  kalman-filter 

Supongamos que tengo covarianza matrices y Y . ¿Cuáles de estas opciones son también matrices de covarianza?XXXYYY X+ YX+YX+Y X2X2X^2 XYXYXY Tengo algunos problemas para comprender qué se necesita exactamente para que algo sea una matriz de covarianza. Supongo que significa que, por ejemplo, si e Y = cov ( …

12 covariance  covariance-matrix