Estadísticas y Big Data

Estoy leyendo el libro: Obispo, reconocimiento de patrones y aprendizaje automático (2006) que define la familia exponencial como distribuciones de la forma (Ec. 2.194): p(x|η)=h(x)g(η)exp{ηTu(x)}p(x|η)=h(x)g(η)exp⁡{ηTu(x)}p(\mathbf x|\boldsymbol \eta) = h(\mathbf x) g(\boldsymbol \eta) \exp \{\boldsymbol \eta^\mathrm T \mathbf u(\mathbf x)\} Pero no veo restricciones impuestas a o . ¿No significa esto …

18 mathematical-statistics  exponential-family 

Definimos una época como haber pasado por la totalidad de todas las muestras de entrenamiento disponibles, y el tamaño del mini lote como el número de muestras sobre el que promediamos para encontrar las actualizaciones de pesos / sesgos necesarios para descender el gradiente. Mi pregunta es si deberíamos dibujar …

18 machine-learning  neural-networks  optimization  deep-learning 

He leído (por ejemplo, aquí ) que el núcleo Epanechnikov es óptimo, al menos en un sentido teórico, al hacer la estimación de la densidad del núcleo. Si esto es cierto, ¿por qué el gaussiano aparece con tanta frecuencia como el núcleo predeterminado, o en muchos casos el único núcleo, …

18 nonparametric  kernel-smoothing 

Estoy usando un modelo logit. Mi variable dependiente es binaria. Sin embargo, tengo una variable independiente que es categórica y contiene las respuestas: 1.very good, 2.good, 3.average, 4.poor and 5.very poor. Entonces, es ordinal ("categórico cuantitativo"). No estoy seguro de cómo manejar esto en el modelo. Estoy usando gretl. [Nota …

18 regression  logistic  ordinal-data  predictor 

Mientras estudiaba el aprendizaje por refuerzo, me encontré con muchas formas de la función de recompensa: , R ( s , a , s ' ) e incluso una función de recompensa que solo depende del estado actual. Dicho esto, me di cuenta de que no es muy fácil 'hacer' …

18 machine-learning  reinforcement-learning 

Existe una importante investigación contemporánea sobre la optimización bayesiana (1) para ajustar los hiperparámetros ML. La motivación principal aquí es que se requiere un número mínimo de puntos de datos para tomar decisiones informadas sobre qué puntos vale la pena intentar (las llamadas a funciones objetivas son caras, por lo …

18 hyperparameter  bayesian-optimization  optunity 

Estoy aprendiendo sobre la optimización y tengo problemas para comprender la diferencia entre la optimización convexa y no convexa. Según tengo entendido, una función convexa es aquella en la que "el segmento de línea entre dos puntos cualquiera en el gráfico de la función se encuentra arriba o en el …

18 optimization 

Algunas de las características de mis datos tienen valores grandes, mientras que otras tienen valores mucho más pequeños. ¿Es necesario centrar + escalar datos antes de aplicar t-SNE para evitar sesgos hacia los valores más grandes? Uso la implementación sklearn.manifold.TSNE de Python con la métrica de distancia euclidiana predeterminada.

18 normalization  dimensionality-reduction  high-dimensional  tsne 

Algunos autores (por ejemplo, Pallant, 2007, p. 225; ver imagen a continuación) sugieren calcular el tamaño del efecto para una prueba de rango con signo de Wilcoxon dividiendo el estadístico de prueba por la raíz cuadrada del número de observaciones: r = ZnorteX+ ny√r=ZnorteX+norteyr = \frac{Z}{\sqrt{n_x + n_y}} Zes el …

18 effect-size  wilcoxon-signed-rank 

En general, ¿cuál es la diferencia entre E ( X | Y )E(X|Y)E(X|Y) y E ( X | Y = y )E(X|Y=y)E(X|Y=y) ? Primero es función de yyy y último es función de xxx ? Es muy confuso ...

18 conditional-expectation  notation  definition 

Antecedentes: Nota: Mi conjunto de datos y mi código r se incluyen debajo del texto Deseo usar AIC para comparar dos modelos de efectos mixtos generados usando el paquete lme4 en R. Cada modelo tiene un efecto fijo y un efecto aleatorio. El efecto fijo difiere entre modelos, pero el …

18 maximum-likelihood  random-effects-model  fixed-effects-model  mixed-model  lme4-nlme 

Parece que me he confundido tratando de entender si un valor de rrr cuadrado también tiene un valor de ppp . Según tengo entendido, en la correlación lineal con un conjunto de puntos de datos, puede tener un valor que varía de a y este valor, cualquiera que sea, puede …

18 statistical-significance  p-value  r-squared 

He tenido dificultades para comprender el significado de "muestra aleatoria", así como "variable aleatoria iid". Traté de encontrar el significado de varias fuentes, pero me confundí cada vez más. Estoy publicando aquí lo que probé y llegué a saber: Probabilidad y estadística de Degroot dice: Muestras aleatorias / iid / …

18 sampling  terminology  iid 

Tengo un conjunto de datos con N ~ 5000 y falta aproximadamente 1/2 en al menos una variable importante. El principal método analítico será el riesgo proporcional de Cox. Planeo usar la imputación múltiple. También me dividiré en un tren y un set de prueba. ¿Debo dividir los datos y …

18 cross-validation  survival  multiple-imputation  train 

Estoy usando cv.glmnetpara encontrar predictores. La configuración que uso es la siguiente: lassoResults<-cv.glmnet(x=countDiffs,y=responseDiffs,alpha=1,nfolds=cvfold) bestlambda<-lassoResults$lambda.min results<-predict(lassoResults,s=bestlambda,type="coefficients") choicePred<-rownames(results)[which(results !=0)] Para asegurarse de que los resultados son reproducibles set.seed(1). Los resultados son muy variables. Ejecuté exactamente el mismo código 100 para ver qué tan variables fueron los resultados. En las ejecuciones 98/100 siempre …

18 r  cross-validation  feature-selection  glmnet