Estadísticas y Big Data

Estoy estudiando 'Introducción al aprendizaje estadístico' de James, Witten, Hastie, Tibshirani. En la página 139 de su libro, comenzaron introduciendo el Teorema de Bayes . no es una constante matemática, pero denota la probabilidad previa. Nada es extraño en esta ecuación.pk(X)=P(Y=k|X=x)=πkfk(x)∑kl=1πlfl(x)pk(X)=P(Y=k|X=x)=πkfk(x)∑l=1kπlfl(x)p_k(X)=P(Y=k|X=x) = \dfrac{\pi_kf_k(x)}{\sum_{l=1}^k \pi_l f_l(x)}ππ\pi El libro afirma que quiere …

9 self-study  classification 

\def\l{|\!|} Dada la regresión neta elástica minb12||y−Xb||2+αλ||b||22+(1−α)λ||b||1minb12||y−Xb||2+αλ||b||22+(1−α)λ||b||1\min_b \frac{1}{2}\l y - Xb \l^2 + \alpha\lambda \l b\l_2^2 + (1 - \alpha) \lambda \l b\l_1 ¿Cómo se puede elegir un rango apropiado de λλ\lambda para la validación cruzada? En el caso α=1α=1\alpha=1 (regresión de cresta) la fórmula dof=∑js2js2j+λdof=∑jsj2sj2+λ\textrm{dof} = \sum_j \frac{s_j^2}{s_j^2+\lambda} se …

9 least-squares  lasso  regularization  ridge-regression  elastic-net 

Mi maestro demostró que la segunda derivada de la entropía cruzada siempre es positiva, por lo que la función de costo de las redes neuronales que usan entropía cruzada es convexa. ¿Es esto cierto? Estoy bastante confundido acerca de esto porque siempre he aprendido que la función de costo de …

9 neural-networks  convex 

Supongamos que en un análisis de regresión en R, tengo una variable independiente del tipo de factor con 3 niveles en mi conjunto de datos del tren. Pero en el conjunto de datos de prueba, esa misma variable de factor tiene 5 niveles. Por lo tanto, no puedo predecir los …

9 r  regression  categorical-data  cross-validation  rare-events 

Estoy haciendo un proyecto que implica reemplazar los valores faltantes en un conjunto de datos (la primera vez que lo hago). Esto implica el uso de dos métodos replacement by meany replacement by mediancompletar los valores faltantes. No hay mucha diferencia entre los resultados de la desviación mínima, mediana, máxima, …

9 mean  median  data-imputation 

Sé que la varianza de la diferencia de dos variables independientes es la suma de las varianzas, y puedo demostrarlo. Quiero saber a dónde va la covarianza en el otro caso.

9 variance  covariance  independence  non-independent 

Quiero simular una muestra de una mezcla de distribución normal de manera que p × N(μ1,σ21) + ( 1 - p ) × N(μ2,σ22)p×N(μ1,σ12)+(1−p)×N(μ2,σ22)p\times\mathcal{N}(\mu_1,\sigma_1^2) + (1-p)\times\mathcal{N}(\mu_2,\sigma_2^2) está restringido al intervalo [ 0 , 1 ][0,1][0,1] en vez de RR\mathbb{R}. Esto significa que quiero simular una mezcla truncada de distribuciones normales. …

9 simulation  random-generation  cdf  mixture  gaussian-mixture 

Estoy simulando ensayos de Bernoulli con un entre grupos y luego el modelo correspondiente con el paquete:logitθ ∼ N( logitθ0 0,12)logitθ∼norte(logitθ0 0,12)\text{logit}\, \theta \sim {\cal N}(\text{logit}\, \theta_0, 1^2)lme4 library(lme4) library(data.table) I <- 30 # number of groups J <- 10 # number of Bernoulli trials within each group logit <- …

9 mixed-model  generalized-linear-model  binomial  random-effects-model  lme4-nlme 

Tengo una variable dependiente que puede variar de 0 a infinito, con 0s siendo observaciones correctas. Entiendo que los modelos de censura y Tobit solo se aplican cuando el valor real de es parcialmente desconocido o falta, en cuyo caso se dice que los datos están truncados. Más información sobre …

9 regression  censoring  truncation  tobit-regression 

Mis datos en bruto consisten en una serie temporal de 60 días con una tendencia a la baja. Los datos son semanales, por lo que la frecuencia se establece en 7. Calculé la diferencia de los datos que se ve así Cuando ejecuto gráficos ACF y PACF en la diferencia, …

9 r  time-series  autocorrelation 

Quiero entrenar una red neuronal con una secuencia de caracteres como un vector de entrada. Los ejemplos de aprendizaje tienen una longitud diferente y por esta razón no sé cómo representarlos. Digamos que tengo dos ejemplos de secuencias, aquí los nombres: john doe maurice delanoe El primer ejemplo es de …

9 machine-learning  neural-networks  feature-selection  natural-language 

¿Alguien sabe un ejemplo de Algoritmo Williams propuesto en el documento "Una clase de algoritmos de estimación de gradiente para el aprendizaje de refuerzo en redes neuronales" http://incompleteideas.net/sutton/williams-92.pdf

9 reinforcement-learning 

Al estimar los parámetros con MAP, ¿por qué se escribe que estamos estimando el "modo"? Pensé que sería la media de la distribución posterior?

9 bayesian  posterior  bayes 

Después de haber demostrado que dos cantidades están correlacionadas, ¿cómo inferimos que la relación es causal? ¿Y además cuál causa qué? Ahora, en teoría, se puede usar una "asignación aleatoria" (cualquiera que sea la palabra correcta), para romper cualquier vínculo accidental que pueda existir entre dos variables. Pero en algunos …

9 correlation  causality 

Al seleccionar un número apropiado de nudos para un GAM, uno puede tener en cuenta el número de datos e incrementos en el eje x. ¿Qué pasa si tenemos 100 incrementos en el eje x con 1000 puntos de datos en cada incremento? La información aquí dice: Si no se …

9 r  gam  splines