Estadísticas y Big Data

Observé que la función lazo en MATLAB es relativamente lenta. Corro muchos problemas de regresión, con típicamente 1 a 100 predictores y 200 a 500 observaciones. En algunos casos, el lazo resultó ser extremadamente lento (para resolver un problema de regresión, tomó varios minutos). Descubrí que este era el caso …

9 regression  feature-selection  regularization 

Suponga que tiene una distribución binomial donde el previo del parámetro es uniforme. ¿Cómo puedo obtener la distribución posterior del parámetro?

9 bayesian  posterior 

Estoy leyendo este artículo: el traductor de Skype donde usan CD-DNN-HMM (Redes neuronales profundas dependientes del contexto con modelos ocultos de Markov). Puedo entender la idea del proyecto y la arquitectura que han diseñado, pero no entiendo cuáles son los senones . He estado buscando una definición pero no he …

9 neural-networks  deep-learning  terminology  natural-language  hidden-markov-model 

Estoy un poco desconcertado por una fórmula presentada en "Introducción al aprendizaje estadístico" de Hastie. En el Capítulo 6, página 212 (sexta impresión, disponible aquí ), se indica que: Un yoC=R SSnorteσ^2+2 dnorteAIC=RSSnσ^2+2dnAIC = \frac{RSS}{n\hat\sigma^2} + \frac{2d}{n} Para modelos lineales con ruido gaussiano, es el número de predictores y es …

9 regression  machine-learning  aic 

que sean variables aleatorias definidas en el mismo espacio de probabilidad y que la covarianza de e sea ​​finita, entonces la ley de la fórmula de covarianza / descomposición de covarianza total establece: ¿Cuál es la interpretación de y \ text {(ii)} ?X,Y,ZX,Y,ZX,Y,ZXXXYYYCov(X,Y)=E[Cov(X,Y|Z)](i)+Cov[E(X|Z),E(Y|Z)](ii)Cov(X,Y)=E[Cov(X,Y|Z)]⏟(i)+Cov[E(X|Z),E(Y|Z)]⏟(ii)\begin{align} \text{Cov}(X,Y)=\underbrace{\mathbb{E}\big[\text{Cov}(X,Y\lvert Z)\big]}_{\text{(i)}}+\underbrace{\text{Cov}\big[\mathbb{E}(X\lvert Z),\mathbb{E}(Y\lvert Z)\big]}_{\text{(ii)}} \end{align}(i)(i)\text{(i)}(ii)(ii)\text{(ii)} Mis pensamientos: …

9 probability  covariance  variance-decomposition 

Estoy buscando una explicación 1) mecánica y 2) intuitiva de cómo se determinan los efectos de las variables individuales manteniendo constantes otras variables. En un ejemplo que usa datos de encuestas, ¿qué significa exactamente decir: "Con edad, sexo e ingresos constantes, el efecto de la educación es ___" Tengo entendido …

9 regression  interpretation 

Investigando sobre el algoritmo xgboost, revisé la documentación . En este enfoque, los árboles se regularizan utilizando la definición de complejidad donde y son parámetros, es el número de hojas terminales y es la puntuación en cada hoja.Ω ( f) = γT+12λ∑j = 1Tw2jΩ(F)=γT+12λ∑j=1Twj2 \Omega(f) = \gamma T + \frac12 …

9 cart  regularization  boosting  gradient-descent  overfitting 

Me han hecho una pregunta sobre un modelo lineal hecho con R lm: "¿La regresión utilizó mínimos cuadrados iterativos lineales o no lineales?" Busqué un poco y [creo que entiendo] la diferencia entre los dos, pero no pude encontrar ninguna evidencia del uso de R de mínimos cuadrados lineales lm(que …

9 r  linear-model  lm 

En los modelos CBOW y skip-gram de word2vec, ¿cómo funciona elegir vectores de palabras de WWW(matriz de palabras de entrada) frente a elegir vectores de palabras de (matriz de palabras de salida) ¿afecta la calidad de los vectores de palabras resultantes?W′W′W' CBOW: Saltar-gramo:

9 neural-networks  natural-language  word2vec  word-embeddings 

Estoy tratando de entender la definición exacta de los parámetros de ubicación / escala / forma (por ejemplo, se llama parámetro de forma es parámetro de escala en Pareto Tipo I). Pero los libros a los que me referí ( The Cambridge Dictionary of Statistics , HMC's Introduction to Mathematical …

9 mathematical-statistics  nonparametric  definition 

Considere un proceso aleatorio para el cual existe la media , y es constante, para todos los tiempos , es decir, para todos los tiempos y cambios de tiempo (o "rezagos") . No impongo más condiciones en los momentos superiores ni en la función de distribución. ¿Cómo puedo describir tal …

9 time-series  terminology  stationarity  stochastic-processes 

Supongamos que estamos tratando con este conjunto de datos donde es una variable continua (por ejemplo, Exponencial) y es una distribución discreta (por ejemplo, Poisson) para . Digamos que es la correlación entre y . ¿Cómo puede alguien definir ? (Xi,Ni)(Xi,Ni)(X_i, N_i)XiXiX_iNiNiN_ii=1,...,ni=1,...,ni=1,...,nρρ\rhoXXXNNNρρ\rho

9 correlation  count-data 

Parte de una serie de intentos de entender Bayesiano vs Frecuente: 1 2 3 4 5 6 7 Creo que obtengo la diferencia de cómo los bayesianos y los frecuentistas abordan la elección entre hipótesis , pero no estoy muy seguro de si eso o cómo se supone que me …

9 probability  bayesian  frequentist  definition  philosophical 

¿Es racional (teórico, sustancial, estadístico) optar por el aprendizaje automático o los modelos de peligro al modelar la rotación de clientes (o más general, eventos)?

9 machine-learning  survival  hazard  churn 

La arimaxfunción en el TSApaquete es, que yo sepa, el único Rpaquete que se ajustará a una función de transferencia para los modelos de intervención. Sin embargo, carece de una función de predicción que a veces es necesaria. ¿Es lo siguiente una solución alternativa para este problema, aprovechando el excelente …

9 r  time-series  forecasting  arima  intervention-analysis