Estadísticas y Big Data

Modelo lineal simple: ϵ t N ( 0 , σ 2 )x = α t + ϵtx=αt+ϵtx=\alpha t + \epsilon_t donde ~ iidϵtϵt\epsilon_tnorte( 0 , σ2)N(0,σ2)N(0,\sigma^2) con yV a r ( x ) = σ 2mi( x ) = α tE(x)=αtE(x) = \alpha tVa r ( x ) = σ2Var(x)=σ2Var(x)=\sigma^2 …

11 regression  stochastic-processes  autoregressive  deterministic 

Digamos que YYY es una variable aleatoria continua y XXX es una variable discreta. Pr(X=x|Y=y)=Pr(X=x)Pr(Y=y|X=x)Pr(Y=y)Pr(X=x|Y=y)=Pr(X=x)Pr(Y=y|X=x)Pr(Y=y) \Pr(X=x|Y=y) = \frac{\Pr(X=x)\Pr(Y=y|X=x)}{\Pr(Y=y)} Como sabemos, Pr(Y=y)=0Pr(Y=y)=0\Pr(Y=y) = 0 porque YYY es una variable aleatoria continua. Y en base a esto, estoy tentado a concluir que la probabilidad Pr(X=x|Y=y)Pr(X=x|Y=y)\Pr(X=x|Y=y) no está definida. Sin embargo, Wikipedia afirma …

11 conditional-probability  pdf 

Intrigado por una pregunta en math.stackexchange , e investigándolo empíricamente, me pregunto acerca de la siguiente declaración sobre la raíz cuadrada de sumas de variables aleatorias iid. Supongamos que son variables aleatorias con media finita distinta de cero y varianza , y . El teorema del límite central dice medida …

11 normal-distribution  central-limit-theorem  sum 

Recientemente he revisado el algoritmo XGBoost y he notado que este algoritmo puede manejar datos faltantes (sin requerir imputación) en la fase de entrenamiento. Me preguntaba si XGboost puede manejar los datos faltantes (sin requerir imputación) cuando se usa para pronosticar nuevas observaciones o si es necesario imputar los datos …

11 machine-learning  missing-data  data-imputation  xgboost 

El mgcvpaquete Rtiene dos funciones para ajustar las interacciones del producto tensorial: te()y ti(). Entiendo la división básica del trabajo entre los dos (ajustar una interacción no lineal versus descomponer esta interacción en efectos principales y una interacción). Lo que no entiendo es por qué te(x1, x2)y ti(x1) + ti(x2) …

11 r  gam  mgcv  conditional-probability  mixed-model  references  bayesian  estimation  conditional-probability  machine-learning  optimization  gradient-descent  r  hypothesis-testing  wilcoxon-mann-whitney  time-series  bayesian  inference  change-point  time-series  anova  repeated-measures  statistical-significance  bayesian  contingency-tables  regression  prediction  quantiles  classification  auc  k-means  scikit-learn  regression  spatial  circular-statistics  t-test  effect-size  cohens-d  r  cross-validation  feature-selection  caret  machine-learning  modeling  python  optimization  frequentist  correlation  sample-size  normalization  group-differences  heteroscedasticity  independence  generalized-least-squares  lme4-nlme  references  mcmc  metropolis-hastings  optimization  r  logistic  feature-selection  separation  clustering  k-means  normal-distribution  gaussian-mixture  kullback-leibler  java  spark-mllib  data-visualization  categorical-data  barplot  hypothesis-testing  statistical-significance  chi-squared  type-i-and-ii-errors  pca  scikit-learn  conditional-expectation  statistical-significance  meta-analysis  intuition  r  time-series  multivariate-analysis  garch  machine-learning  classification  data-mining  missing-data  cart  regression  cross-validation  matrix-decomposition  categorical-data  repeated-measures  chi-squared  assumptions  contingency-tables  prediction  binary-data  trend  test-for-trend  matrix-inverse  anova  categorical-data  regression-coefficients  standard-error  r  distributions  exponential  interarrival-time  copula  log-likelihood  time-series  forecasting  prediction-interval  mean  standard-error  meta-analysis  meta-regression  network-meta-analysis  systematic-review  normal-distribution  multiple-regression  generalized-linear-model  poisson-distribution  poisson-regression  r  sas  cohens-kappa 

En todos los sistemas de recomendación modernos que he visto que se basan en la factorización matricial, se realiza una factorización matricial no negativa en la matriz de película del usuario. Puedo entender por qué la no negatividad es importante para la interpretabilidad y / o si desea factores dispersos. …

11 recommender-system  svd  matrix-decomposition  nnmf 

Tengo una lista de palabras, que pertenecen a diferentes categorías autodefinidas. Cada categoría tiene su propio patrón (por ejemplo, uno tiene una longitud fija con caracteres especiales, otro existe de caracteres que aparecen solo en esta categoría de "palabra", ...). Por ejemplo: "ABC" -> type1 "ACC" -> type1 "a8 219" …

11 machine-learning  classification  similarities  supervised-learning 

Dada una variable aleatoria , ¿cuál es la media y la varianza de ?Y=Exp(λ)Y=Exp(λ)Y = Exp(\lambda)G=1YG=1YG=\dfrac{1}{Y} Miro la distribución gamma inversa, pero la media y la varianza solo se definen para y respectivamente ...α>1α>1\alpha>1α>2α>2\alpha>2

11 variance  mean  exponential 

Soy muy nuevo en las incrustaciones de palabras. Quiero visualizar cómo se ven los documentos después de aprender. Leí que t-SNE es el enfoque para hacerlo. Tengo 100K documentos con 250 dimensiones como tamaño de la incrustación. También hay varios paquetes disponibles. Sin embargo, para t-SNE, no sé cuántas iteraciones …

11 pca  dimensionality-reduction  word2vec  word-embeddings  tsne 

Supongamos que se distribuye uniformemente en . Let y . Demuestre que la correlación entre y es cero.[ 0 , 2 π ] Y = sen X Z = cos X Y ZXXX[0,2π][0,2π][0, 2\pi]Y=sinXY=sin⁡XY = \sin XZ=cosXZ=cos⁡XZ = \cos XYYYZZZ Parece que necesitaría saber la desviación estándar del seno y …

11 correlation  variance  random-variable  expected-value 

De acuerdo, así que solo un poco confuso en algunas cosas, cualquier ayuda sería muy apreciada. Entiendo que el modelo de regresión lineal se predice a través de una expectativa condicional E(Y|X)=b+Xb+eE(Y|X)=b+Xb+eE(Y|X)=b+Xb+e ¿Asumimos que tanto como son variables aleatorias con alguna distribución de probabilidad desconocida? Tenía entendido que solo los …

11 regression 

Para dos distribuciones discretas y , la entropía cruzada se define comopppqqq H(p,q)=−∑xp(x)logq(x).H(p,q)=−∑xp(x)log⁡q(x).H(p,q)=-\sum_x p(x)\log q(x). Me pregunto por qué esto sería una medida intuitiva de la distancia entre dos distribuciones de probabilidad. Veo que es la entropía de , que mide la "sorpresa" de . es la medida que reemplaza …

11 probability  distributions  cross-entropy 

Estoy interesado en el aprendizaje de refuerzo (profundo) (RL) . Antes de sumergirme en este campo, ¿debería tomar un curso de Teoría de juegos (GT) ? ¿Cómo se relacionan GT y RL ?

11 deep-learning  reinforcement-learning  game-theory 

En la pág. 34 de Introducción al aprendizaje estadístico :\newcommand{\Var}{{\rm Var}} Aunque la prueba matemática está más allá del alcance de este libro, es posible mostrar que la prueba esperada MSE, para un valor dado x0x0x_0 , siempre se puede descomponer en la suma de tres cantidades fundamentales: la varianza …

11 machine-learning  variance 

Empecé a estudiar estimadores de mínimos cuadrados ordinarios (MCO) y todavía estoy al principio. Ya compré algunos libros sobre econometría pero no encontré nada en línea. Entonces, me preguntaba si existe un sitio web, una página de inicio u otros recursos en línea que expliquen los estimadores de mínimos cuadrados …

11 references  least-squares