Estadísticas y Big Data

Bajo mezcla de dos distribuciones normales: https://en.wikipedia.org/wiki/Multimodal_distribution#Mixture_of_two_normal_distributions "Una mezcla de dos distribuciones normales tiene cinco parámetros para estimar: las dos medias, las dos variaciones y el parámetro de mezcla. Una mezcla de dos distribuciones normales con desviaciones estándar iguales es bimodal solo si sus medias difieren al menos dos veces …

28 bimodal 

Una sola prueba estadística puede dar evidencia de que la hipótesis nula (H0) es falsa y, por lo tanto, la hipótesis alternativa (H1) es verdadera. Pero no se puede usar para mostrar que H0 es verdadero porque no rechazar H0 no significa que H0 sea verdadero. Pero supongamos que tiene …

28 hypothesis-testing  p-value  combining-p-values 

Al ajustar un modelo de regresión, qué sucede si no se cumplen los supuestos de los resultados, específicamente: ¿Qué sucede si los residuos no son homoscedásticos? Si los residuos muestran un patrón creciente o decreciente en la gráfica Residual vs. ¿Qué sucede si los residuos no se distribuyen normalmente y …

28 regression  multiple-regression  error  assumptions  normality-assumption 

He completado el análisis de componentes principales (PCA), el análisis factorial exploratorio (EFA) y el análisis factorial confirmatorio (CFA), tratando los datos con escala likert (respuestas de 5 niveles: ninguno, poco, algunos, ..) como un continuo variable. Luego, usando Lavaan, repetí el CFA definiendo las variables como categóricas. Me gustaría …

28 pca  factor-analysis  ordinal-data  binary-data  likert 

Recientemente leí que una red neuronal recurrente puede aproximarse a cualquier algoritmo. Entonces mi pregunta es: ¿qué significa esto exactamente y me puede dar una referencia donde esto se pruebe?

28 references  rnn 

Consideremos, por ejemplo, un modelo de regresión lineal. Escuché que, en la minería de datos, después de realizar una selección gradual basada en el criterio AIC, es engañoso mirar los valores p para probar la hipótesis nula de que cada coeficiente de regresión verdadero es cero. Escuché que uno debería …

28 multiple-regression  predictive-models  data-mining  stepwise-regression 

A menudo veo que aparece el término ruido blanco cuando leo sobre diferentes modelos estadísticos. Sin embargo, debo admitir que no estoy completamente seguro de lo que esto significa. Generalmente se abrevia como Wnorte( 0 , σ2)Wnorte(0 0,σ2)WN(0,σ^2) . ¿Eso significa que normalmente se distribuye o podría seguir alguna distribución?

28 normal-distribution  white-noise 

Estoy usando R (3.1.1) y modelos ARIMA para pronosticar. Me gustaría saber cuál debería ser el parámetro de "frecuencia", que se asigna en la ts()función , si estoy usando datos de series temporales que son: separado por minutos y se extiende por 180 días (1440 minutos / día) separado por …

28 r  time-series  arima  multiple-seasonalities  mape 

Como ejemplo, tome la función objetivo del modelo XGBoost en la iteración :ttt L(t)=∑i=1nℓ(yi,y^(t−1)i+ft(xi))+Ω(ft)L(t)=∑i=1nℓ(yi,y^i(t−1)+ft(xi))+Ω(ft)\mathcal{L}^{(t)}=\sum_{i=1}^n\ell(y_i,\hat{y}_i^{(t-1)}+f_t(\mathbf{x}_i))+\Omega(f_t) donde es la función de pérdida, es la salida del árbol ' y es la regularización. Uno de los (muchos) pasos clave para el cálculo rápido es la aproximación:ℓℓ\ellftftf_ttttΩΩ\Omega L(t)≈∑i=1nℓ(yi,y^(t−1)i)+gtft(xi)+12hif2t(xi)+Ω(ft),L(t)≈∑i=1nℓ(yi,y^i(t−1))+gtft(xi)+12hift2(xi)+Ω(ft),\mathcal{L}^{(t)}\approx \sum_{i=1}^n\ell(y_i,\hat{y}_i^{(t-1)})+g_tf_t(\mathbf{x}_i)+\frac{1}{2}h_if_t^2(\mathbf{x}_i)+\Omega(f_t), donde y son las derivadas …

28 optimization  loss-functions  boosting  xgboost  taylor-series 

Estoy trabajando en el aprendizaje de la probabilidad y las estadísticas leyendo algunos libros y escribiendo un código, y mientras simulaba lanzar monedas noté algo que me pareció ligeramente contrario a la ingenua intuición. Si lanzas una moneda justa veces, la proporción de cara a cruz converge hacia 1 a …

28 probability  computational-statistics 

Esta es una pregunta de entrevista para un puesto de analista cuantitativo, que se informa aquí . Supongamos que estamos dibujando a partir de una distribución uniforme y los sorteos son iid, ¿cuál es la longitud esperada de una distribución monotónicamente creciente? Es decir, dejamos de dibujar si el dibujo …

28 probability  random-variable  expected-value  uniform  iid 

El conjunto de datos "Iris" es probablemente familiar para la mayoría de las personas aquí: es uno de los conjuntos de datos de prueba canónicos y un conjunto de datos de ejemplo para todo, desde la visualización de datos hasta el aprendizaje automático. Por ejemplo, todos en esta pregunta terminaron …

28 dataset 

Estoy usando glmnet para calcular las estimaciones de regresión de crestas. Obtuve algunos resultados que me hicieron sospechar que glmnet realmente está haciendo lo que creo que hace. Para verificar esto, escribí un script R simple donde comparo el resultado de la regresión de cresta realizada por resolver y el …

28 r  ridge-regression  glmnet 

βlasso=argminβ∥y−Xβ∥22+α∥β∥1βlasso=argminβ⁡‖y−Xβ‖22+α‖β‖1\beta^{\text{lasso}}= \operatorname*{argmin}_\beta \| y-X\beta\|^2_2 + \alpha \| \beta\|_1βlassoj=sgn(βLSj)(|βLSj|−α)+βjlasso=sgn(βjLS)(|βjLS|−α)+ \beta_j^{\text{lasso}}= \mathrm{sgn}(\beta^{\text{LS}}_j)(|\beta_j^{\text{LS}}|-\alpha)^+ XXX Sin embargo, no entiendo por qué no hay una solución de forma cerrada en general. Usando subdiferenciales obtuve lo siguiente. ( XXX es una matriz n×pn×pn \times p ) f(β)=∥y−Xβ∥22+α∥β∥1f(β)=‖y−Xβ‖22+α‖β‖1f(\beta)=\|{y-X\beta}\|_2^2 + \alpha\|{\beta}\|_1 =∑i=1n(yi−Xiβ)2+α∑j=1p|βj|=∑i=1n(yi−Xiβ)2+α∑j=1p|βj| =\sum_{i=1}^n (y_i-X_i\beta)^2 + \alpha \sum_{j=1}^p |\beta_j| …

28 regression  lasso  regularization 

Estoy confundido. ¿Hay alguna diferencia entre las redes de creencias profundas y las máquinas Deep Boltzmann? Si es así, ¿cuál es la diferencia?

28 machine-learning  deep-learning  rbm  deep-belief-networks