Estadísticas y Big Data

No soy matemático. He buscado en Internet sobre KL Divergence. Lo que aprendí es que la divergencia KL mide la información perdida cuando aproximamos la distribución de un modelo con respecto a la distribución de entrada. Los he visto entre dos distribuciones continuas o discretas. ¿Podemos hacerlo entre continuo y …

12 distributions  mathematical-statistics  kullback-leibler 

¿Alguien puede ayudarme a comprender cuáles son las diferencias entre el Modelo de ecuación simultánea y el Modelo de ecuación estructural (SEM)? Será genial si alguien me puede proporcionar algo de literatura al respecto. Además, ¿hay alguna literatura en la que se haya utilizado SEM en el contexto de series …

12 time-series  references  sem 

Estoy haciendo un modelo simple de eliminación hacia atrás basado en AIC donde algunas variables son variables categóricas con múltiples niveles. Estas variables se modelan como un conjunto de variables ficticias. Al hacer la eliminación hacia atrás, ¿debería eliminar todos los niveles de una variable juntos? ¿O debería tratar cada …

12 model-selection 

No encontré una definición de función de pérdida en wiki en el contexto del aprendizaje automático. sin embargo, este es menos formal, es bastante claro. En esencia, una función de pérdida es increíblemente simple: es un método para evaluar qué tan bien su algoritmo modela su conjunto de datos. Si …

12 machine-learning 

El LSTM en el siguiente código Keras input_t = Input((4, 1)) output_t = LSTM(1)(input_t) model = Model(inputs=input_t, outputs=output_t) print(model.summary()) puede ser representado como Entiendo que cuando llamamos a model.predict(np.array([[[1],[2],[3],[4]]]))la (única) unidad LSTM, primero se procesa el vector [1], luego [2] más la retroalimentación de la entrada anterior y así sucesivamente …

12 machine-learning  neural-networks  lstm  keras 

He estado tratando de entender el aumento de gradiente leyendo varios blogs, sitios web y tratando de encontrar mi respuesta mirando, por ejemplo, el código fuente de XGBoost. Sin embargo, parece que no puedo encontrar una explicación comprensible de cómo los algoritmos de aumento de gradiente producen estimaciones de probabilidad. …

12 machine-learning  classification  boosting  ensemble  xgboost 

El siguiente ejemplo está tomado de las conferencias en deeplearning.ai muestra que el resultado es la suma del producto elemento por elemento (o "multiplicación por elementos". Los números rojos representan los pesos en el filtro: ( 1 ∗ 1 ) + ( 1 ∗ 0 ) + ( 1 ∗ …

12 deep-learning  conv-neural-network  matrix 

Estoy comenzando a leer Causal Inference in Statistics, A Primer by Judea Pearl et. Alabama. Tengo una maestría en matemáticas, pero nunca he tomado un curso de estadística. Estoy un poco confundido por una de las primeras preguntas de estudio, y no hay nadie a quien pueda preguntar al respecto, …

12 causality 

Después de analizar esta pregunta: Intentando emular la regresión lineal usando Keras , he intentado dar mi propio ejemplo, solo para estudiar y desarrollar mi intuición. Descargué un conjunto de datos simple y usé una columna para predecir otra. Los datos se ven así: Ahora acabo de crear un modelo …

12 regression  machine-learning  neural-networks  linear  keras 

RMSE (error cuadrático medio) y SD (desviación estándar) tienen fórmulas similares. Este enlace dice La única diferencia es que divide entre y no ya que no resta la media de la muestra aquí. El RMSE correspondería a . Por lo tanto, el RMSE de la población es y desea un …

12 standard-deviation  rms 

Soy bastante nuevo en Machine Learning / Modeling y me gustaría conocer algunos antecedentes de este problema. Tengo un conjunto de datos donde el número de observaciones es sin embargo, el número de variables es . En primer lugar, ¿tiene sentido considerar la construcción de un modelo en un conjunto …

12 regression  machine-learning  dimensionality-reduction  penalized 

Estoy implementando PCA, LDA y Naive Bayes, para compresión y clasificación respectivamente (implementando tanto un LDA para compresión y clasificación). Tengo el código escrito y todo funciona. Lo que necesito saber, para el informe, es cuál es la definición general de error de reconstrucción . Puedo encontrar muchas matemáticas y …

12 machine-learning  pca  terminology  dimensionality-reduction  discriminant-analysis 

Sé que la distribución de la varianza muestral Es por el hecho de que puede expresarse en forma de matriz, xAx ' (donde A: simétrica), y podría expresarse nuevamente en: x'QDQ'x (donde Q: ortonormal, D: matriz diagonal). ∑(Xi−X¯)2σ2∼χ2(n−1)∑(Xi−X¯)2σ2∼χ(n−1)2 \sum\frac{(X_i-\bar{X})^2}{\sigma^2}\sim \chi^2_{(n-1)} ∑(Xi−X¯)2n−1∼σ2n−1χ2(n−1)∑(Xi−X¯)2n−1∼σ2n−1χ(n−1)2 \sum\frac{(X_i-\bar{X})^2}{n-1}\sim \frac{\sigma^2}{n-1}\chi^2_{(n-1)} (X−X¯)2(X−X¯)2(X-\bar{X})^2xAx′xAx′xAx'x′QDQ′xx′QDQ′xx'QDQ'x ¿Qué pasa con ∑(Yi−β^0−β^1Xi)2∑(Yi−β^0−β^1Xi)2\sum(Y_i-\hat{\beta}_0-\hat{\beta}_1X_i)^2 , dada …

12 regression  mathematical-statistics  degrees-of-freedom  sums-of-squares 

Se sabe desde hace bastante tiempo que la edad más temprana en la que los jugadores de ajedrez lograron clasificarse para el título de gran maestro ha disminuido significativamente desde la década de 1950, y actualmente hay casi 30 jugadores que se convirtieron en gran maestro antes de cumplir 15 …

11 survival  bias  population  censoring  subset 

Quiero usar el aprendizaje profundo para entrenar una detección binaria facial / no facial, qué pérdida debo usar, creo que es SigmoidCrossEntropyLoss o Hinge-loss . ¿Es correcto, pero también me pregunto si debería usar softmax pero con solo dos clases?

11 deep-learning  loss-functions  computer-vision  conv-neural-network