Estadísticas y Big Data

¿Existe alguna regla general entre la profundidad de una red neuronal y la tasa de aprendizaje? Me he dado cuenta de que cuanto más profunda es la red, más baja debe ser la tasa de aprendizaje. Si eso es correcto, ¿por qué es eso?

10 neural-networks  deep-learning  hyperparameter  rule-of-thumb 

Soy un científico de datos que trabaja con sólida experiencia en regresión, otros algoritmos de aprendizaje automático y programación (tanto para el análisis de datos como para el desarrollo de software en general). La mayor parte de mi vida laboral se ha centrado en construir modelos para la precisión predictiva …

10 hypothesis-testing  references  frequentist  inference 

Si bien he hecho algo de programación con máquinas Boltzmann en una clase de física, no estoy familiarizado con su caracterización teórica. Por el contrario, sé una cantidad modesta sobre la teoría de los modelos gráficos (sobre los primeros capítulos del libro Graphical Models de Lauritzen ). Pregunta: ¿Existe alguna …

10 machine-learning  neural-networks  mathematical-statistics  graphical-model  rbm 

Estoy leyendo este artículo sobre la diferencia entre el Análisis de componentes principales y el Análisis discriminante múltiple (Análisis discriminante lineal), y estoy tratando de entender por qué alguna vez usaría PCA en lugar de MDA / LDA. La explicación se resume de la siguiente manera: en términos generales, en …

10 classification  pca  dimensionality-reduction  discriminant-analysis 

El documento de ayuda "muesca" ( o texto original ) de boxplot en 'R' ofrece lo siguiente: Si las muescas de dos parcelas no se superponen, esta es una "evidencia fuerte" de que las dos medianas difieren (Chambers et al, 1983, p. 62). Ver boxplot.stats para los cálculos utilizados. y …

10 data-visualization  median  boxplot  tukey-hsd 

Entonces, antes que nada, investigué un poco en este foro, y sé que se han hecho preguntas extremadamente similares, pero por lo general no se han respondido correctamente o, a veces, las respuestas simplemente no son lo suficientemente detalladas como para que yo las entienda. Entonces esta vez mi pregunta …

10 r  regression  statistical-significance  regression-coefficients  group-differences 

Es probable que haya más de un malentendido serio en esta pregunta, pero no está destinado a hacer los cálculos correctos, sino a motivar el aprendizaje de series de tiempo con un cierto enfoque en mente. Al tratar de comprender la aplicación de series de tiempo, parece que la tendencia …

10 r  time-series  data-visualization 

En los foros de nombres de bebés, los futuros padres repiten alguna versión de su Miedo a Jennifer todo el tiempo: "No quiero que mi hijo sea uno de los 5 en su clase con su nombre". La cosa es que ningún nombre se acerca a ese tipo de popularidad, …

10 probability  combinatorics 

En un comentario a esta pregunta , el usuario @whuber citó la posibilidad de usar una versión periódica de splines para ajustar los datos periódicos. Me gustaría saber más acerca de este método, en particular las ecuaciones que definen las splines y cómo implementarlas en la práctica (soy principalmente un …

10 regression  time-series  seasonality  splines 

Tengo entendido que la estimación de validación cruzada k-fold del error de prueba generalmente subestima el error de prueba real. Estoy confundido por qué este es el caso. ¡Veo por qué el error de entrenamiento es generalmente más bajo que el error de prueba, porque estás entrenando el modelo con …

10 cross-validation  bias 

Me gustaría entender cómo puedo obtener el porcentaje de varianza de un conjunto de datos, no en el espacio de coordenadas proporcionado por PCA, sino en un conjunto ligeramente diferente de vectores (rotados). set.seed(1234) xx <- rnorm(1000) yy <- xx * 0.5 + rnorm(1000, sd = 0.6) vecs <- cbind(xx, …

10 r  variance  pca  linear-algebra 

Deje X1X1X_1 , X2X2X_2 , ⋯⋯\cdots , Xd∼N(0,1)Xd∼N(0,1)X_d \sim \mathcal{N}(0, 1) y sea independiente. ¿Cuál es la expectativa de X41(X21+⋯+X2d)2X14(X12+⋯+Xd2)2\frac{X_1^4}{(X_1^2 + \cdots + X_d^2)^2} ? Es fácil encontrar E(X21X21+⋯+X2d)=1dE(X12X12+⋯+Xd2)=1d\mathbb{E}\left(\frac{X_1^2}{X_1^2 + \cdots + X_d^2}\right) = \frac{1}{d} por simetría. Pero no sé cómo encontrar la expectativa deX41(X21+⋯+X2d)2X14(X12+⋯+Xd2)2\frac{X_1^4}{(X_1^2 + \cdots + X_d^2)^2} . …

10 probability  self-study  normal-distribution  chi-squared  expected-value 

Esta es la puntuación F beta: Fβ=(1+β2)⋅precision⋅recall(β2⋅precision)+recallFβ=(1+β2)⋅precision⋅recall(β2⋅precision)+recallF_\beta = (1 + \beta^2) \cdot \frac{\mathrm{precision} \cdot \mathrm{recall}}{(\beta^2 \cdot \mathrm{precision}) + \mathrm{recall}} El artículo de Wikipedia dice que .FβFβF_\beta "measures the effectiveness of retrieval with respect to a user who attaches β times as much importance to recall as precision" No entendí la …

10 machine-learning  precision-recall  model-evaluation 

Actualmente estoy tratando de entender los filtros de partículas y sus posibles usos en las finanzas y estoy luchando bastante. ¿Cuáles son los prerrequisitos matemáticos y estadísticos que debería volver a visitar (viniendo de un fondo en finanzas cuantitativas) para (i) hacer accesibles los conceptos básicos de los filtros de …

10 time-series  particle-filter 

Suponga que son iid de y deje que denote el -ésimo elemento más pequeño de . ¿Cómo podría uno llegar al límite superior del máximo esperado de la relación entre dos elementos consecutivos en X _ {(i)} ? Es decir, ¿cómo puede calcular un límite superior en: N ( μ …

10 expected-value  order-statistics  ratio  maximum