Estadísticas y Big Data

La definición más simple de estadísticas suficientes en la perspectiva frecuentista se da aquí en Wikipedia . Sin embargo, recientemente me encontré con un libro bayesiano, con la definición . En el enlace se afirma que ambos son equivalentes, pero no veo cómo. Además, en esa misma página, en la …

9 bayesian  mathematical-statistics  sufficient-statistics 

Estoy tratando de modelar y pronosticar una serie de tiempo que es cíclica en lugar de estacional (es decir, hay patrones estacionales, pero no con un período fijo). Esto debería ser posible utilizando un modelo ARIMA, como se menciona en la Sección 8.5 de Pronósticos: principios y práctica : El …

9 time-series  forecasting  arima  seasonality 

Recientemente vi esta charla de Eric J. Ma y revisé su entrada de blog , donde cita a Radford Neal, que los modelos bayesianos no se sobreajustan (pero pueden sobreajustar ) y cuando los usamos , no necesitamos conjuntos de prueba para validarlos (para Me parece que las citas hablan …

9 machine-learning  bayesian  cross-validation  deep-learning 

Un pdf generalmente se escribe como , donde la minúscula se trata como una realización o resultado de la variable aleatoria que tiene ese pdf. Del mismo modo, un cdf se escribe como , que tiene el significado . Sin embargo, en algunas circunstancias, como la definición de la función …

9 random-variable  pdf  cdf  intuition 

Cerrada . Esta pregunta necesita estar más centrada . Actualmente no está aceptando respuestas. ¿Quieres mejorar esta pregunta? Actualice la pregunta para que se centre en un problema solo editando esta publicación . Cerrado hace 2 años . Soy nuevo en el campo del aprendizaje automático, pero quería probar e …

9 machine-learning  classification  neural-networks  transfer-learning 

Estoy estudiando la diferencia entre la regularización en la regresión RKHS y la regresión lineal, pero me resulta difícil comprender la diferencia crucial entre los dos. (xi,yi)(xi,yi)(x_i,y_i)f(⋅)f(⋅)f(\cdot)f(x)≈u(x)=∑i=1mαiK(x,xi),f(x)≈u(x)=∑i=1mαiK(x,xi),\begin{equation}f(x)\approx u(x)=\sum_{i=1}^m \alpha_i K(x,x_i),\end{equation}K(⋅,⋅)K(⋅,⋅)K(\cdot,\cdot)αmαm\alpha_mminα∈Rn1n∥Y−Kα∥2Rn+λαTKα,minα∈Rn1n‖Y−Kα‖Rn2+λαTKα,\begin{equation} {\displaystyle \min _{\alpha\in R^{n}}{\frac {1}{n}}\|Y-K\alpha\|_{R^{n}}^{2}+\lambda \alpha^{T}K\alpha},\end{equation} donde, con algún abuso de notación, la entrada i,ji,ji,j de la matriz del núcleo …

9 regression  generalized-linear-model  regularization  kernel-trick  rbf-kernel 

Actualmente estoy buscando una visión general sobre los algoritmos de aprendizaje por refuerzo y tal vez una clasificación de ellos. Pero al lado de Sarsa y Q-Learning + Deep Q-Learning realmente no puedo encontrar ningún algoritmo popular. Wikipedia me da una visión general sobre diferentes métodos generales de aprendizaje de …

9 reinforcement-learning  q-learning 

Estoy tratando de entender el funcionamiento interno de Hamiltonian Monte Carlo (HMC), pero no puedo entender completamente la parte cuando reemplazamos la integración determinista del tiempo con una propuesta de Metrópolis Hasting. Estoy leyendo el impresionante documento introductorio Una Introducción Conceptual al Hamiltoniano Monte Carlo de Michael Betancourt, por lo …

9 mcmc  monte-carlo  hmc 

Conocí un comportamiento paradójico de las llamadas "pruebas exactas" o "pruebas de permutación", cuyo prototipo es la prueba de Fisher. Aquí está. Imagine que tiene dos grupos de 400 individuos (p. Ej., 400 casos de control frente a 400) y una covariable con dos modalidades (p. Ej., Expuestos / no …

9 power  permutation-test  fishers-exact 

Deje que esté en . ¿Cuáles son la media y la matriz de covarianza de (con el máximo calculado por elemento)?Z∼N(μ,Σ)Z∼N(μ,Σ)Z \sim \mathcal N(\mu, \Sigma)RdRd\mathbb R^dZ+=max(0,Z)Z+=max(0,Z)Z_+ = \max(0, Z) Esto surge, por ejemplo, porque, si usamos la función de activación ReLU dentro de una red profunda, y asumimos a través …

9 probability  distributions  normal-distribution  moments  censoring 

La ocurrencia no tan infrecuente cuando se trata de modelos mixtos máximos complejos (estimar todos los efectos aleatorios posibles para datos y modelo dados) es perfecta (+1 o -1) o una correlación casi perfecta entre algunos efectos aleatorios. Para el propósito de la discusión, observemos el siguiente modelo y resumen …

9 r  correlation  mixed-model  lme4-nlme  covariance-matrix 

Supongamos que estamos haciendo un ejemplo de juguete en gradiente decente, minimizando una función cuadrática , usando un tamaño de paso fijo . ( )α = 0.03 A = [ 10 , 2 ; 2 , 3 ]XTA xxTAxx^TAxα = 0.03α=0,03\alpha=0.03A = [ 10 , 2 ; 2 , 3 …

9 r  machine-learning  optimization  gradient-descent 

Si tengo dos distribuciones simétricas diferentes (con respecto a la mediana) e , ¿la diferencia también es una distribución simétrica (con respecto a la mediana)?Y X - YXXXYYYX−YX−YX-Y

9 distributions  median 

En el artículo titulado Deep Learning and the Information Bottleneck Principle, los autores declaran en la sección II A) lo siguiente: Las neuronas individuales clasifican solo entradas separables linealmente, ya que pueden implementar solo hiperplanos en su espacio de entrada . Los hiperplanes pueden clasificar de manera óptima los datos …

9 bayesian  neural-networks  information-theory 

Si , encuentre la distribución de Y = 2 XX∼ C( 0 , 1 )X∼C(0 0,1)X\sim\mathcal C(0,1) .Y= 2 X1 -X2Y=2X1-X2Y=\frac{2X}{1-X^2} Tenemos FY( y) = P r ( Y≤y)FY(y)=PAGr(Y≤y)F_Y(y)=\mathrm{Pr}(Y\le y) = P r ( 2 X1 - X2≤ y)=PAGr(2X1-X2≤y)\qquad\qquad\qquad=\mathrm{Pr}\left(\frac{2X}{1-X^2}\le y\right) =⎧⎩⎨⎪⎪⎪⎪⎪⎪Pr(X∈(−∞,−1−1+y2√y])+Pr(X∈(−1,−1+1+y2√y]),ify&gt;0Pr(X∈(−1,−1+1+y2√y])+Pr(X∈(1,−1−1+y2√y]),ify&lt;0={Pr(X∈(−∞,−1−1+y2y])+Pr(X∈(−1,−1+1+y2y]),ify&gt;0Pr(X∈(−1,−1+1+y2y])+Pr(X∈(1,−1−1+y2y]),ify&lt;0\qquad\qquad=\begin{cases} \mathrm{Pr}\left(X\in\left(-\infty,\frac{-1-\sqrt{1+y^2}}{y}\right]\right)+\mathrm{Pr}\left(X\in\left(-1,\frac{-1+\sqrt{1+y^2}}{y}\right]\right),\text{if}\quad y>0\\ \mathrm{Pr}\left(X\in\left(-1,\frac{-1+\sqrt{1+y^2}}{y}\right]\right)+\mathrm{Pr}\left(X\in\left(1,\frac{-1-\sqrt{1+y^2}}{y}\right]\right),\text{if}\quad y<0 \end{cases} Me pregunto si la …

9 self-study  distributions  mathematical-statistics  random-variable