Estadísticas y Big Data

Esta es una pregunta muy simple, pero no puedo encontrar la derivación en ningún lugar de Internet o en un libro. Me gustaría ver la derivación de cómo un Bayesiano actualiza una distribución normal multivariada. Por ejemplo: imagina que P(x|μ,Σ)P(μ)==N(μ,Σ)N(μ0,Σ0).P(x|μ,Σ)=N(μ,Σ)P(μ)=N(μ0,Σ0). \begin{array}{rcl} \mathbb{P}({\bf x}|{\bf μ},{\bf Σ}) & = & N({\bf \mu}, …

18 bayesian  normal-distribution  matrix  posterior  linear-algebra 

La impresión que obtuve, en base a varios documentos, libros y artículos que he leído, es que la forma recomendada de ajustar una distribución de probabilidad en un conjunto de datos es mediante el uso de la estimación de máxima verosimilitud (MLE). Sin embargo, como físico, una forma más intuitiva …

18 distributions  maximum-likelihood  least-squares  heteroscedasticity  fitting 

¿Alguien puede explicarme las ventajas y desventajas de la clasificación SVM que la distingue de otros clasificadores?

18 machine-learning  svm 

Después de un reciente voto negativo, he estado tratando de verificar mi comprensión de la prueba de Pearson Chi Squared. Usualmente uso la estadística de chi cuadrado (o estadística de chi cuadrado reducido) para ajustar o verificar el ajuste resultante. En este caso, la varianza no suele ser el número …

18 chi-squared  histogram 

Sé que el SVM es un clasificador binario. Me gustaría extenderlo a SVM multiclase. ¿Cuál es la mejor y quizás la forma más fácil de realizarlo? código: en MATLAB u=unique(TrainLabel); N=length(u); if(N>2) itr=1; classes=0; while((classes~=1)&&(itr<=length(u))) c1=(TrainLabel==u(itr)); newClass=double(c1); tst = double((TestLabel == itr)); model = svmtrain(newClass, TrainVec, '-c 1 -g 0.00154'); …

18 machine-learning  matlab  svm  multi-class 

Tengo la siguiente función de probabilidad: Prob = 11 + e- zProblema=11+mi-z\text{Prob} = \frac{1}{1 + e^{-z}} dónde z= B0 0+ B1X1+ ⋯ + BnorteXnorte.z=si0 0+si1X1+⋯+sinorteXnorte.z = B_0 + B_1X_1 + \dots + B_nX_n. Mi modelo se parece Pr ( Y= 1 ) = 11 + exp( - [ - 3.92 …

18 probability  logistic  logit 

Estoy sufriendo un apagón. Se me presentó la siguiente imagen para mostrar el equilibrio de sesgo-varianza en el contexto de la regresión lineal: Puedo ver que ninguno de los dos modelos encaja bien: el "simple" no aprecia la complejidad de la relación XY y el "complejo" simplemente se sobreajusta, básicamente …

18 regression  variance  bias 

Durante un experimento para la clasificación de texto, encontré que el clasificador de cresta genera resultados que constantemente superan las pruebas entre los clasificadores que se mencionan y aplican con mayor frecuencia para las tareas de minería de texto, como SVM, NB, kNN, etc. Sin embargo, no he elaborado en …

18 machine-learning  classification  text-mining  ridge-regression 

Tengo dos preguntas sobre los intervalos de confianza: Aparentemente, un intervalo de confianza estrecho implica que hay una menor posibilidad de obtener una observación dentro de ese intervalo, por lo tanto, nuestra precisión es mayor. Además, un intervalo de confianza del 95% es más estrecho que un intervalo de confianza …

18 confidence-interval 

Considere una caminata aleatoria entera que comienza en 0 con las siguientes condiciones: El primer paso es más o menos 1, con igual probabilidad. Cada paso futuro es: 60% de probabilidades de estar en la misma dirección que el paso anterior, 40% de probabilidades de estar en la dirección opuesta …

18 stochastic-processes  randomness  random-walk 

En las pruebas , ¿cuál es la base para usar la raíz cuadrada de los recuentos esperados como las desviaciones estándar (es decir, los recuentos esperados como las variaciones) de cada una de las distribuciones normales? Lo único que pude encontrar discutiendo esto es http://www.physics.csbsju.edu/stats/chi-square.html , y solo menciona las …

18 hypothesis-testing  chi-squared 

Espero que alguien pueda ayudarme a aclarar un punto de confusión para mí. Digamos que quiero probar si 2 conjuntos de coeficientes de regresión son significativamente diferentes entre sí, con la siguiente configuración: yi=α+βxi+ϵiyi=α+βxi+ϵiy_i = \alpha + \beta x_i + \epsilon_i , con 5 variables independientes. 2 grupos, con tamaños …

18 regression  hypothesis-testing  multiple-regression 

Una distribución de Skellam describe la diferencia entre dos variables que tienen distribuciones de Poisson. ¿Existe una distribución similar que describa la diferencia entre las variables que siguen distribuciones binomiales negativas? Mis datos son producidos por un proceso de Poisson, pero incluye una buena cantidad de ruido, lo que lleva …

18 distributions  modeling  poisson-distribution  negative-binomial  skellam 

Supongamos que tengo dos conjuntos e y una distribución de probabilidad conjunta sobre estos conjuntos . Supongamos que y denotan las distribuciones marginales sobre e respectivamente.XXXYYYp(x,y)p(x,y)p(x,y)p(x)p(x)p(x)p(y)p(y)p(y)XXXYYY La información mutua entre e se define como: XXXYYYI(X;Y)=∑x,yp(x,y)⋅log(p(x,y)p(x)p(y))I(X;Y)=∑x,yp(x,y)⋅log⁡(p(x,y)p(x)p(y))I(X; Y) = \sum_{x,y}p(x,y)\cdot\log\left(\frac{p(x,y)}{p(x)p(y)}\right) es decir, es el valor promedio de la información mutua puntual pmi …

18 entropy  mutual-information  information-theory 

Tengo una pregunta sobre el cálculo del factor de contracción de James-Stein en el artículo de Scientific American de 1977 de Bradley Efron y Carl Morris, "La paradoja de Stein en estadística" . Reuní los datos para los jugadores de béisbol y se dan a continuación: Name, avg45, avgSeason Clemente, …

18 estimation  shrinkage  steins-phenomenon