Estadísticas y Big Data

En el famoso experimento de Fisher la observable es el número de corregido taza adivinado que tiene dos tipos de taza A y B . Por lo general, es interesante calcular la región crítica para rechazar la hipótesis nula (la mujer adivina al azar) dado el tamaño de la prueba …

9 hypothesis-testing  power  fishers-exact 

En varias competiciones de kaggle, la puntuación se basó en "logloss". Esto se relaciona con el error de clasificación. Aquí hay una respuesta técnica, pero estoy buscando una respuesta intuitiva. Realmente me gustaron las respuestas a esta pregunta sobre la distancia de Mahalanobis, pero PCA no es logloss. Puedo usar …

9 interpretation  intuition  loss-functions 

Estoy haciendo una tarea sobre árboles de decisión, y una de las preguntas que tengo que responder es "¿Por qué los estimadores están construidos a partir de árboles sesgados, y cómo ayuda el embolsado a reducir su variación?". Ahora, sé que los modelos sobreajustados tienden a tener un sesgo realmente …

9 cart  bias 

¿Alguien puede decirme cómo simular , donde , usando un lanzamiento de monedas (tantas veces como sea necesario) con ?Bernoulli(ab)Bernoulli(ab)\mathrm{Bernoulli}\left({a\over b}\right)a,b∈Na,b∈Na,b\in \mathbb{N}P(H)=pP(H)=pP(H)=p Estaba pensando en usar muestras de rechazo, pero no pude precisarlo.

9 probability  simulation  bernoulli-distribution  rejection-sampling 

En su papel en autoencoders para la clasificación de texto Hinton y Salakhutdinov demostrado la trama producida por 2-dimensional LSA (que está estrechamente relacionado con PCA): . Aplicando PCA a datos dimensionales ligeramente altos, absolutamente diferentes, obtuve una gráfica similar: (excepto en este caso, realmente quería saber si hay alguna …

9 data-visualization  pca 

Estoy buscando recursos (no tiene que ser un solo libro) que cubran algunos de los casos más desafiantes de diseño experimental y análisis estadístico. Algunos de los casos que me gustaría que cubrieran: 1. Casos donde las unidades de aleatorización son diferentes de las unidades de análisis Ejemplo: ejecuto una …

9 references  experiment-design 

¿Existe una relación matemática entre: la similitud del coseno de dos vectores y , ysim(A,B)sim⁡(A,B)\operatorname{sim}(A, B)AAABBB ¿La similitud del coseno de y , escalada de manera no uniforme a través de una matriz dada ? Aquí es una matriz diagonal dada con elementos desiguales en la diagonal.sim(MA,MB)sim⁡(MA,MB)\operatorname{sim}(MA, MB)AAABBBMMMMMM Intenté repasar …

9 linear-algebra  cosine-similarity 

Actualmente estoy viendo un documento del modelo de efectos aleatorios del proceso de Dirichlet y la especificación del modelo es la siguiente: dondeαes el parámetro de escala yG0es la medida base. Más adelante en el artículo, sugiere que integremos una función sobre la medida baseG0como ∫f(y j |θ,ψ j )yyoψyosol= …

9 bayesian  dirichlet-distribution  dirichlet-process  nonparametric-bayes  measure-theory 

Considere la pérdida cuadrática , con la anterior donde . Sea la probabilidad. Encuentre el estimador de Bayes .L(θ,δ)=(θ−δ)2L(θ,δ)=(θ−δ)2L(\theta,\delta)=(\theta-\delta)^2π(θ)π(θ)\pi(\theta)π(θ)∼U(0,1/2)π(θ)∼U(0,1/2)\pi(\theta)\sim U(0,1/2)f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0δπδπ\delta^\pi Considere la pérdida cuadrática ponderada donde con anterior . Sea sea ​​la probabilidad. Encuentre el estimador de Bayes .Lw(θ,δ)=w(θ)(θ−δ)2Lw(θ,δ)=w(θ)(θ−δ)2L_w(\theta,\delta)=w(\theta)(\theta-\delta)^2w(θ)=I(−∞,1/2)w(θ)=I(−∞,1/2)w(\theta)=\mathbb{I}_{(-\infty,1/2)}π1(θ)=I[0,1](θ)π1(θ)=I[0,1](θ)\pi_1(\theta)=\mathbb{I}_{[0,1]}(\theta)f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|θ)=θxθ−1I[0,1](x),θ>0f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0δπ1δ1π\delta^\pi_1 Compare yδπδπ\delta^\piδπ1δ1π\delta^\pi_1 Primero noté que , y …

9 self-study  bayesian  estimation  hierarchical-bayesian  loss-functions 

Estoy aprendiendo sobre el aprendizaje profundo (específicamente CNN) y cómo normalmente requiere una gran cantidad de datos para evitar el sobreajuste. Sin embargo, también me han dicho que cuanto mayor capacidad / más parámetros tiene un modelo, más datos se requieren para evitar el sobreajuste. Por lo tanto, mi pregunta …

9 machine-learning  neural-networks  deep-learning  conv-neural-network 

Está arraigado en la enseñanza de disciplinas aplicadas, como la medicina, que las mediciones de cantidades biomédicas en la población siguen una "curva de campana" normal. Una búsqueda en Google de la la cadena "que supone una distribución normal" retornos resultados! Parecen, "dado el pequeño número de puntos de datos …

9 normal-distribution  assumptions  normality-assumption  lognormal 

La pregunta se basa en el artículo titulado: Reconstrucción de imágenes en tomografía óptica difusa utilizando el modelo acoplado de transporte radiativo-difusión Enlace de descarga Los autores aplican el algoritmo EM con regularización de dispersión de un vector desconocido para estimar los píxeles de una imagen. El modelo viene dado …

9 self-study  bayesian  maximum-likelihood  expectation-maximization  moving-average 

Supongamos que quiero entrenar una red neuronal profunda para realizar una clasificación o regresión, pero quiero saber qué tan segura será la predicción. ¿Cómo podría lograr esto? Mi idea es calcular la entropía cruzada para cada dato de entrenamiento, en función de su rendimiento de predicción en los medidores neurales …

9 machine-learning  neural-networks 

Es bien sabido que la independencia de las variables aleatorias implica una correlación cero, pero la correlación cero no implica necesariamente independencia. Encontré muchos ejemplos matemáticos que demuestran dependencia a pesar de la correlación cero. ¿Hay ejemplos de la vida real para respaldar este hecho?

9 correlation  independence  intuition 

He leído clasificadores algebraicos: un enfoque genérico para la validación cruzada rápida, la capacitación en línea y la capacitación paralela, y me sorprendió el desempeño de los algoritmos derivados. Sin embargo, parece que más allá de Naive Bayes (y GBM) no hay muchos algoritmos adaptados al marco. ¿Hay otros trabajos …

9 cross-validation  references  random-forest  computational-statistics  naive-bayes