Estadísticas y Big Data

He leído algunos documentos sobre la creación manual de imágenes para "engañar" a una red neuronal (ver más abajo). ¿Es esto porque las redes solo modelan la probabilidad condicional ? Si una red puede modelar la probabilidad conjunta , ¿seguirán ocurriendo estos casos?p ( yEl | x)pag(yEl |X)p(y|x)p ( y, …

13 machine-learning  neural-networks  deep-learning 

Busqué en Google, Wikipedia, Google Scholar y más, pero no pude encontrar el origen de los codificadores automáticos. Quizás sea uno de esos conceptos que evolucionó muy gradualmente, y es imposible rastrear un punto de partida claro, pero aún así me gustaría encontrar algún tipo de resumen de los pasos …

13 neural-networks  autoencoders  history 

Estoy tratando de entender si la transformada discreta de Fourier ofrece la misma representación de una curva que una regresión utilizando la base de Fourier. Por ejemplo, library(fda) Y=daily$tempav[,1] ## my data length(Y) ## =365 ## create Fourier basis and estimate the coefficients mybasis=create.fourier.basis(c(0,365),365) basisMat=eval.basis(1:365,mybasis) regcoef=coef(lm(Y~basisMat-1)) ## using Fourier transform …

13 fourier-transform  functional-data-analysis 

En esta página central de AP Variables aleatorias vs. Variables algebraicas , el autor, Peter Flanagan-Hyde, hace una distinción entre variables algebraicas y aleatorias. En parte dice , pero X + X ≠ 2 Xx+x=2xx+x=2xx + x = 2xX+X≠2XX+X≠2XX + X \neq 2X - De hecho, es el subtítulo del …

13 probability  random-variable 

En mi opinión, los datos de entrada correlacionados deben conducir a un sobreajuste en las redes neuronales porque la red aprende la correlación, por ejemplo, el ruido en los datos. ¿Es esto correcto?

13 correlation  neural-networks  overfitting 

Soy nuevo en la investigación de estadísticas bayesianas. Escuché de los investigadores que los investigadores bayesianos implementan mejor MCMC por sí mismos en lugar de usar herramientas como JAGS / Stan. ¿Puedo preguntar cuál es el beneficio de implementar el algoritmo MCMC por sí mismo (en un lenguaje "no bastante …

13 bayesian  mcmc 

Dadas dos variables aleatorias y η podemos calcular su "coeficiente de correlación" c , y formar la línea de mejor ajuste entre estas dos variables aleatorias. Mi pregunta es por quéξξ\xiηη\etaccc 1) Hay variables aleatorias, y η que dependen de la peor manera posible, es decir, ξ = f ( …

13 regression 

Estoy a punto de terminar mis honores en estadística, y realmente quiero hacer un doctorado porque encuentro que las estadísticas matemáticas son extremadamente interesantes. Las áreas de investigación en las que más quiero hacer un doctorado son procesos estocásticos y series de tiempo. Sin embargo, también quiero seguir una carrera …

13 mathematical-statistics  careers  phd 

Al inicializar los pesos de conexión en una red neuronal de avance, es importante inicializarlos aleatoriamente para evitar cualquier simetría que el algoritmo de aprendizaje no pueda romper. La recomendación que he visto en varios lugares (por ejemplo, en el tutorial MNIST de TensorFlow ) es usar la distribución normal …

13 neural-networks  backpropagation  weights  truncated-normal 

En el libro de Bishop sobre aprendizaje automático, se analiza el problema de ajustar una función polinómica a un conjunto de puntos de datos. Sea M el orden del polinomio ajustado. Dice como eso Vemos que, a medida que M aumenta, la magnitud de los coeficientes generalmente aumenta. En particular …

13 regression  least-squares  curve-fitting  polynomial 

Recientemente he revisado algunos documentos antiguos de Nancy Reid, Barndorff-Nielsen, Richard Cox y, sí, un pequeño Ronald Fisher sobre el concepto de "inferencia condicional" en el paradigma frecuentista, lo que parece significar que las inferencias se basan considerando solo el "subconjunto relevante" del espacio muestral, no todo el espacio muestral. …

13 confidence-interval  maximum-likelihood  inference 

Quiero saber qué es y en qué se diferencia del ensamblaje. Supongamos que quiero lograr una alta precisión en la clasificación y segmentación, para una tarea específica, si utilizo diferentes redes, como CNN, RNN, etc. para lograr esto, ¿se llama esto un modelo de extremo a extremo? (arquitectura?) o no?

13 machine-learning  terminology  deep-learning 

En su blog , el físico Steve Hsu escribió lo siguiente: Suponiendo una distribución normal, solo hay alrededor de 10,000 personas en los EE. UU. Que rinden a + 4SD y un número similar en Europa, por lo que esta es una población bastante selecta (aproximadamente, los pocos cientos de …

13 normal-distribution 

Antecedentes: recientemente entendí en un nivel más profundo la importancia del aumento de datos al entrenar redes neuronales convolucionales después de ver esta excelente charla de Geoffrey Hinton . Explica que las redes neuronales convolucionales de la generación actual no pueden generalizar el marco de referencia del objeto bajo prueba, …

13 machine-learning  deep-learning 

¿Cómo se debe convertir un resultado frecuentista en un previo bayesiano? Considere el siguiente escenario bastante genérico: se realizó un experimento en el pasado y se midió un resultado en algún parámetro . El análisis se realizó con una metodología frecuentista. Un intervalo de confianza para φ se da en …

13 bayesian  confidence-interval  meta-analysis  prior