Estadísticas y Big Data

¿Hay documentos / libros / ideas sobre la relación entre el número de características y el número de observaciones que uno necesita para formar un clasificador "robusto"? Por ejemplo, suponga que tengo 1000 características y 10 observaciones de dos clases como conjunto de entrenamiento, y otras 10 observaciones como conjunto …

26 machine-learning 

Ya ha habido una excelente discusión sobre cómo las máquinas de vectores de soporte manejan la clasificación, pero estoy muy confundido acerca de cómo las máquinas de vectores de soporte generalizan a la regresión. ¿Alguien me puede explicar?

26 regression  machine-learning  svm 

En la regresión lineal múltiple, puedo entender que las correlaciones entre el residual y los predictores son cero, pero ¿cuál es la correlación esperada entre el residual y la variable de criterio? ¿Debería esperarse que sea cero o altamente correlacionado? ¿Cuál es el significado de eso?

26 regression  residuals 

Estoy interesado en la regresión con redes neuronales. Las redes neuronales con cero nodos ocultos + conexiones de capa de salto son modelos lineales. ¿Qué pasa con las mismas redes neuronales pero con nodos ocultos? Me pregunto cuál sería el papel de las conexiones de salto de capa. Intuitivamente, diría …

26 regression  machine-learning  neural-networks  deep-learning 

Recientemente encontré que era necesario derivar un pdf para el cuadrado de una variable aleatoria normal con media 0. Por cualquier razón, elegí no normalizar la varianza de antemano. Si hice esto correctamente, este pdf es el siguiente: N2(x;σ2)=1σ2π−−√x−−√e−x2σ2N2(x;σ2)=1σ2πxe−x2σ2 N^2(x; \sigma^2) = \frac{1}{\sigma \sqrt{2 \pi} \sqrt{x}} e^{\frac{-x}{2\sigma^2}} Me di cuenta …

26 normal-distribution  gamma-distribution 

Inspirado por la charla de Peter Donnelly en TED , en la que analiza cuánto tiempo le tomaría a un cierto patrón aparecer en una serie de lanzamientos de monedas, creé el siguiente guión en R. Dados dos patrones 'hth' y 'htt', calcula cuánto tiempo tarda (es decir, cuántos lanzamientos …

26 r  probability  stochastic-processes 

He encontrado mucho en Internet con respecto a la interpretación de efectos aleatorios y fijos. Sin embargo, no pude obtener una fuente que establezca lo siguiente: ¿Cuál es la diferencia matemática entre efectos aleatorios y efectos fijos? Con eso quiero decir la formulación matemática del modelo y la forma en …

26 mathematical-statistics  mixed-model  random-effects-model  fixed-effects-model 

Cerrado. Esta pregunta está fuera de tema . Actualmente no está aceptando respuestas. ¿Quieres mejorar esta pregunta? Actualice la pregunta para que esté en el tema de Cross Validated. Cerrado hace 6 años . Me gustaría realizar una normalización en columna de una matriz en R. Dada una matriz m, …

26 r  data-transformation  normalization  matrix 

Anteriormente utilicé Forecast Pro para pronosticar series de tiempo univariantes, pero estoy cambiando mi flujo de trabajo a R. El paquete de pronósticos para R contiene muchas funciones útiles, pero una cosa que no hace es ningún tipo de transformación de datos antes de ejecutar Auto .arima (). En algunos …

26 r  time-series  data-transformation  forecasting  arima 

En casi todos los ejemplos de código que he visto de un VAE, las funciones de pérdida se definen de la siguiente manera (este es el código de tensorflow, pero he visto algo similar para theano, torch, etc.) También es para un convnet, pero eso tampoco es demasiado relevante , …

26 machine-learning  deep-learning  tensorflow  autoencoders  variational-bayes 

Tengo un conjunto de datos muy desequilibrado. Estoy tratando de seguir los consejos y el uso de la optimización,scale_pos_weight pero no estoy seguro de cómo debo ajustarlo. Puedo ver que RegLossObj.GetGradientsí: if (info.labels[i] == 1.0f) w *= param_.scale_pos_weight entonces un gradiente de una muestra positiva sería más influyente. Sin embargo, …

26 unbalanced-classes  xgboost 

Recuerdo haber leído hace un tiempo que en los libros antiguos (anteriores a la informática), los últimos dígitos de los cuantiles teóricos que se muestran en los apéndices eran inexactos para desalentar el plagio (la idea sería que si otro libro tiene una tabla en el apéndice donde los últimos …

25 references  history  tables 

Suponga que un modelo tiene una precisión del 100% en los datos de entrenamiento, pero una precisión del 70% en los datos de la prueba. ¿Es cierto el siguiente argumento sobre este modelo? Es obvio que este es un modelo sobreajustado. La precisión de la prueba se puede mejorar reduciendo …

25 model  accuracy  overfitting 

¿Es cierto que los métodos bayesianos no se sobreajustan? (Vi algunos documentos y tutoriales haciendo esta afirmación) Por ejemplo, si aplicamos un Proceso Gaussiano a MNIST (clasificación de dígitos escritos a mano), pero solo le mostramos una sola muestra, ¿volverá a la distribución anterior para cualquier entrada diferente de esa …

25 bayesian  nonparametric  gaussian-process  overfitting  misspecification 

Me pregunto si hay algún algoritmo que pueda hacer clasificación y regresión al mismo tiempo. Por ejemplo, me gustaría dejar que el algoritmo aprenda un clasificador, y al mismo tiempo dentro de cada etiqueta, también aprende un objetivo continuo. Por lo tanto, para cada ejemplo de entrenamiento, tiene una etiqueta …

25 regression  machine-learning  classification  predictive-models  finite-mixture-model