Estadísticas y Big Data

Todos los libros de texto que he visto hasta ahora describen algoritmos de ML y cómo implementarlos. ¿Existe también un libro de texto que construya teoremas y pruebas del comportamiento de esos algoritmos? por ejemplo, que indica que bajo condiciones , de descenso de gradiente siempre dará lugar a ?x,y,zx,y,zx,y,zA,B,CA,B,CA,B,C

23 machine-learning  mathematical-statistics  references  algorithms 

Al construir un modelo predictivo utilizando técnicas de aprendizaje automático, ¿cuál es el punto de hacer un análisis exploratorio de datos (EDA)? ¿Está bien saltar directamente a la generación de características y construir su (s) modelo (s)? ¿Cómo son importantes las estadísticas descriptivas utilizadas en EDA?

23 machine-learning  predictive-models  descriptive-statistics  eda 

Supongamos que quiero crear un modelo de regresión logística que pueda estimar la probabilidad de ocurrencia de algunas especies animales que viven en los árboles en función de las características de los árboles (altura de fe). Como siempre, mi tiempo y dinero son limitados, por lo tanto, solo puedo recolectar …

23 logistic  sampling 

Estoy escribiendo un ejemplo y he inventado algunos datos. Quiero que quede claro para el lector que no se trata de datos reales, pero tampoco quiero dar la impresión de malicia, ya que solo sirve como ejemplo. No hay un componente (pseudo) aleatorio para estos datos en particular, por lo …

23 terminology  synthetic-data 

Estoy interesado en aprender cómo desarrollar una aproximación geográfica de algún tipo de epicentro basado en los datos del brote de cólera John Snow. Qué modelo estadístico podría usarse para resolver un problema de este tipo sin un conocimiento previo de dónde están ubicados los pozos. Como problema general, tendría …

23 bayesian  spatial  epidemiology  gis 

Estoy investigando algunas técnicas de optimización para el aprendizaje automático, pero me sorprende descubrir que un gran número de algoritmos de optimización se definen en términos de otros problemas de optimización. Ilustramos algunos ejemplos a continuación. Por ejemplo https://arxiv.org/pdf/1511.05133v1.pdf Todo se ve bien y bien, pero luego está este en …

23 machine-learning  svm  optimization 

He estado leyendo mucho sobre el algoritmo -snettt para la reducción de dimensionalidad. Estoy muy impresionado con el rendimiento en los conjuntos de datos "clásicos", como MNIST, donde logra una separación clara de los dígitos ( ver artículo original ): También lo he usado para visualizar las características aprendidas por …

23 clustering  data-visualization  dimensionality-reduction  high-dimensional  tsne 

Usualmente usamos PCA como técnica de reducción de dimensionalidad para datos donde se supone que los casos son iid Pregunta: ¿Cuáles son los matices típicos en la aplicación de PCA para datos dependientes que no son iid? ¿Qué propiedades agradables / útiles de PCA que se mantienen para los datos …

23 time-series  pca  non-independent  iid 

En una pregunta que hice recientemente , me dijeron que era un gran "no-no" extrapolar con loess. Pero, en el artículo más reciente de Nate Silver en FiveThirtyEight.com , habló sobre el uso de loess para hacer predicciones electorales. Estaba discutiendo los detalles específicos de los pronósticos agresivos versus conservadores …

23 time-series  forecasting  predictive-models  loess  politics 

He estado revisando esta descripción general de las fórmulas lm / lmer R de @conjugateprior y la siguiente entrada me ha confundido: Ahora suponga que A es aleatorio, pero B es fijo y B está anidado dentro de A. aov(Y ~ B + Error(A/B), data=d) A continuación, lmer(Y ~ B …

23 r  anova  mixed-model  repeated-measures  lme4-nlme 

Si nos fijamos en la documentación http://keras.io/optimizers/ hay un parámetro en el SGD para la descomposición. Sé que esto reduce la tasa de aprendizaje con el tiempo. Sin embargo, no puedo entender cómo funciona exactamente. ¿Es un valor que se multiplica por la tasa de aprendizaje como lr = lr …

23 neural-networks  python 

Recientemente estaba corriendo y aprendiendo el flujo del tensor y obtuve algunos histogramas que no sabía cómo interpretar. Por lo general, pienso en la altura de las barras como la frecuencia (o frecuencia / recuento relativo). Sin embargo, el hecho de que no haya barras como en un histograma habitual …

23 machine-learning  neural-networks  conv-neural-network  tensorflow 

Después de mucho arrastre de Cross Validated, todavía no siento que estoy más cerca de entender la divergencia de KL fuera del ámbito de la teoría de la información. Es bastante extraño que alguien con experiencia en matemáticas encuentre mucho más fácil entender la explicación de la teoría de la …

23 inference  entropy  information-theory  kullback-leibler  compression 

Monty sabía perfectamente si la Puerta tenía una cabra detrás (o estaba vacía). Este hecho permite al jugador duplicar su tasa de éxito a lo largo del tiempo al cambiar las "conjeturas" a la otra puerta. ¿Y si el conocimiento de Monty fuera menos que perfecto? ¿Qué pasa si a …

23 conditional-probability 

Supongamos que he entrenado varios modelos en el conjunto de entrenamiento, elija el mejor usando el conjunto de validación cruzada y el rendimiento medido en el conjunto de prueba. Así que ahora tengo un mejor modelo final. ¿Debo volver a entrenarlo con todos mis datos disponibles o enviar una solución …

23 machine-learning  validation  regression-strategies