Estadísticas y Big Data

Soy un programador sin antecedentes estadísticos, y actualmente estoy buscando diferentes métodos de clasificación para una gran cantidad de documentos diferentes que quiero clasificar en categorías predefinidas. He estado leyendo sobre kNN, SVM y NN. Sin embargo, tengo algunos problemas para comenzar. ¿Qué recursos me recomiendan? Conozco bastante bien el …

32 classification  information-retrieval  text-mining 

Un documento "Cálculo preciso de la varianza de carrera" en http://www.johndcook.com/standard_deviation.html muestra cómo calcular la media de carrera, la varianza y las desviaciones estándar. ¿Existen algoritmos en los que los parámetros de un modelo de regresión lineal o logística puedan actualizarse "dinámicamente" de manera similar a medida que se proporciona …

32 regression  logistic  online 

Hay una persona detrás de una cortina; no sé si la persona es hombre o mujer. Sé que la persona tiene cabello largo y que el 90% de todas las personas con cabello largo son mujeres Sé que la persona tiene un tipo sanguíneo raro AX3, y que el 80% …

32 conditional-probability  probability 

Antecedentes : quiero clasificar las áreas residenciales de una ciudad en grupos en función de sus características socioeconómicas, incluida la densidad de unidades de vivienda, la densidad de población, el área de espacios verdes, el precio de la vivienda, el número de escuelas / centros de salud / guarderías, etc. …

32 clustering  pca  k-means  dimensionality-reduction 

Las computadoras han podido jugar al ajedrez durante mucho tiempo utilizando una técnica de "fuerza bruta", buscando a cierta profundidad y luego evaluando la posición. Sin embargo, la computadora AlphaGo solo usa un ANN para evaluar las posiciones (hasta donde yo sé, no realiza ninguna búsqueda profunda). ¿Es posible crear …

32 neural-networks  deep-learning  reinforcement-learning  games 

Estoy un poco confundido con una conferencia sobre regresión lineal dada por Andrew Ng en Coursera sobre el aprendizaje automático. Allí, le dio una función de costo que minimiza la suma de cuadrados como: 12m∑i=1m(hθ(X(i))−Y(i))212m∑i=1m(hθ(X(i))−Y(i))2 \frac{1}{2m} \sum _{i=1}^m \left(h_\theta(X^{(i)})-Y^{(i)}\right)^2 Entiendo de dónde viene el . Creo que lo hizo para …

32 regression  machine-learning  loss-functions 

Estoy usando SVM para la clasificación y estoy tratando de determinar los parámetros óptimos para los núcleos lineales y RBF. Para el núcleo lineal utilizo la selección de parámetros con validación cruzada para determinar C y para el núcleo RBF utilizo la búsqueda de cuadrícula para determinar C y gamma. …

32 classification  svm  kernel-trick 

¿Cómo calculo el error relativo cuando el valor verdadero es cero? Digamos que tengo xtrue=0xtrue=0x_{true} = 0 y . Si defino error relativo como:xtestxtestx_{test} relative error=xtrue−xtestxtruerelative error=xtrue−xtestxtrue\text{relative error} = \frac{x_{true}-x_{test}}{x_{true}} Entonces el error relativo siempre está indefinido. Si en cambio uso la definición: relative error=xtrue−xtestxtestrelative error=xtrue−xtestxtest\text{relative error} = \frac{x_{true}-x_{test}}{x_{test}} Entonces …

32 error  measurement-error 

En el análisis de componentes principales (PCA), uno puede elegir la matriz de covarianza o la matriz de correlación para encontrar los componentes (de sus respectivos vectores propios). Estos dan resultados diferentes (cargas de PC y puntajes), porque los vectores propios entre ambas matrices no son iguales. Tengo entendido que …

32 pca  factor-analysis 

El Proyecto Euler http://projecteuler.net/ me pareció increíblemente útil para aprender lenguajes de programación. ¿Existe un sitio similar para Machine Learning? Vi http://www.kaggle.com/ , pero no es tan accesible para los principiantes como el Proyecto Euler.

32 teaching 

El algoritmo PCA se puede formular en términos de la matriz de correlación (suponga que los datos XXX ya se han normalizado y solo estamos considerando la proyección en la primera PC). La función objetivo se puede escribir como: maxw(Xw)T(Xw)s.t.wTw=1.maxw(Xw)T(Xw)s.t.wTw=1. \max_w (Xw)^T(Xw)\; \: \text{s.t.} \: \:w^Tw = 1. Esto está …

32 pca  optimization 

¿Cuál es la fórmula para la varianza del producto de variables dependientes? En el caso de variables independientes, la fórmula es simple: var(XY)=E(X2Y2)−E(XY)2=var(X)var(Y)+var(X)E(Y)2+var(Y)E(X)2var(XY)=E(X2Y2)−E(XY)2=var(X)var(Y)+var(X)E(Y)2+var(Y)E(X)2 {\rm var}(XY) = E(X^{2}Y^{2}) - E(XY)^{2} = {\rm var}(X){\rm var}(Y) + {\rm var}(X)E(Y)^2 + {\rm var}(Y)E(X)^2 Pero, ¿cuál es la fórmula para las variables correlacionadas? Por cierto, …

32 correlation  variance 

Me gustaría hacer una regresión de un vector B contra cada una de las columnas de una matriz A. Esto es trivial si no faltan datos, pero si la matriz A contiene valores faltantes, entonces mi regresión contra A está limitada a incluir solo filas donde todos los valores están …

32 r  missing-data  linear-model 

He encontrado una extensa literatura que propone todo tipo de criterios (por ejemplo, Glenn et al. 1985 (pdf) y Jung et al. 2002 (pdf)). Sin embargo, la mayoría de estos no son tan fáciles de implementar (al menos desde mi perspectiva). Estoy usando scipy.cluster.hierarchy para obtener una jerarquía de clústeres, …

32 clustering 

Quiero ajustar un GLMM multinivel con una distribución de Poisson (con sobredispersión) usando R. En este momento estoy usando lme4 pero noté que recientemente la quasipoissonfamilia fue eliminada. He visto en otras partes que puede modelar la sobredispersión aditiva para distribuciones binomiales agregando una intercepción aleatoria con un nivel por …

32 r  mixed-model  poisson-distribution  lme4-nlme  overdispersion