Estadísticas y Big Data

Si tiene media página para explicar el abandono , ¿cómo procedería? ¿Cuál es la razón detrás de esta técnica?

17 neural-networks  deep-learning  regularization  dropout 

¿Cuál es la dimensión VC de un árbol de decisión con k divisiones en dos dimensiones? Digamos que el modelo es CART y las únicas divisiones permitidas son paralelas a los ejes. Entonces, para una división, podemos ordenar 3 puntos en un triángulo y luego, para cualquier etiquetado de los …

17 cart  vc-dimension 

Esta pregunta de validación cruzada sobre la simulación de una muestra condicional a tener una suma fija me recordó un problema que George Casella me planteó . Dado un modelo paramétrico y una muestra de iid de este modelo , el MLE de viene dado por Para un valor dado …

17 maximum-likelihood  conditional-probability  random-variable  simulation  t-distribution 

Para la norma vectorial, la norma L2 o "distancia euclidiana" es la definición ampliamente utilizada e intuitiva. Pero, ¿por qué la definición de norma "más utilizada" o "predeterminada" para una matriz es la norma espectral , pero no la norma Frobenius (que es similar a la norma L2 para los …

17 matrix  linear-algebra 

Entiendo lo que es la "maldición de la dimensionalidad", y he hecho algunos problemas de optimización de alta dimensión y conozco el desafío de las posibilidades exponenciales. Sin embargo, dudo que la "maldición de la dimensionalidad" exista en la mayoría de los datos del mundo real (bueno, dejemos de lado …

17 clustering  dimensionality-reduction  high-dimensional 

Estoy ejecutando un LASSO que tiene algunos predictores de variables categóricas y algunos continuos. Tengo una pregunta sobre las variables categóricas. El primer paso que entiendo es dividir cada uno de ellos en tontos, estandarizarlos para una penalización justa y luego retroceder. Surgen varias opciones para tratar las variables ficticias: …

17 categorical-data  regression-coefficients  lasso  intercept  categorical-encoding 

Estaba leyendo acerca de Jeffreys antes en la wikipedia: Jeffreys Prior y vi que después de cada ejemplo, describe cómo una transformación estabilizadora de la varianza convierte a Jeffreys prior en un uniforme previo. Como ejemplo, para el caso de Bernoulli, establece que para una moneda con cara de probabilidad …

17 bayesian  prior  jeffreys-prior 

Esta pregunta es un seguimiento o intento de aclarar la posible confusión con respecto a un tema que yo y muchos otros encontramos un poco difícil, con respecto a la diferencia entre AIC y BIC. En una muy buena respuesta de @Dave Kellen sobre este tema ( /stats//a/767/30589 ) leemos: …

17 model-selection  aic  bic 

He creado un clasificador de regresión logística que es muy preciso en mis datos. Ahora quiero entender mejor por qué funciona tan bien. Específicamente, me gustaría clasificar qué características están haciendo la mayor contribución (qué características son las más importantes) e, idealmente, cuantificar cuánto contribuye cada característica a la precisión …

17 machine-learning  logistic  feature-selection  importance 

Se puede realizar una regresión logit en R usando dicho código: > library(MASS) > data(menarche) > glm.out = glm(cbind(Menarche, Total-Menarche) ~ Age, + family=binomial(logit), data=menarche) > coefficients(glm.out) (Intercept) Age -21.226395 1.631968 Parece que el algoritmo de optimización ha convergido: hay información sobre el número de pasos del algoritmo de puntuación …

17 r  generalized-linear-model  optimization  algorithms  logit 

Supongamos que tengo una matriz densa de tamaño m × n , con descomposición SVD A = U S V ⊤ . En puedo calcular la SVD de la siguiente manera: .AA \textbf{A}m×nm×nm \times nA=USV⊤.A=USV⊤.\mathbf{A}=\mathbf{USV}^\top.Rsvd(A) Si se agrega una nueva fila a A , ¿se puede calcular la nueva descomposición …

17 algorithms  svd  linear-algebra  matrix-decomposition  numerics 

Pregunta La varianza de una distribución binomial negativa (NB) es siempre mayor que su media. Cuando la media de una muestra es mayor que su varianza, el intento de ajustar los parámetros de un NB con la máxima probabilidad o con la estimación de momento fallará (no hay solución con …

17 estimation  maximum-likelihood  negative-binomial 

He estado pensando en escribir una publicación de blog sobre este interesante análisis de Kleinberg (2002) que explora la dificultad de la agrupación. Kleinberg describe tres desideratas aparentemente intuitivas para una función de agrupamiento y luego demuestra que no existe tal función. Hay muchos algoritmos de agrupamiento que satifican dos …

17 mathematical-statistics  clustering  intuition  hierarchical-clustering 

¿Cuál es la diferencia entre LOESS y LOWESS? Desde Wikipedia solo puedo ver que LOESS es una generalización de LOWESS. ¿Tienen parámetros ligeramente diferentes?

17 nonparametric  loess 

He leído aquí que, dada una muestra de una distribución continua con cdf F X , la muestra correspondiente a U i = F X ( X i ) sigue una distribución uniforme estándar.X1,X2,...,XnX1,X2,...,Xn X_1,X_2,...,X_n FXFX F_X Ui=FX(Xi)Ui=FX(Xi) U_i = F_X(X_i) He verificado esto usando simulaciones cualitativas en Python, y …

17 pdf  uniform  cdf  intuition