Estadísticas y Big Data

¿La regresión de rango reducido y la regresión de componentes principales son solo casos especiales de mínimos cuadrados parciales? Este tutorial (Página 6, "Comparación de objetivos") establece que cuando hacemos mínimos cuadrados parciales sin proyectar X o Y (es decir, "no parcial"), se convierte en regresión de rango reducido o …

16 regression  pca  dimensionality-reduction  partial-least-squares  reduced-rank-regression 

Fig 1. Función logística Fig. 2. Función sigmoidea ¿Se parece más a una función sigmoidea generalizada en la que podrías tener un valor máximo más alto?

16 logistic 

Estoy confundido sobre el método de máxima verosimilitud en comparación con, por ejemplo, calcular la media aritmética. ¿Cuándo y por qué la probabilidad máxima produce estimaciones "mejores" que, por ejemplo, la media aritmética? ¿Cómo es esto verificable?

16 maximum-likelihood 

Encontré algunos pros del análisis discriminante y tengo preguntas sobre ellos. Entonces: Cuando las clases están bien separadas, las estimaciones de los parámetros para la regresión logística son sorprendentemente inestables. Los coeficientes pueden llegar al infinito. LDA no sufre de este problema. Si el número de características es pequeño y …

16 regression  logistic  multivariate-analysis  discriminant-analysis 

¿Cuáles son las ventajas y desventajas de ambos métodos?

16 maximum-likelihood  predictive-models  optimization  gradient-descent 

Creo que las siguientes dos fórmulas son ciertas: Var(aX)=a2Var(X)Var(aX)=a2Var(X) \mathrm{Var}(aX)=a^2 \mathrm{Var}(X) mientras que a es un número constante Var(X+Y)=Var(X)+Var(Y)Var(X+Y)=Var(X)+Var(Y) \mathrm{Var}(X + Y)=\mathrm{Var}(X)+\mathrm{Var}(Y) siXXX ,YYY son independientes Sin embargo, no estoy seguro de lo que está mal con lo siguiente: Var(2X)=Var(X+X)=Var(X)+Var(X)Var(2X)=Var(X+X)=Var(X)+Var(X)\mathrm{Var}(2X) = \mathrm{Var}(X+X) = \mathrm{Var}(X) + \mathrm{Var}(X) que no es igual …

16 variance  linearity  fallacy 

Consideremos el problema de clasificar el conjunto de datos MNIST. Según la página web MNIST de Yann LeCun , 'Ciresan et al.' obtuvo una tasa de error del 0.23% en el conjunto de prueba MNIST usando la red neuronal convolucional. Denotemos el conjunto de entrenamiento MNIST como DtrainDtrainD_{train} , el …

16 machine-learning  classification  overfitting  probability-inequalities 

Estoy tratando de usar Random Forest para predecir el resultado de un conjunto de datos extremadamente desequilibrado (la tasa de clase minoritaria es de solo 1% o incluso menos). Debido a que el algoritmo tradicional de bosque aleatorio minimiza la tasa de error general, en lugar de prestar especial atención …

16 r  random-forest 

Sé muy poco de probabilidad y estadística, y deseo aprender. Veo la palabra "distribución" utilizada en todo el lugar en diferentes contextos. Por ejemplo, una variable aleatoria discreta tiene una "distribución de probabilidad". Yo sé lo que es esto. Una variable aleatoria continua tiene una función de densidad de probabilidad, …

16 distributions  definition 

Estoy realizando una prueba de bondad de ajuste de chi-cuadrado (GOF) con tres categorías y específicamente quiero probar la nula de que las proporciones de población en cada categoría son iguales (es decir, la proporción es 1/3 en cada grupo): DATOS OBSERVADOS Grupo 1 Grupo 2 Grupo 3 Total 686 …

16 hypothesis-testing  chi-squared  goodness-of-fit  post-hoc 

Acabo de comenzar a estudiar estadísticas y no puedo obtener una comprensión intuitiva de la suficiencia. Para ser más precisos, no puedo entender cómo mostrar que los dos párrafos siguientes son equivalentes: Aproximadamente, dado un conjunto X de datos independientes distribuidos idénticamente condicionados en un parámetro desconocido θ, una estadística …

16 sufficient-statistics 

Si comenzamos con un conjunto de datos , le aplicamos Lasso y obtenemos una solución β L , podemos volver a aplicar Lasso al conjunto de datos ( X S , Y ) , donde S es el conjunto de valores distintos de cero. índices de β L , para …

16 regression  optimization  lasso  regularization  shrinkage 

Como se explica en este folleto del curso (página 1) , se puede escribir un modelo lineal en la forma: y=β1x1+⋯+βpxp+εi,y=β1x1+⋯+βpxp+εi, y = \beta_1 x_{1} + \cdots + \beta_p x_{p} + \varepsilon_i, donde es la variable de respuesta y es la variable explicativa .yyyxixix_{i}ithithi^{th} A menudo, con el objetivo de …

16 regression  generalized-linear-model  data-transformation  linear-model 

En la regresión de lazo o cresta, uno tiene que especificar un parámetro de contracción, a menudo llamado o . Este valor a menudo se elige a través de la validación cruzada al verificar un montón de valores diferentes en los datos de entrenamiento y ver cuál produce el mejor, …

16 regression  lasso  regularization  ridge-regression  penalized 

¿Cómo estima el modelo de pronóstico apropiado para una serie de tiempo mediante inspección visual de las parcelas ACF y PACF? ¿Cuál (es decir, ACF o PACF) le dice al AR o al MA (o ambos)? ¿Qué parte de los gráficos le dice la parte estacional y no estacional para …

16 r  time-series  forecasting  acf-pacf