Preguntas etiquetadas con regression

Si en una regresión lineal tengo una variable categórica ... ¿cómo sé la importancia estática de la variable categórica? Digamos que el factor tiene 10 niveles ... habrá 10 valores t resultantes diferentes, bajo el paraguas de una variable de factor ...X1X1X_1X1X1X_1 ¿Me parece que la significación estadística se prueba …

18 regression  statistical-significance  categorical-data 

Tengamos un modelo lineal, por ejemplo, ANOVA simple: # data generation set.seed(1.234) Ng <- c(41, 37, 42) data <- rnorm(sum(Ng), mean = rep(c(-1, 0, 1), Ng), sd = 1) fact <- as.factor(rep(LETTERS[1:3], Ng)) m1 = lm(data ~ 0 + fact) summary(m1) El resultado es el siguiente: Call: lm(formula = data …

18 r  regression  confidence-interval 

Estoy sufriendo un apagón. Se me presentó la siguiente imagen para mostrar el equilibrio de sesgo-varianza en el contexto de la regresión lineal: Puedo ver que ninguno de los dos modelos encaja bien: el "simple" no aprecia la complejidad de la relación XY y el "complejo" simplemente se sobreajusta, básicamente …

18 regression  variance  bias 

Espero que alguien pueda ayudarme a aclarar un punto de confusión para mí. Digamos que quiero probar si 2 conjuntos de coeficientes de regresión son significativamente diferentes entre sí, con la siguiente configuración: yi=α+βxi+ϵiyi=α+βxi+ϵiy_i = \alpha + \beta x_i + \epsilon_i , con 5 variables independientes. 2 grupos, con tamaños …

18 regression  hypothesis-testing  multiple-regression 

Me encontré con algunos estadísticos que nunca usan modelos que no sean Regresión lineal para la predicción porque creen que los "modelos ML", como el bosque aleatorio o el aumento de gradiente, son difíciles de explicar o "no interpretables". En una regresión lineal, dado que se verifica el conjunto de …

18 regression  machine-learning  multiple-regression  model-interpretation 

En un escenario de regresión LASSO donde y=Xβ+ϵy=Xβ+ϵy= X \beta + \epsilon , y las estimaciones de LASSO están dadas por el siguiente problema de optimización minβ||y−Xβ||+τ||β||1minβ||y−Xβ||+τ||β||1 \min_\beta ||y - X \beta|| + \tau||\beta||_1 ¿Hay supuestos de distribución con respecto al ?ϵϵ\epsilon En un escenario OLS, uno esperaría que los …

18 regression  lasso  assumptions  residuals 

Tengo una variable numérica que resulta no significativa en un modelo de regresión logística multivariante. Sin embargo, cuando lo categorizo ​​en grupos, de repente se vuelve significativo. Esto es muy contra-intuitivo para mí: al categorizar una variable, proporcionamos cierta información. ¿Cómo puede ser esto?

17 regression  logistic  statistical-significance  multivariate-analysis 

He entrenado un modelo de regresión lineal, utilizando un conjunto de variables / características. Y el modelo tiene un buen rendimiento. Sin embargo, me he dado cuenta de que no hay una variable con una buena correlación con la variable predicha. ¿Como es posible?

17 regression  machine-learning  correlation  multiple-regression  linear-model 

Vi esta lista aquí y no podía creer que hubiera tantas formas de resolver mínimos cuadrados. Las "ecuaciones normales" en la Wikipedia parecían ser una forma bastante α^β^=y¯−β^x¯,=∑ni=1(xi−x¯)(yi−y¯)∑ni=1(xi−x¯)2α^=y¯−β^x¯,β^=∑i=1n(xi−x¯)(yi−y¯)∑i=1n(xi−x¯)2 {\displaystyle {\begin{aligned}{\hat {\alpha }}&={\bar {y}}-{\hat {\beta }}\,{\bar {x}},\\{\hat {\beta }}&={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}\end{aligned}}} Entonces, ¿por qué no solo usarlos? …

17 regression  least-squares  scikit-learn 

Es bien sabido que la regresión lineal con una penalización de es equivalente a encontrar la estimación MAP dada una Gaussiana anterior sobre los coeficientes. Del mismo modo, usar una penalización es equivalente a usar una distribución de Laplace como la anterior.l2l2l^2l1l1l^1 No es raro usar alguna combinación ponderada de …

17 regression  bayesian  regularization  prior  elastic-net 

La regresión beta (es decir, GLM con distribución beta y generalmente la función de enlace logit) a menudo se recomienda para tratar la respuesta, también conocida como variable dependiente que toma valores entre 0 y 1, como fracciones, razones o probabilidades: regresión para un resultado (relación o fracción) entre 0 …

17 regression  generalized-linear-model  beta-distribution  zero-inflation  beta-regression 

¿Alguien puede explicarme las diferencias reales entre el análisis de regresión y el ajuste de curvas (lineal y no lineal), con un ejemplo si es posible? Parece que ambos intentan encontrar una relación entre dos variables (dependiente frente a independiente) y luego determinan el parámetro (o coeficiente) asociado con los …

17 regression  multiple-regression  fitting  roc  curve-fitting 

Tengo algunos datos que ajusté usando un modelo LOESS en R, dándome esto: Los datos tienen un predictor y una respuesta, y es heteroscedastic. También agregué intervalos de confianza. El problema es que los intervalos son intervalos de confianza para la línea, mientras que estoy interesado en los intervalos de …

17 r  regression  prediction-interval  loess 

Tengo un modelo de dataset de Películas y usé la regresión: model <- lm(imdbVotes ~ imdbRating + tomatoRating + tomatoUserReviews+ I(genre1 ** 3.0) +I(genre2 ** 2.0)+I(genre3 ** 1.0), data = movies) library(ggplot2) res <- qplot(fitted(model), resid(model)) res+geom_hline(yintercept=0) Lo que dio la salida: Ahora intenté trabajar por primera vez algo llamado …

17 regression  data-visualization  multiple-regression  scatterplot 

Tengo una pregunta sobre el sesgo variable omitido en la regresión logística y lineal. Digamos que omito algunas variables de un modelo de regresión lineal. Imagine que esas variables omitidas no están correlacionadas con las variables que incluí en mi modelo. Esas variables omitidas no sesgan los coeficientes en mi …

17 regression  logistic  least-squares  bias