Preguntas etiquetadas con regression

Los valores típicos de AIC que he visto para modelos logísticos están en miles, al menos cientos. Por ejemplo, en http://www.r-bloggers.com/how-to-perform-a-logistic-regression-in-r/ el AIC es 727.39 Si bien siempre se dice que AIC debe usarse solo para comparar modelos, quería entender qué significa un valor AIC particular. Según la fórmula, AIC=−2log(L)+2KAIC=−2log⁡(L)+2KAIC= …

9 regression  model-selection  aic  accuracy 

Supongo una configuración general de regresión, es decir, una función continua se elige de una familia { h θ } θ para ajustarse a los datos dados ( x i , y i ) ∈ X × R n , i = 1 , ... , k ( X puede …

9 regression  machine-learning  multiple-regression 

¿Qué piensa sobre el uso de la regresión para proyectar fuera del rango de datos? Si estamos seguros de que sigue una forma de modelo lineal o de potencia, ¿no podría ser útil el modelo más allá del rango de datos? Por ejemplo, tengo un volumen impulsado por el precio. …

9 regression  dataset  linear-model 

Cuando utilizo k-fold CV para seleccionar entre los modelos de regresión, generalmente calculo el error CV por separado para cada modelo, junto con su error estándar SE, y selecciono el modelo más simple dentro de 1 SE del modelo con el error CV más bajo (el 1 regla de error …

9 regression  cross-validation  model-selection 

Considere un modelo de regresión lineal: yi=xi⋅β+εi,i=1,…,n,yi=xi⋅β+εi,i=1,…,n, y_i = \mathbf x_i \cdot \boldsymbol \beta + \varepsilon _i, \, i=1,\ldots ,n, donde εi∼L(0,b)εi∼L(0,b)\varepsilon _i \sim \mathcal L(0, b) , es decir , La distribución de Laplace con media 000 y parámetro de escala bbb , son todos independientes entre sí. Considere …

9 regression  laplace-distribution 

En este artículo , ( Inferencia bayesiana para componentes de varianza usando solo contrastes de error , Harville, 1974), el autor afirma es un "bien conocido relación ", para una regresión lineal donde (y−Xβ)′H−1(y−Xβ)=(y−Xβ^)′H−1(y−Xβ^)+(β−β^)′(X′H−1X)(β−β^)(y−Xβ)′H−1(y−Xβ)=(y−Xβ^)′H−1(y−Xβ^)+(β−β^)′(X′H−1X)(β−β^)(y-X\beta)'H^{-1}(y-X\beta)=(y-X\hat\beta)'H^{-1}(y-X\hat\beta)+(\beta-\hat\beta)'(X'H^{-1}X)(\beta-\hat\beta)y=Xβ+ϵ,y=Xβ+ϵ,y=X\beta+\epsilon,ϵ∼N(0,H).ϵ∼N(0,H).\epsilon\sim\mathcal{N}(0, H). ¿Cómo se sabe esto? ¿Cuál es la forma más simple de probar esto?

9 regression  regression-coefficients  heteroscedasticity  bias  linear-algebra 

Leí en un libro de aprendizaje automático que los parámetros de regresión lineal se pueden estimar (entre otros métodos) por descenso de gradiente, mientras que los parámetros de regresión logística generalmente se estiman por estimación de máxima verosimilitud. ¿Es posible explicarle a un novato (yo) por qué necesitamos diferentes métodos …

9 regression  logistic  maximum-likelihood 

En mi libro de texto econométrico (Econometría introductoria) que cubre OLS, el autor escribe: "SSR debe caer cuando se agrega otra variable explicativa". Por que es

9 regression  optimization  econometrics  intuition  sums-of-squares 

Preguntas: ¿Se utilizan modelos lineales inadecuados en la práctica o se describe algún tipo de curiosidad de vez en cuando en revistas científicas? Si es así, ¿en qué áreas se utilizan? ¿Hay otros ejemplos de tales modelos? Finalmente, ¿serían correctos los errores estándar, los valores , R 2, etc. tomados …

9 regression  references  linear-model  robust 

Leí sobre los conceptos básicos del análisis de componentes principales del tutorial1 , link1 y link2 . Tengo un conjunto de datos de 100 variables (incluida la variable de salida Y), quiero reducir las variables a 40 por PCA, y luego predecir la variable Y utilizando esas 40 variables. Problema …

9 regression  pca 

La función R cv.glm (biblioteca: arranque) calcula el error estimado de predicción de validación cruzada K-fold para modelos lineales generalizados y devuelve delta. ¿Tiene sentido usar esta función para una regresión de lazo (biblioteca: glmnet) y, de ser así, ¿cómo se puede llevar a cabo? La biblioteca glmnet utiliza una …

9 r  regression  cross-validation  lasso  glmnet 

¿Cómo debo entender el anovaresultado al comparar dos modelos? Ejemplo: Res.Df RSS Df Sum of Sq F Pr(>F) 1 9 54.032 2 7 4.632 2 49.4 37.329 0.0001844 *** La página de manual dice: "Calcular las tablas de análisis de varianza (o desviación) para uno o más objetos de modelo …

9 r  regression  anova 

A veces suponemos que los regresores son fijos, es decir, no son estocásticos. Creo que eso significa que todos nuestros predictores, estimaciones de parámetros, etc. son incondicionales, ¿verdad? ¿Podría incluso ir tan lejos que ya no son variables aleatorias? Si, por otro lado, aceptamos que la mayoría de los regresores …

9 regression  inference  philosophical  conditioning  ancillary-statistics 

Intento predecir un puntaje de equilibrio y probé varios métodos de regresión diferentes. Una cosa que noté es que los valores predichos parecen tener algún tipo de límite superior. Es decir, el saldo real está en , pero mis predicciones alcanzan alrededor de 0.8 . La siguiente gráfica muestra el …

9 regression  distributions  data-transformation  prediction  bounds 

Utilizo la decomposefunción Ry encuentro los 3 componentes de mi serie temporal mensual (tendencia, estacional y aleatoria). Si trazo el gráfico o miro la tabla, puedo ver claramente que la serie temporal se ve afectada por la estacionalidad. Sin embargo, cuando retrocedo la serie temporal en las 11 variables ficticias …

9 r  regression  time-series