Preguntas etiquetadas con regression

En una regresión lineal múltiple, ¿por qué es posible tener un estadístico F altamente significativo (p <.001) pero tener valores p muy altos en todas las pruebas t del regresor? En mi modelo, hay 10 regresores. Uno tiene un valor p de 0.1 y el resto está por encima de …

70 hypothesis-testing  regression  t-test  multicollinearity 

Hubiera esperado que el coeficiente de correlación fuera el mismo que una pendiente de regresión (beta), sin embargo, al comparar los dos, son diferentes. ¿Cómo difieren? ¿Qué información diferente dan?

69 regression  correlation 

He notado que el intervalo de confianza para los valores pronosticados en una regresión lineal tiende a ser estrecho alrededor de la media del predictor y engordar alrededor de los valores mínimos y máximos del predictor. Esto se puede ver en las gráficas de estas 4 regresiones lineales: Inicialmente pensé …

69 regression  confidence-interval  linear-model  standard-error  prediction-interval 

En realidad estoy revisando un manuscrito donde los autores comparan modelos de regresión de 5-6 logit con AIC. Sin embargo, algunos de los modelos tienen términos de interacción sin incluir los términos covariables individuales. ¿Tiene sentido hacer esto? Por ejemplo (no específico para los modelos logit): M1: Y = X1 …

68 regression  modeling  interaction  aic 

Recuerdo estar sentado en cursos de estadísticas como una audiencia de pregrado sobre por qué la extrapolación era una mala idea. Además, hay una variedad de fuentes en línea que comentan sobre esto. También hay una mención de esto aquí . ¿Alguien puede ayudarme a entender por qué la extrapolación …

68 regression  time-series  forecasting 

Estoy haciendo algunos cálculos en diferentes matrices (principalmente en regresión logística) y comúnmente aparece el error "Matrix is ​​singular", donde tengo que volver y eliminar las variables correlacionadas. Mi pregunta aquí es, ¿qué consideraría una matriz "altamente" correlacionada? ¿Existe un valor umbral de correlación para representar esta palabra? Como si …

66 regression  correlation  matrix  multicollinearity  singular 

Considere los siguientes tres fenómenos. Paradoja de Stein: dados algunos datos de la distribución normal multivariada en , la media muestral no es un muy buen estimador de la media real. Se puede obtener una estimación con un error cuadrático medio menor si se reducen todas las coordenadas de la …

65 regression  mixed-model  ridge-regression  shrinkage  steins-phenomenon 

Tengo lo que probablemente sea una pregunta simple, pero me desconcierta en este momento, así que espero que me puedan ayudar. Tengo un modelo de regresión de mínimos cuadrados, con una variable independiente y una variable dependiente. La relación no es significativa. Ahora agrego una segunda variable independiente. Ahora la …

64 regression  multiple-regression  power  suppressor 

¿Son realmente diferentes las regresiones múltiples y multivariadas? ¿Qué es una variante de todos modos?

63 regression  multiple-regression  terminology  multivariate-regression 

¿Es posible tener una ecuación de regresión (múltiple) con dos o más variables dependientes? Claro, podría ejecutar dos ecuaciones de regresión separadas, una para cada DV, pero eso no parece capturar ninguna relación entre los dos DV.

61 regression 

¿Puede alguien explicarme por qué alguien elegiría un método estadístico paramétrico en lugar de uno no paramétrico para pruebas de hipótesis o análisis de regresión? En mi opinión, es como ir en balsa y elegir un reloj no resistente al agua, porque es posible que no lo mojes. ¿Por qué …

60 regression  hypothesis-testing  mathematical-statistics  estimation  nonparametric 

Por lo que sé, usar el lazo para la selección de variables maneja el problema de las entradas correlacionadas. Además, dado que es equivalente a la regresión de ángulo mínimo, no es lenta computacionalmente. Sin embargo, muchas personas (por ejemplo, personas que conozco haciendo bioestadística) todavía parecen estar a favor …

60 regression  feature-selection  lasso 

Entiendo que la estimación de regresión de cresta es la que minimiza la suma residual del cuadrado y una penalización en el tamaño deβββ\betaββ\beta βridge=(λID+X′X)−1X′y=argmin[RSS+λ∥β∥22]βridge=(λID+X′X)−1X′y=argmin⁡[RSS+λ‖β‖22]\beta_\mathrm{ridge} = (\lambda I_D + X'X)^{-1}X'y = \operatorname{argmin}\big[ \text{RSS} + \lambda \|\beta\|^2_2\big] Sin embargo, no entiendo completamente la importancia del hecho de que βridgeβridge\beta_\text{ridge} difiere de …

59 regression  least-squares  ridge-regression  shrinkage 

¿Qué se quiere decir cuando decimos que tenemos un modelo saturado?

59 modeling  regression 

¿Qué técnicas están disponibles para contraer (o agrupar) muchas categorías a unas pocas, con el fin de usarlas como entrada (predictor) en un modelo estadístico? Considere una variable como estudiante universitario mayor (disciplina elegida por un estudiante universitario). Es desordenada y categórica, pero puede tener docenas de niveles distintos. Digamos …

58 regression  categorical-data  dimensionality-reduction  feature-construction  many-categories