Preguntas etiquetadas con regression-strategies

¿Estoy buscando una distribución de mejor comportamiento para la variable independiente en cuestión, o para reducir el efecto de los valores atípicos, o algo más?

164 regression  distributions  data-transformation  logarithm  regression-strategies 

Me pregunto cuál es el valor de tomar una variable predictora continua y dividirla (por ejemplo, en quintiles), antes de usarla en un modelo. Me parece que al agrupar la variable perdemos información. ¿Es esto solo para que podamos modelar efectos no lineales? Si mantenemos la variable continua y no …

78 regression  modeling  continuous-data  binning  regression-strategies 

Dado que RF puede manejar la no linealidad pero no puede proporcionar coeficientes, ¿sería prudente utilizar un bosque aleatorio para reunir las características más importantes y luego conectar esas características en un modelo de regresión lineal múltiple para obtener sus coeficientes?

50 regression  machine-learning  feature-selection  random-forest  regression-strategies 

¿Es posible sobreajustar un modelo de regresión logística? Vi un video que decía que si mi área bajo la curva ROC es superior al 95%, entonces es muy probable que se ajuste demasiado, pero ¿es posible sobreajustar un modelo de regresión logística?

28 logistic  overfitting  regression-strategies 

Reflexiono sobre la discusión en torno a esta pregunta y, en particular, sobre el comentario de Frank Harrell de que la estimación de la varianza en un modelo reducido (es decir, uno a partir del cual se probaron y rechazaron varias variables explicativas) debería usar los grados de libertad generalizados …

27 r  regression  model-selection  regression-strategies 

Como todos sabemos, hay 2 métodos para evaluar el modelo de regresión logística y están probando cosas muy diferentes. Poder de predicción: Obtenga una estadística que mida qué tan bien puede predecir la variable dependiente en función de las variables independientes. Los conocidos Pseudo R ^ 2 son McFadden (1974) …

24 r  logistic  goodness-of-fit  regression-strategies  model-evaluation 

Supongamos que he entrenado varios modelos en el conjunto de entrenamiento, elija el mejor usando el conjunto de validación cruzada y el rendimiento medido en el conjunto de prueba. Así que ahora tengo un mejor modelo final. ¿Debo volver a entrenarlo con todos mis datos disponibles o enviar una solución …

23 machine-learning  validation  regression-strategies 

Además de algunas circunstancias únicas en las que debemos comprender absolutamente la relación media condicional, ¿cuáles son las situaciones en las que un investigador debería elegir OLS en lugar de la Regresión Cuantil? No quiero que la respuesta sea "si no sirve de nada entender las relaciones de cola", ya …

22 least-squares  econometrics  regression-strategies  quantile-regression  semiparametric 

Dediqué mucho tiempo al desarrollo de métodos y software para validar modelos predictivos en el dominio estadístico frecuentista tradicional. Al poner en práctica más ideas bayesianas y enseñar, veo algunas diferencias clave que aceptar. Primero, el modelo predictivo bayesiano le pide al analista que piense detenidamente sobre las distribuciones anteriores …

20 bayesian  cross-validation  predictive-models  validation  regression-strategies 

Los métodos de selección de variables algorítmicas escalonadas tienden a seleccionar modelos que sesgan más o menos todas las estimaciones en los modelos de regresión ( ββ\beta y sus SE, valores p , estadísticas F , etc.), y tienen la misma probabilidad de excluir predictores verdaderos como incluir predictores falsos …

18 regression  feature-selection  lasso  regression-strategies  stepwise-regression 

Frank Harrell ha comenzado un blog ( Pensamiento estadístico) . En su publicación principal , enumera algunas características clave de su filosofía estadística. Entre otros artículos, incluye: Convertir el tamaño de la muestra en una variable aleatoria cuando sea posible ¿Qué significa "hacer que el tamaño de la muestra sea …

18 sample-size  random-variable  regression-strategies 

Esta es mi primera publicación en StackExchange, pero la he estado utilizando como recurso durante bastante tiempo, haré todo lo posible para usar el formato apropiado y realizar las ediciones apropiadas. Además, esta es una pregunta de varias partes. No estaba seguro de si debía dividir la pregunta en varias …

17 r  logistic  model-selection  regression-strategies 

Después de buscar una aclaración sobre los coeficientes del modelo lineal aquí , tengo una pregunta de seguimiento relativa a los no significativos (valor p alto) para los coeficientes de los niveles de factores. Ejemplo: si mi modelo lineal incluye un factor con 10 niveles, y solo 3 de esos …

15 statistical-significance  linear-model  model-selection  regression-coefficients  regression-strategies 

En el análisis discriminante, la variable dependiente es categórica, pero ¿puedo usar una variable categórica (por ejemplo, estado residencial: rural, urbano) junto con alguna otra variable continua como variable independiente en el análisis discriminante lineal?

15 logistic  categorical-data  discriminant-analysis  regression-strategies 

Usando estos datos: head(USArrests) nrow(USArrests) Puedo hacer un PCA de esta manera: plot(USArrests) otherPCA <- princomp(USArrests) Puedo obtener los nuevos componentes en otherPCA$scores y la proporción de varianza explicada por componentes con summary(otherPCA) Pero, ¿qué sucede si quiero saber qué variables se explican principalmente por qué componentes principales? Y viceversa: …

14 r  pca  dimensionality-reduction  regression-strategies