Preguntas etiquetadas con regression

El estadístico de prueba para la prueba de Hosmer-Lemeshow (HLT) para la bondad de ajuste (GOF) de un modelo de regresión logística se define de la siguiente manera: La muestra se divide en d=10d=10d=10 deciles, D1,D2,…,DdD1,D2,…,DdD_1, D_2, \dots , D_{d} , por decil se calculan las siguientes cantidades: O1d=∑i∈DdyiO1d=∑i∈DdyiO_{1d}=\displaystyle \sum_{i …

33 regression  logistic  goodness-of-fit  degrees-of-freedom  hosmer-lemeshow-test 

Me imagino que cuanto mayor es el coeficiente de una variable, más capacidad tiene el modelo para "oscilar" en esa dimensión, lo que brinda una mayor oportunidad de ajustar el ruido. Aunque creo que tengo un sentido razonable de la relación entre la varianza en el modelo y los coeficientes …

33 regression  variance  linear-model  bias  regularization 

Soy un ingeniero de software que aprende el aprendizaje automático, particularmente a través de los cursos de aprendizaje automático de Andrew Ng . Mientras estudiaba la regresión lineal con la regularización , encontré términos que son confusos: Regresión con regularización L1 o regularización L2 LAZO Regresión de cresta Entonces mis …

33 regression  terminology  lasso  regularization  ridge-regression 

La regularización de Tikhonov y la regresión de crestas son términos que a menudo se usan como si fueran idénticos. ¿Es posible especificar exactamente cuál es la diferencia?

33 regression  terminology  regularization  ridge-regression  tikhonov-regularization 

Estoy tratando de entender el origen de la forma curva de las bandas de confianza asociadas con una regresión lineal OLS y cómo se relaciona con los intervalos de confianza de los parámetros de regresión (pendiente e intercepción), por ejemplo (usando R): require(visreg) fit <- lm(Ozone ~ Solar.R,data=airquality) visreg(fit) Parece …

33 regression  confidence-interval 

¿Alguien puede recomendar una buena exposición de la teoría detrás de la regresión de mínimos cuadrados parciales (disponible en línea) para alguien que entiende SVD y PCA? He visto muchas fuentes en línea y no he encontrado nada que tuviera la combinación correcta de rigor y accesibilidad. He examinado los …

33 regression  references  regularization  svd  partial-least-squares 

Para el problema de regresión, he visto a personas usar el "coeficiente de determinación" (también conocido como R al cuadrado) para realizar la selección del modelo, por ejemplo, encontrar el coeficiente de penalización apropiado para la regularización. Sin embargo, también es común usar "error cuadrático medio" o "error cuadrático medio …

33 regression  r-squared 

Al hacer la regresión, por ejemplo, dos hiperparámetros para elegir son a menudo la capacidad de la función (por ejemplo, el mayor exponente de un polinomio) y la cantidad de regularización. Lo que me confunde es, ¿por qué no elegir una función de baja capacidad y luego ignorar cualquier regularización? …

32 regression  machine-learning  optimization  regularization  polynomial 

Acabo de encontrar el cuarteto de Anscombe (cuatro conjuntos de datos que tienen estadísticas descriptivas casi indistinguibles pero se ven muy diferentes cuando se trazan) y tengo curiosidad por saber si hay otros conjuntos de datos más o menos conocidos que se hayan creado para demostrar la importancia de ciertos …

32 regression  data-visualization  dataset 

Estoy adaptando un lm()modelo a un conjunto de datos que incluye indicadores para el trimestre financiero (Q1, Q2, Q3, lo que hace que Q4 sea un valor predeterminado). Usando lm(Y~., data = data) obtengo a NAcomo coeficiente para Q3, y una advertencia de que una variable fue excluida debido a …

32 r  regression 

Un documento "Cálculo preciso de la varianza de carrera" en http://www.johndcook.com/standard_deviation.html muestra cómo calcular la media de carrera, la varianza y las desviaciones estándar. ¿Existen algoritmos en los que los parámetros de un modelo de regresión lineal o logística puedan actualizarse "dinámicamente" de manera similar a medida que se proporciona …

32 regression  logistic  online 

Estoy un poco confundido con una conferencia sobre regresión lineal dada por Andrew Ng en Coursera sobre el aprendizaje automático. Allí, le dio una función de costo que minimiza la suma de cuadrados como: 12m∑i=1m(hθ(X(i))−Y(i))212m∑i=1m(hθ(X(i))−Y(i))2 \frac{1}{2m} \sum _{i=1}^m \left(h_\theta(X^{(i)})-Y^{(i)}\right)^2 Entiendo de dónde viene el . Creo que lo hizo para …

32 regression  machine-learning  loss-functions 

He estado trabajando en un problema de regresión donde la entrada es una imagen, y la etiqueta es un valor continuo entre 80 y 350. Las imágenes son de algunos químicos después de que ocurre una reacción. El color que resulta indica la concentración de otro químico que queda, y …

32 regression  machine-learning  neural-networks  conv-neural-network  tensorflow 

Estoy tratando de entender por qué el resultado de la regresión logística de estas dos bibliotecas da resultados diferentes. Estoy usando el conjunto de datos del tutorial idre de UCLA , prediciendo en admitbase a gre, gpay rank. rankse trata como variable categórica, por lo que primero se convierte en …

31 regression  logistic  python  scikit-learn  statsmodels 

Estoy leyendo un artículo muy interesante de Sellers y Shmueli sobre modelos de regresión para datos de conteo. Cerca del comienzo (p. 944) citan a McCullaugh y Nelder (1989) diciendo que la regresión binomial negativa es impopular y tiene un vínculo canónico problemático. Encontré el pasaje referido y dice (p. …

31 regression  modeling  negative-binomial