¿Por qué la regresión logística es un modelo lineal?

24

Quiero saber por qué la regresión logística se llama modelo lineal. Utiliza una función sigmoidea, que no es lineal. Entonces, ¿por qué la regresión logística es un modelo lineal?

regression logistic terminology

— usuario34790
fuente

66

El logit de

(el log de las probabilidades) es lineal en los parámetros, pero la gente no se refiere a la regresión logística tan lineal hasta donde yo sé. ¿Puedes citar quién ha dicho esto?

π

$\pi$

— gung - Restablece a Monica

@ gung-ReinstateMonica Por ejemplo, en el libro Deep Learning en la página 169 ( deeplearningbook.org/contents/mlp.html ). En el libro señalan que "los modelos lineales, como la regresión logística y la regresión lineal, son atractivos ....." Creo que se referían al modelo lineal generalizado para la regresión logística.

— JOVEN

33

El modelo de regresión logística tiene la forma Se llama unmodelo linealgeneralizadono porque la probabilidad estimada del evento de respuesta sea lineal, sino porque el logit de la respuesta de probabilidad estimada es una función lineal de losparámetrosde los~~predictores~~.

l o sol yo t ({pags}_{yo}) = l norte (\frac{{pags}_{yo}}{1 - {pags}_{yo}}) = β_{0 0} + β_{1} X_{1, yo} + β_{2} X_{2, yo} + \dots + β_{pags} X_{pags, yo} .

$\mathrm{logit}(p_i) = \mathrm{ln}\left(\frac{p_i}{1-p_i}\right) = \beta_0 + \beta_1 x_{1,i} + \beta_2 x_{2,i} + \cdots + \beta_p x_{p,i}.$

sol (μ_{yo}) = β_{0 0} + β_{1} X_{1, yo} + β_{2} X_{2, yo} + \dots + β_{pags} X_{pags, yo},

$\mathrm{g}(\mu_i) = \beta_0 + \beta_1 x_{1,i} + \beta_2 x_{2,i} + \cdots + \beta_p x_{p,i},$

μ

$\mu$

Editar: Gracias whuber por la corrección.

— P Schnell
fuente

77

Si escribiera "lineal generalizado" en lugar de "lineal" y parámetros en lugar de predictores, esto sería correcto. (Muchos modelos de regresión logística no son lineales en los predictores. Por ejemplo, ninguna regresión logística con un término de interacción será lineal en los predictores.)

— whuber

Estás en lo correcto, gracias. He actualizado mi respuesta para reflejar esto.

— P Schnell

¿Qué es Pi allí?

— Aerin

7

$Y=b_0+∑(b_i X_i)+\epsilon$ $Y$

$Y=1$

PAGS (Y = 1) = \frac{1}{1 + {mi}^{- ({si}_{0 0} + \sum ({si}_{yo} X_{yo}))}}

$P(Y=1) = {1 \over 1+e^{-(b_0+\sum{(b_iX_i)})}}$

— lennon310
fuente

7

Lineal significa lineal en betas (los coeficientes) pero no en x (las variables independientes), por lo que siempre que sus betas no sean no lineales, su modelo es lineal.

— Yilun Zhang
fuente

3

Eso es cierto - pero por desgracia la regresión logística es una generalizada modelo lineal y es no lineal en los parámetros.

— whuber