Coeficiente de regresión logística exponencial diferente al odds ratio


10

Según tengo entendido, el valor beta exponencial de una regresión logística es la razón de posibilidades de esa variable para la variable dependiente de interés. Sin embargo, el valor no coincide con la razón de probabilidades calculada manualmente. Mi modelo predice retraso en el crecimiento (una medida de desnutrición) usando, entre otros indicadores, seguros.

// Odds ratio from LR, being done in stata
logit stunting insurance age ... etc. 
or_insurance = exp(beta_value_insurance)

// Odds ratio, manually calculated
odds_stunted_insured = num_stunted_ins/num_not_stunted_ins
odds_stunted_unins = num_stunted_unins/num_not_stunted_unins
odds_ratio = odds_stunted_ins/odds_stunted_unins

¿Cuál es la razón conceptual para que estos valores sean diferentes? ¿Controlando otros factores en la regresión? Solo quiero poder explicar la discrepancia.


2
¿Está poniendo predictores adicionales en el modelo de regresión logística? La razón de probabilidades calculada manualmente solo coincidirá con la razón de probabilidades que obtiene de la regresión logística si no incluye otros predictores.
Macro

Eso es lo que pensé, pero quería confirmación. ¿Eso se debe a que el resultado de la regresión es responsable de la variación en otros predictores?
mike

Sí, @mike. Suponiendo que el modelo está especificado correctamente, puede interpretarlo como la razón de posibilidades cuando los otros predictores están todos fijos.
Macro

@Macro: ¿te importaría repetir tu comentario como respuesta?
jrennie

Respuestas:


22

Si solo está poniendo ese predictor solitario en el modelo, entonces la razón de posibilidades entre el predictor y la respuesta será exactamente igual al coeficiente de regresión exponencial . No creo que una derivación de este resultado esté presente en el sitio, así que aprovecharé esta oportunidad para proporcionarlo.


Considere un resultado binario y un predictor binario único :XYX

Y=1Y=0X=1p11p10X=0p01p00

Entonces, una forma de calcular la razón de posibilidades entre e esY iXiYi

OR=p11p00p01p10

Por definición de probabilidad condicional, . En la relación, las probabilidades marginales que involucran la cancelan y puede reescribir la razón de probabilidades en términos de las probabilidades condicionales de :X Y | Xpij=P(Y=i|X=j)P(X=j)XY|X

OR=P(Y=1|X=1)P(Y=0|X=1)P(Y=0|X=0)P(Y=1|X=0)

En la regresión logística, modela estas probabilidades directamente:

log(P(Yi=1|Xi)P(Yi=0|Xi))=β0+β1Xi

Entonces podemos calcular estas probabilidades condicionales directamente del modelo. La primera relación en la expresión para anterior es:OR

P(Yi=1|Xi=1)P(Yi=0|Xi=1)=(11+e(β0+β1))(e(β0+β1)1+e(β0+β1))=1e(β0+β1)=e(β0+β1)

y el segundo es:

P(Yi=0|Xi=0)P(Yi=1|Xi=0)=(eβ01+eβ0)(11+eβ0)=eβ0

conectando esto de nuevo a la fórmula, tenemos , que es el resultado.OR=e(β0+β1)eβ0=eβ1

Nota: Cuando tenga otros predictores, , en el modelo, el coeficiente de regresión exponencial (usando una derivación similar) es en realidadZ1,...,Zp

P(Y=1|X=1,Z1,...,Zp)P(Y=0|X=1,Z1,...,Zp)P(Y=0|X=0,Z1,...,Zp)P(Y=1|X=0,Z1,...,Zp)

por lo tanto, la razón de probabilidades está condicionada a los valores de los otros predictores en el modelo y, en general, no es igual a

P(Y=1|X=1)P(Y=0|X=1)P(Y=0|X=0)P(Y=1|X=0)

Por lo tanto, no es sorprendente que esté observando una discrepancia entre el coeficiente exponencial y la razón de probabilidades observada.

Nota 2: deduje una relación entre el verdadero y la verdadera razón de posibilidades, pero tenga en cuenta que la misma relación se mantiene para las cantidades de muestra ya que la regresión logística ajustada con un solo predictor binario reproducirá exactamente las entradas de un dos por dos mesa. Es decir, los medios ajustados coinciden exactamente con los medios de muestra, como con cualquier GLM. Entonces, toda la lógica utilizada anteriormente se aplica con los valores verdaderos reemplazados por cantidades de muestra. β


2
Wow, gracias por tomarse el tiempo para escribir una explicación tan completa.
mike

@Macro Descubrí que "el valor de p es menor que 0.05" y "el IC del 95% no incluye 1" no son consistentes en la regresión logística (utilicé SAS). ¿Este fenómeno está relacionado con tu explicación?
user67275

4

Tiene una muy buena respuesta de @Macro (+1), quien ha señalado que la razón de probabilidad simple (marginal) calculada sin referencia a un modelo y la razón de probabilidad tomada de un modelo de regresión logística múltiple ( ) en general no son iguales. Me pregunto si aún puedo aportar un poco de información relacionada aquí, en particular explicando cuándo serán y no serán iguales. exp(β)

Los valores beta en la regresión logística, como en la regresión OLS, especifican el cambio ceteris paribus en el parámetro que rige la distribución de respuesta asociada con un cambio de 1 unidad en la covariable. (Para la regresión logística, este es un cambio en el logit de la probabilidad de 'éxito', mientras que para la regresión OLS es la media, .) Es decir, es el cambio siendo todo lo demás igual . Las betas exponenciadas tienen proporciones similares de ceteris paribus. Por lo tanto, el primer problema es asegurarse de que sea posible que esto sea significativo. Específicamente, la covariable en cuestión no debería existir en otros términos (por ejemplo, en una interacción o un término polinómico) en otra parte del modelo. (Tenga en cuenta que aquí me refiero a los términos que se incluyenμen su modelo, pero también hay problemas si la verdadera relación varía entre los niveles de otra covariable, pero no se incluyó un término de interacción, por ejemplo). Una vez que hayamos establecido que es significativo calcular una razón de probabilidades exponiendo una beta de un modelo de regresión logística, podemos hacernos las preguntas de cuándo diferirán las razones de probabilidades marginales y basadas en el modelo, y ¿cuál preferiría cuando lo hagan?

La razón por la que estos ORs diferirán es porque las otras covariables incluidas en su modelo no son ortogonales a la en cuestión. Por ejemplo, puede verificar ejecutando una correlación simple entre sus covariables (no importa cuáles sean los valores p, o si sus covariables son lugar de continuas, el punto es simplemente que ). Por otro lado, cuando todas sus otras covariables son ortogonales a la pregunta, será igual al OR marginal. r 0 exp ( β )0/1r0exp(β)

Si el OR marginal y el OR basado en el modelo difieren, debe usar / interpretar la versión basada en el modelo. La razón es que el OR marginal no tiene en cuenta la confusión entre sus covariables, mientras que el modelo sí. Este fenómeno está relacionado con la Paradoja de Simpson , sobre la que puede que desee leer (SEP también tiene una buena entrada , hay una discusión sobre CV aquí: Basic-simpson-paradox , y puede buscar en la etiqueta de CV ). En aras de la simplicidad y la practicidad, es posible que solo desee utilizar el OR basado en el modelo, ya que será claramente preferible o igual.

Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.