¿La mejor manera de lidiar con la heteroscedasticidad?

Tengo una gráfica de valores residuales de un modelo lineal en función de los valores ajustados donde la heterocedasticidad es muy clara. Sin embargo, no estoy seguro de cómo proceder ahora porque, por lo que entiendo, esta heterocedasticidad invalida mi modelo lineal. (¿Está bien?)

1. Use un ajuste lineal robusto usando la rlm()función del MASSpaquete porque aparentemente es resistente a la heterocedasticidad.

2. Como los errores estándar de mis coeficientes son incorrectos debido a la heterocedasticidad, ¿puedo ajustar los errores estándar para que sean robustos a la heterocedasticidad? Usando el método publicado en Stack Overflow aquí: Regresión con errores estándar corregidos de heterocedasticidad

¿Cuál sería el mejor método para tratar mi problema? Si uso la solución 2, ¿es completamente inútil mi capacidad de predicción de mi modelo?

La prueba de Breusch-Pagan confirmó que la varianza no es constante.

Mis residuos en función de los valores ajustados se ven así:

(versión más grande)

Es una buena pregunta, pero creo que es la pregunta equivocada. Su figura deja en claro que tiene un problema más fundamental que la heterocedasticidad, es decir, su modelo tiene una no linealidad que no ha tenido en cuenta. Muchos de los problemas potenciales que puede tener un modelo (no linealidad, interacciones, valores atípicos, heterocedasticidad, no normalidad) pueden enmascararse entre sí. No creo que haya una regla dura y rápida, pero en general sugeriría tratar los problemas en el orden

outliers > nonlinearity > heteroscedasticity > non-normality

(por ejemplo, no se preocupe por la no linealidad antes de verificar si hay observaciones extrañas que sesguen el ajuste; no se preocupe por la normalidad antes de preocuparse por la heterocedasticidad).

En este caso particular, ajustaría un modelo cuadrático y ~ poly(x,2)( poly(x,2,raw=TRUE)oo y ~ x + I(x^2)y vería si hace que el problema desaparezca).

Enumero una serie de métodos para tratar la heterocedasticidad (con Rejemplos) aquí: Alternativas al ANOVA unidireccional para datos heteroscedasticos . Muchas de esas recomendaciones serían menos ideales porque tiene una sola variable continua, en lugar de una variable categórica de varios niveles, pero de todos modos sería bueno leerla como una descripción general.

Para su situación, los mínimos cuadrados ponderados (quizás combinados con una regresión robusta si sospecha que puede haber algunos valores atípicos) serían una opción razonable. Usar los errores de sandwich Huber-White también sería bueno.

Aquí hay algunas respuestas a sus preguntas específicas:

1. La regresión robusta es una opción viable, pero sería mejor si se combina con pesos en mi opinión. Si no le preocupa que la heterocedasticidad se deba a valores atípicos, puede usar una regresión lineal regular con pesos. Tenga en cuenta que la variación puede ser muy sensible a los valores atípicos, y sus resultados pueden ser sensibles a los pesos inapropiados, por lo que lo que podría ser más importante que usar una regresión robusta para el modelo final sería usar una medida robusta de dispersión para estimar los pesos. En el hilo vinculado, uso 1 / IQR, por ejemplo.
2. Los errores estándar son incorrectos debido a la heterocedasticidad. Puede ajustar los errores estándar con el estimador de emparedado Huber-White. Eso es lo que está haciendo @GavinSimpson en el hilo SO vinculado.

La heterocedasticidad no hace que su modelo lineal sea totalmente inválido. Afecta principalmente a los errores estándar. Si no tiene valores atípicos, los métodos de mínimos cuadrados deben permanecer imparciales. Por lo tanto, la precisión predictiva de las predicciones puntuales no debería verse afectada. La cobertura de los intervalos de predicciones se vería afectado si no modelar la varianza en función de y usarlo para ajustar el ancho de los intervalos de predicción condicionada a . $X$$X$

Cargue sandwich packagey calcule la matriz var-cov de su regresión con var_cov<-vcovHC(regression_result, type = "HC4")(lea el manual de sandwich). Ahora con el lmtest packageuso de la coeftestfunción:

coeftest(regression_result, df = Inf, var_cov)

¿Cómo se ve la distribución de sus datos? ¿Se parece a una curva de campana? A partir del tema, ¿se puede distribuir normalmente? La duración de una llamada telefónica puede no ser negativa, por ejemplo. Entonces, en ese caso específico de llamadas, una distribución gamma lo describe bien. Y con gamma puede usar el modelo lineal generalizado (glm en R)