Calcular errores estándar para problemas de regresión lineal sin calcular inversa


11

¿Existe una forma más rápida de calcular errores estándar para problemas de regresión lineal, que invirtiendo ? Aquí supongo que tenemos regresión:XX

y=Xβ+ε,

donde es n × k matriz e y es n × 1 vector.Xn×kyn×1

Para encontrar la solución del problema de mínimos cuadrados no es práctico hacer nada con , puede usar descomposiciones QR o SVD en la matriz X directamente. O, alternativamente, puede utilizar métodos de gradiente. ¿Pero qué pasa con los errores estándar? Realmente solo necesitamos la diagonal de ( X X ) - 1 (y, naturalmente, la solución LS para calcular la estimación del error estándar de ε ). ¿Existen métodos específicos para el cálculo de errores estándar?XXX(XX)1ε

Respuestas:


5

Supongamos que resolvió su problema de mínimos cuadrados utilizando la descomposición de valor singular (SVD) de , dada porX

X=UΣV,

donde y V son unitarios, y Σ es diagonal.UVΣ

Entonces

XX=VΣ2V.

(XX)1X

(XX)1=VΣ2V.

(Vea una respuesta que le di a una pregunta relacionada en Math.SE. )

ΣV(XX)1nn×nn2O(n3)

XXX


+1, me olvidé de esa bonita propiedad SVD. Si no hay otras respuestas, aceptaré esta respuesta, ya que es bastante cercana a la que quería obtener (y ciertamente magnitudes mejores de las que esperaba obtener :))
mpiktas

(XX)1O(n2)X

(XX)1

Σ

Ignora el último comentario, hay un error allí. Sin embargo, obtuve la fórmula correcta.
mpiktas
Al usar nuestro sitio, usted reconoce que ha leído y comprende nuestra Política de Cookies y Política de Privacidad.
Licensed under cc by-sa 3.0 with attribution required.