¿La varianza de una suma es igual a la suma de las varianzas?

62

¿Es (siempre) cierto que

V a r (\sum_{i = 1}^{m} X_{i}) = \sum_{i = 1}^{m} V a r (X_{i}) ?

$\mathrm{Var}\left(\sum\limits_{i=1}^m{X_i}\right) = \sum\limits_{i=1}^m{\mathrm{Var}(X_i)} \>?$

variance

— Abe
fuente

3

Las respuestas a continuación proporcionan la prueba. La intuición se puede ver en el caso simple var (x + y): si x e y están positivamente correlacionadas, ambas tenderán a ser grandes / pequeñas juntas, aumentando la variación total. Si están correlacionados negativamente, tenderán a cancelarse entre sí, disminuyendo la variación total.

— Assad Ebrahim

91

La respuesta a su pregunta es "A veces, pero no en general".

Para ver esto, dejemos que sean variables aleatorias (con variaciones finitas). Entonces, $X_1, ..., X_n$

v a r (\sum_{i = 1}^{n} X_{i}) = E ({[\sum_{i = 1}^{n} X_{i}]}^{2}) - {[E (\sum_{i = 1}^{n} X_{i})]}^{2}

${\rm var} \left( \sum_{i=1}^{n} X_i \right) = E \left( \left[ \sum_{i=1}^{n} X_i \right]^2 \right) - \left[ E\left( \sum_{i=1}^{n} X_i \right) \right]^2$

Ahora tenga en cuenta que , que está claro si usted piensa en lo que estás haciendo cuando calculas a mano. Por lo tanto, $(\sum_{i=1}^{n} a_i)^2 = \sum_{i=1}^{n} \sum_{j=1}^{n} a_i a_j$ $(a_1+...+a_n) \cdot (a_1+...+a_n)$

E ({[\sum_{i = 1}^{n} X_{i}]}^{2}) = E (\sum_{i = 1}^{n} \sum_{j = 1}^{n} X_{i} X_{j}) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} E (X_{i} X_{j})

$E \left( \left[ \sum_{i=1}^{n} X_i \right]^2 \right) = E \left( \sum_{i=1}^{n} \sum_{j=1}^{n} X_i X_j \right) = \sum_{i=1}^{n} \sum_{j=1}^{n} E(X_i X_j)$

similar,

{[E (\sum_{i = 1}^{n} X_{i})]}^{2} = {[\sum_{i = 1}^{n} E (X_{i})]}^{2} = \sum_{i = 1}^{n} \sum_{j = 1}^{n} E (X_{i}) E (X_{j})

$\left[ E\left( \sum_{i=1}^{n} X_i \right) \right]^2 = \left[ \sum_{i=1}^{n} E(X_i) \right]^2 = \sum_{i=1}^{n} \sum_{j=1}^{n} E(X_i) E(X_j)$

entonces

v a r (\sum_{i = 1}^{n} X_{i}) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} (E (X_{i} X_{j}) - E (X_{i}) E (X_{j})) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} c o v (X_{i}, X_{j})

${\rm var} \left( \sum_{i=1}^{n} X_i \right) = \sum_{i=1}^{n} \sum_{j=1}^{n} \big( E(X_i X_j)-E(X_i) E(X_j) \big) = \sum_{i=1}^{n} \sum_{j=1}^{n} {\rm cov}(X_i, X_j)$

por la definición de covarianza.

Ahora con respecto ¿La varianza de una suma es igual a la suma de las varianzas? :

Si las variables no están correlacionadas, sí : es decir, para , entonces ${\rm cov}(X_i,X_j)=0$ $i\neq j$
$v a r (\sum_{i = 1}^{n} X_{i}) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} c o v (X_{i}, X_{j}) = \sum_{i = 1}^{n} c o v (X_{i}, X_{i}) = \sum_{i = 1}^{n} v a r (X_{i})$ ${\rm var} \left( \sum_{i=1}^{n} X_i \right) = \sum_{i=1}^{n} \sum_{j=1}^{n} {\rm cov}(X_i, X_j) = \sum_{i=1}^{n} {\rm cov}(X_i, X_i) = \sum_{i=1}^{n} {\rm var}(X_i)$
Si las variables están correlacionadas, no, no en general : por ejemplo, supongamos que son dos variables aleatorias, cada una con varianza y donde . Entonces , por lo que la identidad falla. $X_1, X_2$ $\sigma^2$ ${\rm cov}(X_1,X_2)=\rho$ $0 < \rho <\sigma^2$ ${\rm var}(X_1 + X_2) = 2(\sigma^2 + \rho) \neq 2\sigma^2$
pero es posible para ciertos ejemplos : que tienen matriz de covarianza luego $X_1, X_2, X_3$
$(\begin{array}{ccc} 1 & 0.4 & - 0.6 \\ 0.4 & 1 & 0.2 \\ - 0.6 & 0.2 & 1 \end{array})$ $\left( \begin{array}{ccc} 1 & 0.4 &-0.6 \\ 0.4 & 1 & 0.2 \\ -0.6 & 0.2 & 1 \\ \end{array} \right)$ ${\rm var}(X_1+X_2+X_3) = 3 = {\rm var}(X_1) + {\rm var}(X_2) + {\rm var}(X_3)$

Por lo tanto, si las variables no están correlacionadas, entonces la varianza de la suma es la suma de las varianzas, pero lo contrario no es cierto en general.

— Macro
fuente

Con respecto a la matriz de covarianza de ejemplo, es la siguiente correcta: la simetría entre los triángulos superior derecho e inferior izquierdo refleja el hecho de que , pero la simetría entre la esquina superior izquierda y la inferior derecha (en este caso, es solo parte del ejemplo, pero podría reemplazarse por dos diferentes números que suman por ejemplo, y ? Gracias de nuevo.

cov (X_{i}, X_{j}) = cov (X_{j}, X_{i})

$\text{cov}(X_i,X_j)=\text{cov}(X_j,X_i)$

cov (X_{1}, X_{2}) = cov (X_{2}, X_{3}) = 0.3

$\text{cov}(X_1, X_2) = \text{cov}(X_2,X_3) = 0.3$

0.6

$0.6$

cov (X_{1}, X_{2}) = a

$\text{cov}(X_1, X_2) = a$

cov (X_{2}, X, 3) = 0.6 - a

$\text{cov}(X_2,X,3) = 0.6 -a$

— Abe

41

Var (\sum_{i = 1}^{m} X_{i}) = \sum_{i = 1}^{m} Var (X_{i}) + 2 \sum_{i < j} Cov (X_{i}, X_{j}) .

$\text{Var}\bigg(\sum_{i=1}^m X_i\bigg) = \sum_{i=1}^m \text{Var}(X_i) + 2\sum_{i\lt j} \text{Cov}(X_i,X_j).$

Entonces, si las covarianzas promedian , lo que sería una consecuencia si las variables no están correlacionadas por pares o si son independientes, entonces la varianza de la suma es la suma de las varianzas. $0$

Un ejemplo donde esto no es cierto: Let . Deje . Entonces . $\text{Var}(X_1)=1$ $X_2 = X_1$ $\text{Var}(X_1 + X_2) = \text{Var}(2X_1)=4$

— Douglas Zare
fuente

Rara vez será cierto para las variaciones de muestra.

— DWin

1

@DWin, "raro" es un eufemismo: si las tienen una distribución continua, la probabilidad de que la varianza muestral de la suma sea igual a la suma de las varianzas muestrales en exactamente 0 :)

X

$X$

— Macro

15

Solo quería agregar una versión más sucinta de la prueba dada por Macro, para que sea más fácil ver lo que está sucediendo. $\newcommand{\Cov}{\text{Cov}}\newcommand{\Var}{\text{Var}}$

Tenga en cuenta que desde $\Var(X) = \Cov(X,X)$

Para cualquiera de las dos variables aleatorias tenemos: $X,Y$

\begin{aligned} Var (X + Y) & = Cov (X + Y, X + Y) \\ = E ((X + Y)^{2}) - E (X + Y) E (X + Y) \\ by expanding, \\ = E (X^{2}) - (E (X))^{2} + E (Y^{2}) - (E (Y))^{2} + 2 (E (X Y) - E (X) E (Y)) \\ = Var (X) + Var (Y) + 2 (E (X Y)) - E (X) E (Y)) \end{aligned}

$\begin{align} \Var(X+Y) &= \Cov(X+Y,X+Y) \\ &= E((X+Y)^2)-E(X+Y)E(X+Y) \\ &\text{by expanding,} \\ &= E(X^2) - (E(X))^2 + E(Y^2) - (E(Y))^2 + 2(E(XY) - E(X)E(Y)) \\ &= \Var(X) + \Var(Y) + 2(E(XY)) - E(X)E(Y)) \\ \end{align}$ Por lo tanto, en general, la varianza de la suma de dos variables aleatorias no es la suma de las varianzas. Sin embargo, si son independientes, entonces , y tenemos .

X, Y

$X,Y$

E (X Y) = E (X) E (Y)

$E(XY) = E(X)E(Y)$

Var (X + Y) = Var (X) + Var (Y)

$\Var(X+Y) = \Var(X) + \Var(Y)$

Observe que podemos producir el resultado para la suma de variables aleatorias mediante una simple inducción. $n$

— Omar Haque
fuente

11

Sí, si cada par de no está correlacionado, esto es cierto. $X_i$

Ver la explicación en Wikipedia

— Abe
fuente

Estoy de acuerdo. También encontrará una explicación simple (r) en Insight Things .

— Jan Rothkegel