¿Son una suma y un producto de dos matrices de covarianza también una matriz de covarianza?

12

Supongamos que tengo covarianza matrices y . ¿Cuáles de estas opciones son también matrices de covarianza? $X$ $Y$

$X+Y$
$X^2$
$XY$

Tengo algunos problemas para comprender qué se necesita exactamente para que algo sea una matriz de covarianza. Supongo que significa que, por ejemplo, si e que para que 1 sea verdadero, deberíamos tener ese $X=\operatorname{cov}(X_1,X_2)$ $Y=\operatorname{cov}(Y_1,Y_2)$ , donde y son algunas otras variables aleatorias. Sin embargo, no puedo ver por qué eso sería válido para cualquiera de las tres opciones. Cualquier idea sería apreciada. $\operatorname{cov}(X_1,X_2) + \operatorname{cov}(Y_1,Y_2) = \operatorname{cov}(Z_1, Z_2)$ $Z_1$ $Z_2$

covariance covariance-matrix

— rbm
fuente

12

Antecedentes

Una matriz de covarianza para un vector de variables aleatorias un procedimiento para calcular la varianza de cualquier combinación lineal de esas variables aleatorias. La regla es que para cualquier vector de coeficientes , $\mathbb{A}$ $X=(X_1, X_2, \ldots, X_n)^\prime$ $\lambda = (\lambda_1, \ldots, \lambda_n)$

\begin{matrix} (1) & Var (λ X) = λ A λ^{'} . \end{matrix}

$\operatorname{Var}(\lambda X) = \lambda \mathbb{A} \lambda ^\prime.\tag{1}$

En otras palabras, las reglas de multiplicación de matrices describen las reglas de varianzas.

Dos propiedades de son inmediatas y obvias: $\mathbb{A}$

Debido a que las variaciones son expectativas de valores al cuadrado, nunca pueden ser negativas. Por lo tanto, para todos los vectores , Las matrices de covarianza deben ser definidas no negativas. $\lambda$
$0 \leq Var (λ X) = λ A λ^{'} .$ $0 \le \operatorname{Var}(\lambda X) = \lambda \mathbb{A} \lambda ^\prime.$
Las variaciones son solo números, o, si lee las fórmulas de la matriz literalmente, son matrices . Por lo tanto, no cambian cuando los transpone. La transposición da Como esto es válido para todos , $1\times 1$ $(1)$
$λ A λ^{'} = Var (λ X) = Var (λ X)^{'} = {(λ A λ^{'})}^{'} = λ A^{'} λ^{'} .$ $\lambda \mathbb{A} \lambda ^\prime = \operatorname{Var}(\lambda X) = \operatorname{Var}(\lambda X) ^\prime = \left(\lambda \mathbb{A} \lambda ^\prime\right)^\prime = \lambda \mathbb{A}^\prime \lambda ^\prime.$ $\lambda$ $\mathbb{A}$ debe ser igual a su transposición : las matrices de covarianza deben ser simétricas. $\mathbb{A}^\prime$

El resultado más profundo es que cualquier matriz simétrica definida no negativa es una matriz de covarianza. $\mathbb{A}$ Esto significa que en realidad hay una variable aleatoria con valor vectorial con como covarianza. Podemos demostrar esto mediante la construcción explícita . Una forma es notar que la función de densidad (multivariante) con el propiedades $X$ $\mathbb{A}$ $X$ $f(x_1,\ldots, x_n)$

\log (f) \propto - \frac{1}{2} (x_{1}, \dots, x_{n}) A^{- 1} (x_{1}, \dots, x_{n})^{'}

$\log(f) \propto -\frac{1}{2} (x_1,\ldots,x_n)\mathbb{A}^{-1}(x_1,\ldots,x_n)^\prime$

A

$\mathbb{A}$

A

$\mathbb{A}$

Soluciones

$\mathbb{X}$ $\mathbb{Y}$

La suma.
- $(X + Y)^{'} = X^{'} + Y^{'} = (X + Y)$ $(\mathbb{X}+\mathbb{Y})^\prime = \mathbb{X}^\prime + \mathbb{Y}^\prime = (\mathbb{X} + \mathbb{Y})$
- $\lambda$ $λ (X + Y) λ^{'} = λ X λ^{'} + λ Y λ^{'} \geq 0 + 0 = 0$ $\lambda(\mathbb{X}+\mathbb{Y})\lambda^\prime = \lambda \mathbb{X}\lambda^\prime + \lambda \mathbb{Y}\lambda^\prime \ge 0 + 0 = 0$
Lo dejo como ejercicio.
$2\times 2$
$(\begin{matrix} a & b \\ b & a \end{matrix})$ $\pmatrix{a & b \\ b & a}$ $a^2 \ge b^2$ $a \ge 0$ $\mathbb{XY}$ $X = (\begin{matrix} a & - 1 \\ - 1 & a \end{matrix})$ $\mathbb{X} = \pmatrix{a & -1 \\ -1 & a}$ $a \ge 1$ $\mathbb{Y}$ $Y = (\begin{matrix} b & 0 \\ 0 & 1 \end{matrix})$ $\mathbb{Y} = \pmatrix{b & 0 \\ 0 & 1}$ $b\ge 0$ $-1$ $1$
$\mathbb{XY}$ $a$ $b$

— whuber
fuente

13

Una matriz real es una matriz de covarianza si y solo si es simétrica positiva semi-definida.

Consejos:

$X$ $Y$ $X+Y$ $z^TX z \ge 0$ $z$ $z^TY z \ge 0$ $z$ $z^T(X+Y)z$

$X$ $X^2$ $X$ $X^2$

$X$ $Y$ $XY$

— Mark L. Stone
fuente