Vinculado para la correlación de tres variables aleatorias

28

Hay tres variables aleatorias, . Las tres correlaciones entre las tres variables son las mismas. Es decir, $x,y,z$

ρ = cor (x, y) = cor (x, z) = cor (y, z)

$\rho=\textrm{cor}(x,y)=\textrm{cor}(x,z)=\textrm{cor}(y,z)$

¿Cuál es el límite más ajustado que puede dar por ? $\rho$

correlation correlation-matrix

— usuario1352399
fuente

1

Presumiblemente por "pho", te refieres a rho ( ). Sin embargo, su pregunta no está clara. ¿Qué quieres decir con "¿Cuál es el límite más fuerte que puedes dar"?

ρ

$\rho$

— gung - Restablece a Monica

Bueno, el nombre de la variable es solo un maniquí. Por límite más estricto, quiero decir algo así como [-1, 1] para una correlación, pero claramente este no es el límite más estricto posible.

— user1352399

¿Quiere decir que rho = cor (x, y) = cor (x, z) = cor (y, z), y cuáles son los límites para rho?

— user31264

Sí, quiero decir que rho = cor (x, y) = cor (x, z) = cor (y, z) y cuáles son los límites para rho. Dilip, ¿puedes extender eso para decir que rho debe ser no negativo, es decir,> = 0?

— user1352399

1

Un libro de texto para citar esto es el "Análisis de regresión lineal" de Seber & Lee (al menos fue en la primera edición ...)

— kjetil b halvorsen

29

La correlación común puede tener un valor pero no . Si , entonces no puede ser igual a pero en realidad es . El valor más pequeño de la correlación común de tres variables aleatorias es . De manera más general, la correlación mínima común de variables aleatorias es cuando, consideradas como vectores, están en los vértices de un símplex (de dimensión ) en un espacio -dimensional. $\rho$ $+1$ $-1$ $\rho_{X,Y}= \rho_{X,Z}=-1$ $\rho_{Y,Z}$ $-1$ $+1$ $-\frac{1}{2}$ $n$ $-\frac{1}{n-1}$ $n-1$ $n$

Considere la varianza de la suma de variables aleatorias de varianza unitaria . Tenemos esa $n$ $X_i$ donde es elvalor promediode

\begin{aligned} var (\sum_{i = 1}^{n} X_{i}) & = \sum_{i = 1}^{n} var (X_{i}) + \sum_{i = 1}^{n} \sum_{j \neq i}^{n} cov (X_{i}, X_{j}) \\ = n + \sum_{i = 1}^{n} \sum_{j \neq i}^{n} ρ_{X_{i}, X_{j}} \\ (1) & = n + n (n - 1) \bar{ρ} \end{aligned}

$\begin{align*} \operatorname{var}\left(\sum_{i=1}^n X_i\right) &= \sum_{i=1}^n \operatorname{var}(X_i) + \sum_{i=1}^n\sum_{j\neq i}^n \operatorname{cov}(X_i,X_j)\\ &= n + \sum_{i=1}^n\sum_{j\neq i}^n \rho_{X_i,X_j}\\ &= n + n(n-1)\bar{\rho} \tag{1} \end{align*}$

\bar{ρ}

$\bar{\rho}$

coeficientes de correlación. Pero como

, obtenemos fácilmente de

que

(\binom{n}{2})

$\binom{n}{2}$

var (\sum_{i} X_{i}) \geq 0

$\operatorname{var}\left(\sum_i X_i\right) \geq 0$

(1)

$(1)$

\bar{ρ} \geq - \frac{1}{n - 1} .

$\bar{\rho} \geq -\frac{1}{n-1}.$

Entonces, el valor promedio de un coeficiente de correlación es al menos . Sitodoslos coeficientes de correlación tienen elmismovalor, entonces su promedio también es igual ay entonces tenemos que $-\frac{1}{n-1}$ $\rho$ $\rho$ ¿Es posible tener variables aleatorias para las cuales el valor de correlación comúnes igual a

ρ \geq - \frac{1}{n - 1} .

$\rho \geq -\frac{1}{n-1}.$

ρ

$\rho$

? Sí. Suponga que

son variables aleatorias de varianza unitariano correlacionadasy establezca

- \frac{1}{n - 1}

$-\frac{1}{n-1}$

X_{i}

$X_i$

. Entonces,

, mientras que

Y_{i} = X_{i} - \frac{1}{n} \sum_{j = 1}^{n} X_{j} = X_{i} - \bar{X}

$Y_i = X_i - \frac{1}{n}\sum_{j=1}^n X_j = X_i -\bar{X}$

E [Y_{i}] = 0

$E[Y_i]=0$

y

var (Y_{i}) = {(\frac{n - 1}{n})}^{2} + (n - 1) {(\frac{1}{n})}^{2} = \frac{n - 1}{n}

$\displaystyle \operatorname{var}(Y_i) = \left(\frac{n-1}{n}\right)^2 + (n-1)\left(\frac{1}{n}\right)^2 = \frac{n-1}{n}$

dando

cov (Y_{i}, Y_{j}) = - 2 (\frac{n - 1}{n}) (\frac{1}{n}) + (n - 2) {(\frac{1}{n})}^{2} = - \frac{1}{n}

$\operatorname{cov}(Y_i,Y_j) = -2\left(\frac{n-1}{n}\right)\left(\frac{1}{n}\right) + (n-2)\left(\frac{1}{n}\right)^2 = -\frac{1}{n}$

Así, la

son variables aleatorias que alcanzan el valor de correlación común mínimo de

ρ_{Y_{i}, Y_{j}} = \frac{cov (Y_{i}, Y_{j})}{\sqrt{var (Y_{i}) var (Y_{j})}} = \frac{- 1 / n}{(n - 1) / n} = - \frac{1}{n - 1} .

$\rho_{Y_i,Y_j} = \frac{\operatorname{cov}(Y_i,Y_j)}{\sqrt{\operatorname{var}(Y_i)\operatorname{var}(Y_j)}} =\frac{-1/n}{(n-1)/n} = -\frac{1}{n-1}.$

Y_{i}

$Y_i$

. Nota, por cierto, que

, y así, considerado como vectores, las variables aleatorias se encuentran en un

hiperplano -dimensional de

espacio -dimensional.

- \frac{1}{n - 1}

$-\frac{1}{n-1}$

\sum_{i} Y_{i} = 0

$\sum_i Y_i = 0$

(n - 1)

$(n-1)$

n

$n$

— Dilip Sarwate
fuente

25

El más apretado posible cota es . $-1/2 \le \rho \le 1$ Todos estos valores pueden aparecer realmente, ninguno es imposible.

Para mostrar que no hay nada especialmente profundo o misterioso sobre el resultado, esta respuesta presenta primero una solución completamente elemental, que requiere solo el hecho obvio de que las variaciones, que son los valores esperados de los cuadrados, no deben ser negativas. Esto es seguido por una solución general (que utiliza hechos algebraicos ligeramente más sofisticados).

Solución elemental

La varianza de cualquier combinación lineal de debe ser no negativa. $x,y,z$ Vamos a las varianzas de estas variables es y , respectivamente. Todos son distintos de cero (de lo contrario, algunas correlaciones no se definirían). Usando las propiedades básicas de las variaciones, podemos calcular $\sigma^2, \tau^2,$ $\upsilon^2$

0 \leq Var (α x / σ + β y / τ + γ z / υ) = α^{2} + β^{2} + γ^{2} + 2 ρ (α β + β γ + γ α)

$0 \le \text{Var}(\alpha x/\sigma + \beta y/\tau + \gamma z/\upsilon) = \alpha^2 +\beta^2+\gamma^2 + 2\rho(\alpha\beta+\beta\gamma+\gamma\alpha)$

para todos los números reales . $(\alpha, \beta, \gamma)$

Suponiendo que , una pequeña manipulación algebraica implica que esto es equivalente a $\alpha+\beta+\gamma\ne 0$

\frac{- ρ}{1 - ρ} \leq \frac{1}{3} {(\frac{\sqrt{(α^{2} + β^{2} + γ^{2}) / 3}}{(α + β + γ) / 3})}^{2} .

$\frac{-\rho}{1-\rho} \le \frac{1}{3} \left(\frac{\sqrt{(\alpha^2+\beta^2+\gamma^2)/3}}{(\alpha+\beta+\gamma)/3}\right)^2.$

$(\alpha, \beta, \gamma)$ $(1/3, 1/3, 1/3)$ $1$ $1$ $\alpha=\beta=\gamma\ne 0$

ρ \geq - 1 / 2.

$\rho \ge -1/2.$

$n=3$ $(x,y,z)$ $-1/2 \le \rho \le 1$

Solución general

Visión general

$\rho$ $-1/2$ $1$ $\rho$

$\rho$

$n$ $n$ $\rho.$ $n=3,$ $\mathbb{C}(\rho, n).$ $\lambda$ $\mathbf{x}_\lambda$

C (ρ, n) x_{λ} = λ x_{λ} .

$\mathbb{C}(\rho,n) \mathbf{x}_\lambda = \lambda \mathbf{x}_\lambda.$

Estos valores propios son fáciles de encontrar en el presente caso, porque

$\mathbf{1} = (1, 1, \ldots, 1)'$

$C (ρ, n) 1 = (1 + (n - 1) ρ) 1 .$ $\mathbb{C}(\rho,n)\mathbf{1} = (1+(n-1)\rho)\mathbf{1}.$
$\mathbf{y}_j = (-1, 0, \ldots, 0, 1, 0, \ldots, 0)$ $1$ $j^\text{th}$ $j = 2, 3, \ldots, n$

$C (ρ, n) y_{j} = (1 - ρ) y_{j} .$ $\mathbb{C}(\rho,n)\mathbf{y}_j = (1-\rho)\mathbf{y}_j.$

$n$ $n$ $n$ $1+(n-1)\rho$ $1-\rho$ $n-1$ $-1 \le \rho \le 1$ satisfecho por todas las correlaciones, la no negatividad del primer valor propio implica además

ρ \geq - \frac{1}{n - 1}

$\rho \ge -\frac{1}{n-1}$

mientras que la no negatividad del segundo valor propio no impone nuevas condiciones.

Prueba de suficiencia de las condiciones.

$-1/(n-1)\le \rho \le 1,$ $\mathbb{C}(\rho, n)$

Σ (ρ, n) = (1 + (n - 1) ρ) I_{n} - \frac{ρ}{(1 - ρ) (1 + (n - 1) ρ)} 1 1^{'}

$\Sigma(\rho, n) = (1 + (n-1)\rho)\mathbb{I}_n - \frac{\rho}{(1-\rho)(1+(n-1)\rho)}\mathbf{1}\mathbf{1}'$

$\mathbb{C}(\rho, n)$ $-1/(n-1) \lt \rho \lt 1.$ $n=3$

Σ (ρ, 3) = \frac{1}{(1 - ρ) (1 + 2 ρ)} (\begin{array}{ccc} ρ + 1 & - ρ & - ρ \\ - ρ & ρ + 1 & - ρ \\ - ρ & - ρ & ρ + 1 \end{array}) .

$\color{gray}{\Sigma(\rho, 3) = \frac{1}{(1-\rho)(1+2\rho)} \left( \begin{array}{ccc} \rho +1 & -\rho & -\rho \\ -\rho & \rho +1 & -\rho \\ -\rho & -\rho & \rho +1 \\ \end{array} \right)}.$

$(X_1, X_2, \ldots, X_n)$

f_{ρ, n} (x) = \frac{\exp (- \frac{1}{2} x Σ (ρ, n) x^{'})}{(2 π)^{n / 2} {((1 - ρ)^{n - 1} (1 + (n - 1) ρ))}^{1 / 2}}

$f_{\rho, n}(\mathbf{x}) = \frac{\exp\left(-\frac{1}{2}\mathbf{x}\Sigma(\rho, n)\mathbf{x}'\right)}{(2\pi)^{n/2}\left((1-\rho)^{n-1}(1+(n-1)\rho)\right)^{1/2}}$

$\mathbf{x} = (x_1, x_2, \ldots, x_n)$ $n=3$

\frac{1}{\sqrt{(2 π)^{3} (1 - ρ)^{2} (1 + 2 ρ)}} \exp (- \frac{(1 + ρ) (x^{2} + y^{2} + z^{2}) - 2 ρ (x y + y z + z x)}{2 (1 - ρ) (1 + 2 ρ)}) .

$\color{gray}{\frac{1}{\sqrt{(2\pi)^{3}(1-\rho)^2(1+2\rho)}} \exp\left(-\frac{(1+\rho)(x^2+y^2+z^2) - 2\rho(xy+yz+zx)}{2(1-\rho)(1+2\rho)}\right)}.$

$n$ $\mathbb{C}(\rho, n).$

Figura

$f_{\rho,3}.$ $\rho=-4/10, 0, 4/10, 8/10$ $x+y+z=0$ $x=y=z$

$\rho = -1/(n-1)$ $\rho = 1$ $\mathbf{x}.\mathbf{1}=0$ $0$ $\mathbf{1}'$ $0$

Más acerca de la no degeneración

$\mathbb{C}(-1/(n-1), n)$ $n-1$ $\mathbb{C}(1, n)$ $1$ $n\ge 2$ $\Sigma(\rho, n)$

— whuber
fuente

20

Su matriz de correlación es

(\begin{matrix} 1 & ρ & ρ \\ ρ & 1 & ρ \\ ρ & ρ & 1 \end{matrix})

$\begin{pmatrix} 1&\rho&\rho\\ \rho&1&\rho\\ \rho&\rho&1 \end{pmatrix}$

La matriz es positiva semidefinida si los principales principales menores no son todos negativos. Los principales menores son los determinantes de los bloques "noroeste" de la matriz, es decir, 1, el determinante de

(\begin{matrix} 1 & ρ \\ ρ & 1 \end{matrix})

$\begin{pmatrix} 1&\rho\\ \rho&1\end{pmatrix}$

y el determinante de la matriz de correlación en sí.

$1-\rho^2$ $\rho\in[-1,1]$

2 ρ^{3} - 3 ρ^{2} + 1.

$2\rho^3-3\rho^2+1.$

$[-1,1]$ ingrese la descripción de la imagen aquí

Verá que la función no es negativa en el rango dado por @stochazesthai (que también puede verificar encontrando las raíces de la ecuación determinante).

— Christoph Hanck
fuente

V a r () = 1

$Var( )=1$

1

@Anold Parece que estás leyendo "covarianza" donde se escribe "correlación".

— whuber

6

$X$ $Y$ $Z$ $\rho_{XY} = \rho_{YZ} = \rho_{XZ} = \rho$ $\rho \in [-\frac{1}{2},1]$

— Stochazesthai
fuente

2

¿Puedes explicar esto en términos muy simples?

— Elizabeth Susan Joseph

1

No creo que exista una explicación que no requiera el conocimiento del álgebra matricial. Le sugiero que consulte la página de Wikipedia ( en.wikipedia.org/wiki/… ).

— stochazesthai

44

Encontré una explicación que requiere solo álgebra básica (nivel secundario) y la he incluido en mi respuesta.

— whuber

Vinculado para la correlación de tres variables aleatorias

Solución elemental

Solución general

Visión general

ρρ\rho

Prueba de suficiencia de las condiciones.

Más acerca de la no degeneración

$\rho$