Varianza de una función de una variable aleatoria

Digamos que tenemos una variable aleatoria con varianza y media conocidas. La pregunta es: ¿cuál es la varianza de para alguna función dada f. El único método general que conozco es el método delta, pero solo da una aproximación. Ahora estoy interesado en , pero también sería bueno conocer algunos métodos generales. $X$ $f(X)$ $f(x)=\sqrt{x}$

Editar 29.12.2010
He hecho algunos cálculos usando la serie Taylor, pero no estoy seguro de si son correctos, por lo que me alegraría si alguien pudiera confirmarlos .

Primero necesitamos aproximar $E[f(X)]$
$E[f(X)] \approx E[f(\mu)+f'(\mu)(X-\mu)+\frac{1}{2}\cdot f''(\mu)(X-\mu)^2]=f(\mu)+\frac{1}{2}\cdot f''(\mu)\cdot Var[X]$

Ahora podemos aproximar $D^2 [f(X)]$
$E[(f(X)-E[f(X)])^2] \approx E[(f(\mu)+f'(\mu)(X-\mu)+\frac{1}{2}\cdot f''(\mu)(X-\mu)^2 -E[f(X)])^2]$

Usando la aproximación de $E[f(X)]$ sabemos que $f(\mu)-Ef(x) \approx -\frac{1}{2}\cdot f''(\mu)\cdot Var[X]$

Usando esto obtenemos:
$D^2[f(X)] \approx \frac{1}{4}\cdot f''(\mu)^2\cdot Var[X]^2-\frac{1}{2}\cdot f''(\mu)^2\cdot Var[X]^2 + f'(\mu)^2\cdot Var[X]+\frac{1}{4}f''(\mu)^2\cdot E[(X-\mu)^4] +\frac{1}{2}f'(\mu)f''(\mu)E[(X-\mu)^3]$
$D^2 [f(X)] \approx \frac{1}{4}\cdot f''(\mu)^2 \cdot [D^4 X-(D^2 X)^2]+f'(\mu)\cdot D^2 X +\frac{1}{2}f'(\mu)f''(\mu)D^3 X$

variance random-variable delta-method

— Tomek Tarczynski
fuente

El método Delta se usa para distribuciones asintóticas. No se puede usar cuando solo tiene una variable aleatoria.

— mpiktas

@mpiktas: En realidad no sé mucho sobre el método Delta, acabo de leer algo en wikipedia. Esta es una cita de wiki: "El método delta utiliza expansiones de Taylor de segundo orden para aproximar la varianza de una función de una o más variables aleatorias".

— Tomek Tarczynski

parece que wikipedia tiene exactamente lo que quieres: en.wikipedia.org/wiki/… . Reeditaré mi respuesta, parece que subestimé la expansión de Taylor.

— mpiktas

Tomek, si no está de acuerdo con las ediciones que se hicieron (no por mí), siempre puede cambiarlas de nuevo, revertirlas o simplemente señalar las diferencias y solicitar una aclaración.

— Glen_b -Reinstale a Monica

@Glen_b: Estoy de acuerdo con ellos E (X-mu) = 0 no implica que E [(X-mu) ^ 3] = 0.

— Tomek Tarczynski

Respuestas:

Actualizar

He subestimado las expansiones de Taylor. De hecho funcionan. Supuse que la integral del término restante puede ser ilimitada, pero con un poco de trabajo se puede demostrar que este no es el caso.

La expansión Taylor funciona para funciones en intervalo cerrado acotado. Para variables aleatorias con varianza finita, la desigualdad de Chebyshev da

P (| X - E X | > c) \leq \frac{V a r (X)}{c}

$P(|X-EX|>c)\le \frac{Var(X)}{c}$

Entonces, para cualquier podemos encontrar lo suficientemente grande para que $\varepsilon>0$ $c$

P (X \in [E X - c, E X + c]) = P (| X - E X | \leq c) < 1 - ε

$P(X\in [EX-c,EX+c])=P(|X-EX|\le c)<1-\varepsilon$

Primero hagamos una estimación de . Tenemos donde es la función de distribución para $Ef(X)$

\begin{aligned} E f (X) = \int_{| x - E X | \leq c} f (x) d F (x) + \int_{| x - E X | > c} f (x) d F (x) \end{aligned}

$\begin{align} Ef(X)=\int_{|x-EX|\le c}f(x)dF(x)+\int_{|x-EX|>c}f(x)dF(x) \end{align}$

F (x)

$F(x)$

X

$X$

Como el dominio de la primera integral es el intervalo que es un intervalo cerrado acotado, podemos aplicar la expansión de Taylor: $[EX-c,EX+c]$ donde, y la igualdad es válida para todos los. Tomé solo 4 términos en la expansión Taylor, pero en general podemos tomar tantos como queramos, siempre que la funciónsea lo suficientemente fluida.

\begin{aligned} f (x) = f (E X) + f^{'} (E X) (x - E X) + \frac{f^{″} (E X)}{2} (x - E X)^{2} + \frac{f^{‴} (α)}{3} (x - E X)^{3} \end{aligned}

$\begin{align} f(x)=f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2+\frac{f'''(\alpha)}{3}(x-EX)^3 \end{align}$

α \in [E X - c, E X + c]

$\alpha\in [EX-c,EX+c]$

x \in [E X - c, E X + c]

$x\in[EX-c,EX+c]$

f

$f$

Sustituyendo esta fórmula por la anterior obtenemos

\begin{aligned} E f (X) & = \int_{| x - E X | \leq c} f (E X) + f^{'} (E X) (x - E X) + \frac{f^{″} (E X)}{2} (x - E X)^{2} d F (x) \\ + \int_{| x - E X | \leq c} \frac{f^{‴} (α)}{3} (x - E X)^{3} d F (x) + \int_{| x - E X | > c} f (x) d F (x) \end{aligned}

$\begin{align} Ef(X)&=\int_{|x-EX|\le c}f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2dF(x)\\\\ &+\int_{|x-EX|\le c}\frac{f'''(\alpha)}{3}(x-EX)^3dF(x) +\int_{|x-EX|>c}f(x)dF(x) \end{align}$

\begin{aligned} E f (X) & = f (E X) + \frac{f^{″} (E X)}{2} E (X - E X)^{2} + R_{3} \end{aligned}

$\begin{align} Ef(X)&=f(EX)+\frac{f''(EX)}{2}E(X-EX)^2+R_3\\\\ \end{align}$

\begin{aligned} R_{3} & = \frac{f^{‴} (α)}{3} E (X - E X)^{3} + \\ + \int_{| x - E X | > c} (f (E X) + f^{'} (E X) (x - E X) + \frac{f^{″} (E X)}{2} (x - E X)^{2} + f (X)) d F (x) \end{aligned}

$\begin{align} R_3&=\frac{f'''(\alpha)}{3}E(X-EX)^3+\\\\ &+\int_{|x-EX|>c}\left(f(EX)+f'(EX)(x-EX)+\frac{f''(EX)}{2}(x-EX)^2+f(X)\right)dF(x) \end{align}$

P (| X - E X | > c)

$P(|X-EX|>c)$

E (X - E X)^{3}

$E(X-EX)^3$

f

$f$

E (X - E X)^{3} = 0

$E(X-EX)^3=0$

$f(x)$ $Ef(x)$

$E(f(x)-Ef(x))^2=(f'(EX))^2Var(X)+T_3$

$T_3$ $E(X-EX)^k$ $k=4,5,6$

$f^2(x)$

\begin{aligned} f^{2} (x) & = f^{2} (E X) + 2 f (E X) f^{'} (E X) (x - E X) \\ + [(f^{'} (E X))^{2} + f (E X) f^{″} (E X)] (X - E X)^{2} + \frac{(f^{2} (β))^{‴}}{3} (X - E X)^{3} \end{aligned}

$\begin{align} f^2(x)&=f^2(EX)+2f(EX)f'(EX)(x-EX)\\\\ &+[(f'(EX))^2+f(EX)f''(EX)](X-EX)^2+\frac{(f^2(\beta))'''}{3}(X-EX)^3 \end{align}$

\begin{aligned} E f^{2} (x) = f^{2} (E X) + [(f^{'} (E X))^{2} + f (E X) f^{″} (E X)] V a r (X) + {\tilde{R}}_{3} \end{aligned}

$\begin{align*} Ef^2(x)=f^2(EX)+[(f'(EX))^2+f(EX)f''(EX)]Var(X)+\tilde{R}_3 \end{align*}$

{\tilde{R}}_{3}

$\tilde{R}_3$

R_{3}

$R_3$

\begin{aligned} V a r (f (X)) = [f^{'} (E X)]^{2} V a r (X) - \frac{[f^{″} (E X)]^{2}}{4} V a r^{2} (X) + {\tilde{T}}_{3} \end{aligned}

$\begin{align} Var(f(X))=[f'(EX)]^2Var(X)-\frac{[f''(EX)]^2}{4}Var^2(X)+\tilde{T}_3 \end{align}$

{\tilde{T}}_{3}

$\tilde{T}_3$

— mpiktas
fuente

No necesito saber el valor exacto de la varianza, la aproximación debería funcionar para mí.

— Tomek Tarczynski

E [f (X)]

$\mathbb{E}[f(X)]$

@Raskolnikov, sí, pero contradice mi conocimiento ciertamente rancio de la expansión de Taylor. Claramente, el resto del plazo debe tenerse en cuenta. Si la variable aleatoria está acotada, entonces no hay problema, ya que los polinomios se aproximan de manera uniforme a funciones continuas en intervalos acotados. Pero tratamos con variables aleatorias ilimitadas. Por supuesto, para la normalidad aleatoria podemos decir que está efectivamente acotada, pero aún en el caso general, pueden surgir algunas sorpresas desagradables, o no. Arreglaré mi respuesta cuando tenga la respuesta clara.

— mpiktas

\sqrt{x}

$\sqrt{x}$

x

$x$

E X

$EX$

x

$x$

\sqrt{x}

$\sqrt{x}$

\sqrt{x}

$\sqrt{x}$

X

$X$

Conocer los dos primeros momentos de X (media y varianza) no es suficiente si la función f (x) es arbitraria (no lineal). No solo para calcular la varianza de la variable transformada Y, sino también para su media. Para ver esto, y tal vez para atacar su problema, puede suponer que su función de transformación tiene una expansión de Taylor alrededor de la media de X y trabajar desde allí.

— leonbloy
fuente