He oído que las razones o inversas de variables aleatorias a menudo son problemáticas, al no tener expectativas. ¿Porqué es eso?

25

El título es la pregunta. Me dicen que las relaciones e inversas de variables aleatorias a menudo son problemáticas. Lo que se quiere decir es que las expectativas a menudo no existen. ¿Hay una explicación simple y general de eso?

— kjetil b halvorsen
fuente

25

Me gustaría ofrecer una explicación muy simple e intuitiva. Equivale a mirar una imagen: el resto de esta publicación explica la imagen y saca conclusiones de ella.

Esto es a lo que se reduce: cuando hay una "masa de probabilidad" concentrada cerca de , habrá demasiada probabilidad cerca de , lo que hace que su expectativa sea indefinida. $X=0$ $1/X\approx \pm \infty$

En lugar de ser completamente general, concentrémonos en variables aleatorias que tienen densidades continuas en una vecindad de . Supongamos que . Visualmente, estas condiciones significan que la gráfica de encuentra sobre el eje alrededor de : $X$ $f_X$ $0$ $f_X(0)\ne 0$ $f$ $0$

La continuidad de alrededor de implica que para cualquier altura positiva menor que y suficientemente pequeña , podemos tallar un rectángulo debajo de este gráfico que se centra alrededor de , tiene un ancho y una altura , como se muestra. Esto corresponde a expresar la distribución original como una mezcla de una distribución uniforme (con peso ) y lo que queda. $f_X$ $0$ $p$ $f_X(0)$ $\epsilon$ $x=0$ $2\epsilon$ $p$ $p\times 2\epsilon=2p\epsilon$

En otras palabras, podemos pensar que surge de la siguiente manera: $X$

Con probabilidad , dibuje un valor de una distribución Uniforme . $2p\epsilon$ $(-\epsilon,\epsilon)$
De lo contrario, extraiga un valor de la distribución cuya densidad sea proporcional a . (Esta es la función dibujada en amarillo a la derecha). $f_X - p I_{(-\epsilon,\epsilon)}$

( es la función del indicador). $I$

Paso muestra que para cualquier , la probabilidad de que está entre y excede . De manera equivalente, esta es la posibilidad de que exceda de . Para decirlo de otra manera: escribir para la función de supervivencia de $(1)$ $0 \lt u \lt \epsilon$ $X$ $0$ $u$ $p u / 2$ $1/X$ $1/u$ $S$ $1/X$

S (x) = Pr (1 / X > x),

$S(x) = \Pr(1/X \gt x),$

la imagen muestra para todos los . $S(x) \gt p / (2x)$ $x \gt 1/\epsilon$

Ya hemos terminado, porque este hecho sobre implica que la expectativa no está definida. $S$ Compare las integrales involucradas en el cálculo de la expectativa de la parte positiva de , : $1/X$ $(1/X)_{+} = \max(0, 1/X)$

E [(1 / X)_{+}] = \int_{0}^{\infty} S (x) d x > \int_{1 / ϵ}^{x} S (x) d x > \int_{1 / ϵ}^{x} \frac{p}{2 x} d x = \frac{p}{2} \log (x ϵ) .

$E[(1/X)_{+}] = \int_0^\infty S(x)dx \gt \int_{1/\epsilon}^x S(x)dx \gt \int_{1/\epsilon}^x \frac{p}{2x}dx = \frac{p}{2} \log(x\epsilon).$

(Este es un argumento puramente geométrico: cada integral representa una región bidimensional identificable y todas las desigualdades surgen de inclusiones estrictas dentro de esas regiones. De hecho, ni siquiera necesitamos saber que la integral final es un logaritmo: hay formas geométricas simples Los argumentos que muestran esta integral divergen.)

Dado que el lado derecho diverge como , diverge. La situación con la parte negativa de es la misma (porque el rectángulo está centrado alrededor de ), y el mismo argumento muestra que la parte negativa de diverge. En consecuencia, la expectativa de sí no está definida. $x\to\infty$ $E[(1/X)_{+}]$ $1/X$ $0$ $1/X$ $1/X$

Por cierto, el mismo argumento muestra que cuando tiene la probabilidad concentrada en un lado de , como cualquier distribución exponencial o gamma (con un parámetro de forma menor que ), entonces la expectativa positiva diverge, pero la expectativa negativa es cero. En este caso la expectativa está definida, pero es infinita. $X$ $0$ $1$

— whuber
fuente

3

¿Tengo razón al sospechar que la suposición es crucial para el resultado? Quiero decir, tenemos casos donde tiene momentos al menos para algún rango de parámetros involucrados, y parece que es en casos donde , como Gamma / Inverse-Gamma

f_{X} (0) \neq 0

$f_X(0)\neq 0$

1 / X

$1/X$

f_{X} (0) = 0

$f_X(0) = 0$

— Alecos Papadopoulos

3

@ Alecos No, esa suposición no es crucial. Eso y la continuidad de en hacen que el argumento sea simple, pero ninguno de los dos es esencial. Considere una con densidad proporcional a para y . Esto es continuo en pero no tiene expectativas.

f

$f$

0

$0$

X

$X$

f_{X}

$f_X$

- 1 / \log (x)

$-1/\log(x)$

0 < x < 1 / e

$0 \lt x \lt 1/e$

f_{X} (0) = 0

$f_X(0)=0$

0

$0$

1 / X

$1/X$

— whuber

15

Las razones e inversas son principalmente significativas con variables aleatorias no negativas, por lo que asumiré casi con seguridad. Entonces, si es una variable discreta que toma el valor cero con probabilidad positiva, estaremos dividiendo con cero con una probabilidad positiva, lo que explica por qué la expectativa de no existirá. $X \ge 0$ $X$ $1/X$

Ahora observe el caso de distribución continua, con una variable aleatoria con función de densidad . Asumiremos que y que es continua (al menos en cero). Luego hay un tal que para . El valor esperado de viene dado por Ahora cambiemos la variable de integración a , tenemos , obteniendo $X \ge 0$ $f(x)$ $f(0)>0$ $f$ $\epsilon > 0$ $f(x) > \epsilon$ $0 \le x < \epsilon$ $1/X$

E \frac{1}{X} = \int_{0}^{\infty} \frac{1}{x} f (x) d x

$\DeclareMathOperator{\E}{\mathbb{E}} \E \frac1{X} = \int_0^\infty \frac1{x} f(x)\; dx$

u = 1 / x

$u=1/x$

d u = - \frac{1}{x^{2}} d x

$du = -\frac1{x^2} \; dx$

E \frac{1}{X} = - \int_{\infty}^{0} u f (\frac{1}{u}) (\frac{1}{u})^{2} d u = \int_{0}^{\infty} \frac{1}{u} f (\frac{1}{u}) d u

$\E \frac1{X} = -\int_{\infty}^0 u f(\frac1{u}) (\frac1{u})^2 \; du = \\ \int_0^\infty \frac1{u} f(\frac1{u}) \; du$ Ahora, suponiendo que en entonces en , usando esto tenemos mostrando que la expectativa no existe. Un ejemplo que cumple este supuesto es la distribución exponencial con tasa 1.

f (u) > ϵ

$f(u) > \epsilon$

[0, ϵ)

$[0,\epsilon)$

f (\frac{1}{u}) > 1 / ϵ

$f(\frac1{u}) > 1/\epsilon$

(1 / ϵ, \infty)

$(1/\epsilon, \infty)$

E \frac{1}{X} > ϵ \int_{1 / ϵ}^{\infty} \frac{1}{u} d u = \infty

$\E \frac1{X} > \epsilon \int_{1/\epsilon}^\infty \frac1{u}\; du =\infty$

Hemos dado una respuesta para inversas, ¿qué pasa con las razones? Sea la razón de dos variables aleatorias no negativas. Si son independientes, podemos escribir así que esto se reduce al primer caso y no hay mucho nuevo que decir . ¿Qué pasa si son dependientes, con factorización de densidad conjunta como Entonces obtenemos (usando la misma sustitución que arriba) y podemos razonar como anteriormente en la integral interna. El resultado será que si la densidad condicional (dada $Z=Y/X$

E Z = E \frac{Y}{X} = E Y \cdot E \frac{1}{x}

$\E Z = \E\frac{Y}{X}=\E Y \cdot \E\frac1{x}$

f (x, y) = f (x ∣ y) g (y)

$f(x,y) = f(x \mid y) g(y)$

E \frac{Y}{X} = \int_{0}^{\infty} y \int_{0}^{\infty} \frac{1}{x} f (x ∣ y) d x g (y) d y = \int_{0}^{\infty} y \int_{0}^{\infty} \frac{1}{u} f (\frac{1}{u} ∣ y) d u g (y) d y

$\E \frac{Y}{X} = \int_0^\infty y \int_0^\infty \frac1{x} f(x\mid y) \; dx \;g(y)\; dy = \\ \int_0^\infty y \int_0^\infty \frac1{u} f(\frac1{u}\mid y) \; du \; g(y) \; dy$

y

$y$ ) es positivo y continuo en cero, para un conjunto de 's con probabilidad marginal positiva, la expectativa será infinita. Supongo que no será fácil encontrar ejemplos en los que la expectativa marginal de sea infinita, pero la expectativa de la relación sea finita, a menos que haya una correlación perfecta. ¡Sería bueno ver algunos ejemplos!

y

$y$

1 / X

$1/X$

Y / X

$Y/X$

— kjetil b halvorsen
fuente