Variable aleatoria uniforme como la suma de dos variables aleatorias

Tomado de Grimmet y Stirzaker :

Demuestre que no puede darse el caso de que donde está distribuido uniformemente en [0,1] y e son independientes e idénticamente distribuidos. No debe suponer que X e Y son variables continuas. $U=X+Y$ $U$ $X$ $Y$

Una simple prueba de contradicción es suficiente para el caso en el que , se supone discreto al argumentar que siempre es posible encontrar una y tal que mientras que . $X$ $Y$ $u$ $u'$ $P(U\leq u+u') \geq P(U\leq u)$ $P(X+Y \leq u) = P(X+Y \leq u+u')$

Sin embargo, esta prueba no se extiende a es absolutamente continua o singular continua. Consejos / Comentarios / Crítica? $X,Y$

— derechos
fuente

Sugerencia : Las funciones características son tus amigos.

— cardenal

X e Y son iid, por lo que sus funciones características deben ser idénticas. Sin embargo, debe usar la función característica, no la función generadora de momentos: no se garantiza que el mgf exista para X, por lo que mostrar que el mgf tiene una propiedad imposible no significa que no exista tal X. Todos los RV tienen una función característica, así que si demuestras que tiene una propiedad imposible, entonces no existe tal X.

— Silverfish

Si las distribuciones de e tienen algún átomo , digamos que , entonces lo que no puede distribuirse uniformemente en . Por lo tanto, no es necesario considerar el caso de las distribuciones de e tienen átomos.

X

$X$

Y

$Y$

P {X = a} = P {Y = a} = b > 0

$P\{X=a\}=P\{Y=a\} = b > 0$

P {X + Y = 2 a} \geq b^{2} > 0

$P\{X+Y=2a\} \geq b^2 > 0$

X + Y

$X+Y$

[0, 1]

$[0,1]$

X

$X$

Y

$Y$

— Dilip Sarwate

Respuestas:

El resultado se puede probar con una imagen: las áreas grises visibles muestran que una distribución uniforme no se puede descomponer como la suma de dos variables independientes idénticamente distribuidas.

Notación

Deje que y sean iid tal que tiene una distribución uniforme en . Esto significa que para todos , $X$ $Y$ $X+Y$ $[0,1]$ $0\le a \le b \le 1$

Pr (a < X + Y \leq b) = b - a .

$\Pr(a < X+Y \le b) = b-a.$

Por lo tanto, el soporte esencial de la distribución común de e es (de lo contrario, habría una probabilidad positiva de que encuentre fuera de ). $X$ $Y$ $[0,1/2]$ $X+Y$ $[0,1]$

La imagen

Deje . Contempla este diagrama que muestra cómo se calculan las sumas de variables aleatorias: $0 \lt \epsilon \lt 1/4$

Figura

La distribución de probabilidad subyacente es la conjunta para . La probabilidad de cualquier evento viene dada por la probabilidad total cubierta por la banda diagonal que se extiende entre las líneas y . Se muestran tres de estas bandas: de a , que aparecen como un pequeño triángulo azul en la esquina inferior izquierda; de a , que se muestra como un rectángulo gris con dos triángulos (amarillo y verde); y de a , que aparece como un pequeño triángulo rojo en la esquina superior derecha. $(X,Y)$ $a \lt X+Y \le b$ $x+y=a$ $x+y=b$ $0$ $\epsilon$ $1/2-\epsilon$ $1/2+\epsilon$ $1-\epsilon$ $1$

Lo que muestra la imagen

Al comparar el triángulo inferior izquierdo de la figura con el cuadrado inferior izquierdo que lo contiene y explotar el supuesto iid para e , queda claro que $X$ $Y$

ϵ = Pr (X + Y \leq ϵ) < Pr (X \leq ϵ) Pr (Y \leq ϵ) = Pr (X \leq ϵ)^{2} .

$\epsilon = \Pr(X+Y \le \epsilon) \lt \Pr(X \le \epsilon)\Pr(Y \le \epsilon) = \Pr(X \le \epsilon)^2.$

Tenga en cuenta que la desigualdad es estricta: la igualdad no es posible porque hay alguna probabilidad positiva de que tanto como sean menores que pero, sin embargo, . $X$ $Y$ $\epsilon$ $X+Y \gt \epsilon$

Del mismo modo, al comparar el triángulo rojo con el cuadrado en la esquina superior derecha,

ϵ = Pr (X + Y > 1 - ϵ) < Pr (X > 1 / 2 - ϵ)^{2} .

$\epsilon = \Pr(X+Y \gt 1-\epsilon) \lt \Pr(X \gt 1/2-\epsilon)^2.$

Finalmente, comparar los dos triángulos opuestos en la esquina superior izquierda e inferior derecha con la banda diagonal que los contiene da otra desigualdad estricta,

2 ϵ < 2 Pr (X \leq ϵ) Pr (X > 1 / 2 - ϵ) < Pr (1 / 2 - ϵ < X + Y \leq 1 / 2 + ϵ) = 2 ϵ .

$2\epsilon \lt 2 \Pr(X\le \epsilon)\Pr(X \gt 1/2-\epsilon) \lt \Pr(1/2-\epsilon \lt X+Y \le 1/2+\epsilon) = 2\epsilon.$

Los primeros sobreviene de desigualdad de las dos anteriores (toman sus raíces cuadradas y multiplicarlos) mientras que el segundo describe el (estricto) la inclusión de los triángulos dentro de la banda y la última igualdad expresa la uniformidad de . La conclusión de que es la contradicción que demuestra que e no pueden existir, QED . $X+Y$ $2\epsilon \lt 2\epsilon$ $X$ $Y$

— whuber
fuente

(+1) Me gusta este enfoque. Al recuperar el dorso de un sobre de la papelera, puedo ver que dibujé el mismo diagrama, excepto que no marqué en los triángulos amarillo y verde dentro de la banda. Obtuve las desigualdades para los triángulos azul y rojo. Jugué con ellos y con algunas otras probabilidades, pero nunca pensé en investigar la probabilidad de la tira, que resultó ser el paso crítico. Me pregunto qué proceso de pensamiento podría haber motivado esta idea.

— Silverfish

De hecho, donde @whuber tiene triángulos amarillos y verdes, dibujé en cuadrados (efectivamente descompuse en una cuadrícula). Mirando el paso que "describe la inclusión (estricta) de los triángulos dentro de la banda", , me pregunto si esto sería geométricamente más natural con cuadrados que cubran la banda que triángulos.

[0, 0.5]^{2}

$[0, 0.5]^2$

2 Pr (X \leq ϵ) Pr (X > 1 / 2 - ϵ) < Pr (1 / 2 - ϵ < X + Y \leq 1 / 2 + ϵ)

$2 \Pr(X\le \epsilon)\Pr(X \gt 1/2-\epsilon) \lt \Pr(1/2-\epsilon \lt X+Y \le 1/2+\epsilon)$

— Silverfish

@Silver Me recordó un análisis de sumas de distribuciones uniformes que publiqué hace un par de años. Eso sugirió visualizar la suma geométricamente. Era inmediatamente evidente que había que concentrar mucha probabilidad cerca de las esquinas y para que la suma fuera uniforme y para que la probabilidad relativamente baja estuviera cerca de la diagonal central. . Eso condujo al diagrama, que volví a dibujar en Mathematica. En ese punto, la respuesta se escribió sola. Sí, usar cuadrados en la banda central podría ser más ordenado.

X + Y

$X+Y$

(0, 0)

$(0,0)$

(1 / 2, 1 / 2)

$(1/2,1/2)$

X + Y = 1 / 2

$X+Y=1/2$

— whuber

¡Gracias! "Nota que la desigualdad es estricta: la igualdad no es posible debido a que hay una cierta probabilidad positiva que cualquiera de o es menor que pero sin embargo ." No estoy seguro de seguir esto. Me parece que el objetivo aquí es mostrar , esto no requiere una probabilidad positiva para algunos evento en el que tanto como son menores o iguales a y, sin embargo, ? Es el "cualquiera de" frente a "ambos" sobre los que estoy vacilando.

X

$X$

Y

$Y$

ϵ

$\epsilon$

X + Y > ϵ

$X+Y \gt \epsilon$

Pr (X + Y \leq ϵ) < Pr (X \leq ϵ \cap Y \leq ϵ)

$\Pr(X+Y \le \epsilon) \lt \Pr(X \le \epsilon \cap Y \le \epsilon)$

A

$A$

X

$X$

Y

$Y$

ϵ

$\epsilon$

X + Y > ϵ

$X + Y > \epsilon$

— Silverfish

@Silverfish Gracias; No expresé eso como pretendía. Tienes razón: el lenguaje está destinado esencialmente a describir la porción de un pequeño cuadrado que no está dentro del triángulo.

— whuber

Traté de encontrar una prueba sin considerar las funciones características. El exceso de curtosis hace el truco. Aquí está la respuesta de dos líneas: ya que e son iid. Entonces implica cual es una contradicción como para cualquier variable aleatoria. $\text{Kurt}(U) = \text{Kurt}(X + Y) = \text{Kurt}(X) / 2$ $X$ $Y$ $\text{Kurt}(U) = -1.2$ $\text{Kurt}(X) = -2.4$ $\text{Kurt}(X) \geq -2$

Más interesante es la línea de razonamiento que me llevó a ese punto. (e ) deben estar delimitados entre 0 y 0.5; eso es obvio, pero útil significa que existen sus momentos y momentos centrales. Comencemos considerando la media y la varianza: y . Si e están idénticamente distribuidos, entonces tenemos: $X$ $Y$ $\mathbb{E}(U)=0.5$ $\text{Var}(U)=\frac{1}{12}$ $X$ $Y$

E (X + Y) = E (X) + E (Y) = 2 E (X) = 0.5

$\mathbb{E}(X + Y) = \mathbb{E}(X) + \mathbb{E}(Y) = 2 \mathbb{E}(X)= 0.5$

Entonces . Para la variación, adicionalmente, necesitamos usar independencia para aplicar: $\mathbb{E}(X) = 0.25$

Var (X + Y) = Var (X) + Var (Y) = 2 Var (X) = \frac{1}{12}

$\text{Var}(X+Y) = \text{Var}(X) + \text{Var}(Y) = 2 \text{Var}(X) = \frac{1}{12}$

Por lo tanto, y . ¡Guauu! Esa es una gran variación para una variable aleatoria cuyo soporte varía de 0 a 0.5. Pero deberíamos haber esperado eso, ya que la desviación estándar no va a escalar de la misma manera que lo hizo la media. $\text{Var}(X) = \frac{1}{24}$ $\sigma_X = \frac{1}{2\sqrt{6}} \approx 0.204$

Ahora, ¿cuál es la desviación estándar más grande que puede tener una variable aleatoria si el valor más pequeño que puede tomar es 0, el valor más grande que puede tomar es 0.5 y la media es 0.25? Recolectar toda la probabilidad en masas de dos puntos en los extremos, 0.25 lejos de la media, claramente daría una desviación estándar de 0.25. Entonces nuestro es grande pero no imposible. (Esperaba demostrar que esto implicaba demasiada probabilidad en las colas para que fuera uniforme, pero no pude llegar a ninguna parte con eso en el reverso de un sobre). $\sigma_X$ $X + Y$

Las consideraciones del segundo momento casi imponen una restricción imposible a así que consideremos los momentos más altos. ¿Qué pasa con el coeficiente de asimetría de momento de Pearson , ? Esto existe ya que existen los momentos centrales y . Es útil conocer algunas propiedades de los acumulantes, en particular aplicando independencia y luego una distribución idéntica da: $X$ $\gamma_1 = \frac{\mathbb{E}(X - \mu_X)^3}{\sigma_X^3} = \frac{\kappa_3}{\kappa_2^{3/2}}$ $\sigma_X \neq 0$

κ_{i} (U) = κ_{i} (X + Y) = κ_{i} (X) + κ_{i} (Y) = 2 κ_{i} (X)

$\kappa_i(U) = \kappa_i(X + Y) = \kappa_i(X) + \kappa_i(Y) = 2\kappa_i(X)$

Esta propiedad de aditividad es precisamente la generalización de cómo tratamos la media y la varianza anteriores; de hecho, el primer y segundo acumulantes son solo y . $\kappa_1 = \mu$ $\kappa_2 = \sigma^2$

Entonces y . La fracción para cancela para producir . Dado que la distribución uniforme tiene un sesgo cero, también lo tiene , pero no puedo ver cómo surge una contradicción de esta restricción. $\kappa_3(U) = 2\kappa_3(X)$ $\big(\kappa_2(U)\big)^{3/2} = \big(2\kappa_2(X)\big)^{3/2} = 2^{3/2} \big(\kappa_2(X)\big)^{3/2}$ $\gamma_1$ $\text{Skew}(U) = \text{Skew}(X + Y) = \text{Skew}(X) / \sqrt{2}$ $X$

Entonces, en su lugar, intentemos con el exceso de curtosis, . Mediante un argumento similar (esta pregunta es de autoaprendizaje, ¡pruébelo!), Podemos mostrar que existe y obedece: $\gamma_2 = \frac{\kappa_4}{\kappa_2^2} = \frac{\mathbb{E}(X - \mu_X)^4}{\sigma_X^4} - 3$

Kurt (U) = Kurt (X + Y) = Kurt (X) / 2

$\text{Kurt}(U) = \text{Kurt}(X + Y) = \text{Kurt}(X) / 2$

La distribución uniforme tiene exceso de curtosis por lo que se requiere que tenga exceso de curtosis . Pero el exceso de curtosis más pequeño posible es , que se logra mediante la distribución de Bernoulli . $-1.2$ $X$ $-2.4$ $-2$ $\text{Binomial}(1, \frac{1}{2})$

— Lepisma
fuente

(+1) Este es un enfoque bastante inteligente, que era nuevo para mí. Gracias. Tenga en cuenta que parte de su análisis podría haberse simplificado al considerar un uniforme centrado en cero. (La equivalencia del problema es inmediata). Eso le habría dicho de inmediato que considerar el sesgo era un callejón sin salida.

— cardenal

@cardinal: Sabía que el sesgo era un callejón sin salida antes de trabajar en ello. El propósito era expositivo: es una pregunta de autoestudio, ¡así que no quería resolverla por completo! Más bien quería dejar una pista sobre cómo lidiar con el siguiente nivel ...

— Silverfish

@ cardinal: estaba en dos mentes si centrarme o no. Hice los cálculos de reverso de forma más conveniente, pero en el análisis final solo necesitamos (1) un caso simple del resultado general de que para iid , (2) que para cualquier distribución uniforme, y (3) existe ya que está acotado y (que es trivial, de lo contrario ). Por lo tanto, ninguno de los resultados clave realmente requirió centrado, ¡aunque los bits pueden haber parecido menos feos!

K u r t (X_{1} + . . . + X_{n}) = \frac{1}{n} K u r t (X)

$Kurt(X_1 + ... + X_n) = \frac{1}{n}Kurt(X)$

X_{i}

$X_i$

K u r t (U) = - 1.2

$Kurt(U) = -1.2$

K u r t (X)

$Kurt(X)$

X

$X$

σ_{X} \neq 0

$\sigma_X \neq 0$

σ_{U} = 0

$\sigma_U = 0$

— Silverfish

Sí, la palabra "aerodinámica" fue cuidadosamente elegida. :-) No pretendía que mi comentario fuera leído como crítica de su exposición. Salud.

— cardenal

@cardinal Por cierto, solo las consideraciones de variación casi funcionaron, pero el uniforme no está lo suficientemente extendido. Con un poco más de probabilidad de masa más cerca de los extremos, por ejemplo, en [-0.5, 0.5], luego y si entonces que es imposible ya que está limitado por -0.25 y 0.25. ¡Por supuesto, verá de inmediato cómo se relaciona esto con el presente ejemplo! Me pregunto si el enfoque se generaliza, estoy seguro de que otros vehículos recreativos limitados no se pueden descomponer en sumas, pero requieren momentos aún más altos investigados para encontrar la contradicción.

f_{T} (t) = 12 t^{2}

$f_T(t)=12t^2$

V a r (T) = .15

$Var(T)=.15$

T = X_{1} + X_{2}

$T = X_1 + X_2$

σ_{X} = \sqrt{.15 / 2} \approx 0.27 > 0.25

$\sigma_X = \sqrt{.15/2} \approx 0.27 > 0.25$

X

$X$

— Silverfish