Probabilidad condicional de variable continua

Suponga que la variable aleatoria $U$ sigue una distribución uniforme continua con los parámetros 0 y 10 (es decir, $U \sim \rm{U}(0,10)$ )

Ahora denotemos A el evento de que $U$ = 5 y B el evento de que $U$ sea igual a $5$ o 6. Según tengo entendido, ambos eventos tienen cero probabilidad de ocurrir.

Ahora, si consideramos calcular $P(A|B)$ , no podemos usar la ley condicional $P\left( {A|B} \right) = \frac{{P\left( {A \cap B} \right)}}{{P\left( B \right)}}$ , porque $P(B)$ es igual a cero. Sin embargo, mi intuición me dice que $P(A|B) = 1/2$ .

conditional-probability continuous-data uniform

— Novato
fuente

¿Qué le diría su intuición si

tuviera una densidad no uniforme

U

$U$

0.02 u, u \in (0, 10)

$0.02u, u \in (0,10)$

— Dilip Sarwate

@DilipSarwate Mi intuición me decía que la respuesta es un número ligeramente inferior al 0,5

— Noob

Respuestas:

"El concepto de una probabilidad condicional con respecto a una hipótesis aislada cuya probabilidad es igual a 0 es inadmisible". A. Kolmogorov

Para variables aleatorias continuas, e dicen, las distribuciones condicionales se definen por la propiedad de que recuperan la medida de probabilidad original, es decir, para todos los conjuntos medibles , , $X$ $Y$ $A\in\mathcal{B}(\mathbf{X})$ $B\in\mathcal{B}(\mathbf{Y})$

P (X \in A, Y \in B) = \int_{B} d P_{Y} (y) \int_{B} d P_{X | Y} (x | y)

$\mathbb{P}(X\in A,Y\in B)=\int_B \text{d}P_Y(y) \int_B \text{d}P_{X|Y}(x|y)$ Esto implica que la densidad condicional se define arbitrariamente en conjuntos de medida cero o, en otras palabras, que la densidad condicional

se define en casi todas partes . Como el conjunto

es de medida cero frente a la medida de Lebesgue, esto significa que puede definir tanto

como

p_{X | Y} (x | y)

$p_{X|Y}(x|y)$

{5, 6}

$\{5,6\}$

p (5)

$p(5)$

p (6)

$p(6)$ de manera absolutamente arbitraria y, por lo tanto, que la probabilidad

puede tomar cualquier valor.

P (U = 5 | U \in {5, 6})

$\mathbb{P}(U=5|U\in\{5,6\})$

Esto no significa que no pueda definir una densidad condicional mediante la fórmula de la relación como en el caso normal bivariado, sino simplemente que la densidad solo se define en casi todas partes para ambos e .

f (y | x) = f (x, y) / f (x)

$f(y|x)=f(x,y)\big/f(x)$

x

$x$

y

$y$

"Muchos argumentos bastante inútiles han surgido, entre probabilistas competentes, sobre cuál de estos resultados es 'correcto'". ET Jaynes

El hecho de que el argumento limitante (cuando va a cero) en la respuesta anterior parece dar una respuesta natural e intuitiva está relacionado con la paradoja de Borel . La elección de la parametrización en el límite es importante, como se muestra en el siguiente ejemplo que uso en mis clases de pregrado. $\epsilon$

Tome la bivariada normal ¿Cuál es la densidad condicional de dado que

X, Y \overset{i.i.d.}{\sim} N (0, 1)

$X,Y\stackrel{\text{i.i.d.}}{\sim}\mathcal{N}(0,1)$ $X$ ? $X=Y$

Si se parte de la densidad conjunta , la respuesta "intuitiva" es [proporcional a] . Esto se puede obtener considerando el cambio de la variable donde tiene la densidad $\varphi(x)\varphi(y)$ $\varphi(x)^2$

(x, t) = (x, y - x) \sim φ (x) φ (t + x)

$(x,t)=(x,y-x) \sim \varphi(x)\varphi(t+x)$

T = Y - X

$T=Y-X$

. Por lo tanto,

φ (t / \sqrt{2}) / \sqrt{2}

$\varphi(t/\sqrt{2})/\sqrt{2}$

f (x | t) = \frac{φ (x) φ (t + x)}{φ (t / \sqrt{2}) / \sqrt{2}}

$f(x|t)=\dfrac{\varphi(x)\varphi(t+x)}{\varphi(t/\sqrt{2})/\sqrt{2}}$

Sin embargo, si se considera el cambio de variable

la densidad marginal de

es la densidad de Cauchy

f (x | t = 0) = \frac{φ (x) φ (x)}{φ (0 / \sqrt{2}) / \sqrt{2}} = φ (x)^{2} \sqrt{2}

$f(x|t=0)=\dfrac{\varphi(x)\varphi(x)}{\varphi(0/\sqrt{2})/\sqrt{2}}=\varphi(x)^2\sqrt{2}$

(x, r) = (x, y / x) \sim φ (x) φ (r x) | x |

$(x,r)=(x,y/x) \sim \varphi(x)\varphi(rx)|x|$

R = Y / X

$R=Y/X$

y la densidad condicional de

ψ (r) = 1 / π {1 + r^{2}}

$\psi(r)=1/\pi\{1+r^2\}$

X

$X$ dado

R

$R$

Por lo tanto,

f (x | r) = φ (x) φ (r x) | x | \times π {1 + r^{2}}

$f(x|r)=\varphi(x)\varphi(rx)|x| \times \pi \{1+r^2\}$

Y aquí radica la "paradoja": los eventos

son los mismos que

, pero conducen a diferentes densidades condicionales en

f (x | r = 1) = π φ (x)^{2} | x | / 2 .

$f(x|r=1)= \pi\varphi(x)^2|x|/2\,.$

R = 1

$R=1$

T = 0

$T=0$

X = Y

$X=Y$

X

$X$

— Xi'an
fuente

Esto esta simplemente mal. Si toma un curso riguroso en la teoría de la probabilidad, verá que el condicionamiento sobre eventos de medida cero es posible y práctico. Considere un gaussiano bitivariado. Todos saben que puede condicionar la primera variable que toma el valor cero, aunque este evento tiene probabilidad cero. Ver wikipedia. en.wikipedia.org/wiki/…

— Yair Daon

Aquí hay una respuesta controvertida:

Xi'an tiene razón en que no puedes condicionar eventos con probabilidad cero. Sin embargo, Yair también tiene razón en que una vez que decide un proceso limitante , puede evaluar una probabilidad. El problema es que hay muchos procesos limitantes que llegan a la condición deseada.

$(1, 11)$ $p$ $1-p$ . Entonces, si ha elegido un proceso de limitación diferente para uno que el otro, entonces, mediante un cambio arbitrario de etiquetas (en este caso, cambiar el infinito positivo por el infinito negativo) ha obtenido un resultado diferente. Eso no debería suceder de acuerdo con el principio de indiferencia. Por lo tanto, la respuesta es 0.5 como lo adivinó.

Tenga en cuenta que muchos estadísticos no aceptan el principio de indiferencia. Me gusta porque refleja mis intuiciones. Aunque no siempre estoy seguro de cómo aplicarlo, ¿tal vez en 50 años será más convencional?

— Neil G
fuente

[0, 10]

$[0,10]$

5

$5$

0

$0$

6

$6$

\sqrt{1 - \frac{2}{\sqrt{5}}}

$\sqrt{1-\frac{2}{\sqrt{5}}}$

@whuber: el argumento de cambio no funcionaría para una distribución Cauchy, a menos que cambies su modo.

— Neil G

Claro que sí: hay muchas formas de transformar una distribución continua en otra que intercambian dos valores. En realidad, su "volteo" ni siquiera conservó la distribución original. (Cambió su soporte por completo). Parece que todo lo que está haciendo es reemplazar una distribución por otra. No parece haber ningún principio operando aquí en absoluto.

— whuber

@whuber: reemplazó una distribución con otra, por lo que las regiones uniformes alrededor de las 5 y 6 no cambiaron , de la misma manera creo que alejar intenta dejar las densidades sin cambios en los círculos originales en la paradoja de Bertrand .

— Neil G

@whuber: Tienes razón. Realmente me gustó la respuesta de Potato a una de mis preguntas. Personalmente, creo que si existe una discrepancia entre la teoría y la intuición, debemos buscar nuevas teorías más completas. Tal vez el "principio de indiferencia" no es del todo correcto, o generalmente no es viable, pero tengo un deseo natural de que la teoría de la probabilidad responda preguntas para las cuales tenemos una comprensión intuitiva. ¿Quizás Lebesgue tenía el mismo tipo de angustia por la integración de Riemann cuando creó su integral?

— Neil G

$A = [5 - \frac{\epsilon}{2} , 5 + \frac{\epsilon}{2}]$ $B = [5 - \frac{\epsilon}{4} , 5 + \frac{\epsilon}{4}] \cup [6 - \frac{\epsilon}{4} , 6 + \frac{\epsilon}{4}]$ $\epsilon \to 0$ .

$(X_1, X_2) \sim \mathcal{N}(0, \Sigma)$ $X_1$ $X_2 = 0$ $P(\xi = a) = 0$

Entonces, sí, puede dar sentido al condicionamiento en eventos de medida cero.

— Yair Daon
fuente

U \sim U [0, 10]

$U\sim \text{U}[0,10]$

0

$0$

10

$10$

A = {0}

$A=\{0\}$

B = {0, 6}

$B=\{0,6\}$

P (A | B) = 1 / 2

$P(A|B)=1/2$

[0, 10]

$[0,10]$

1 / 3

$1/3$

5

$5$

0

$0$

0

$0$

ε

$\varepsilon$

P (A | B) = \frac{P (A \cap B)}{P (B)} = \frac{\int_{5 - \frac{ε}{4}}^{5 + \frac{ε}{4}} f (u) d u}{\int_{5 - \frac{ε}{4}}^{5 + \frac{ε}{4}} f (u) d u + \int_{6 - \frac{ε}{4}}^{6 + \frac{ε}{4}} f (u) d u} = \frac{\frac{ε}{2}}{\frac{ε}{2} + \frac{ε}{2}} = 0.5

$P\left( {A|B} \right) = \frac{{P\left( {A \cap B} \right)}}{{P\left( B \right)}} = \frac{{\int\limits_{5 - \frac{\varepsilon }{4}}^{5 + \frac{\varepsilon }{4}} {f\left( u \right)du} }}{{\int\limits_{5 - \frac{\varepsilon }{4}}^{5 + \frac{\varepsilon }{4}} {f\left( u \right)du} + \int\limits_{6 - \frac{\varepsilon }{4}}^{6 + \frac{\varepsilon }{4}} {f\left( u \right)du} }} = \frac{{\frac{\varepsilon }{2}}}{{\frac{\varepsilon }{2} + \frac{\varepsilon }{2}}} = 0.5$

[5 - \frac{ε}{8}, 5 + \frac{ε}{8}]

$\left[ {5 - \frac{\varepsilon }{8},5 + \frac{\varepsilon }{8}} \right]$

\frac{1}{8}

${\frac{1}{8}}$

Es excelente para la intuición al mostrar que no hay una respuesta única: esa es la base de la declaración de Kolmogorov citada por @ Xi'an. El hecho de que tuvieras que cambiar tu procedimiento para hacer que las cosas salgan como creías que deberían avisarte de los problemas con este enfoque.

— whuber

X_{2}

$X_2$

X_{1}

$X_1$

X_{2}

$X_2$

X_{1} = 0

$X_1=0$