Intuición para la expectativa condicional de álgebra

Sea un espacio de probabilidad, dada una variable aleatoria y a -algebra podemos construir una nueva variable aleatoria , que es la expectativa condicional.$(\Omega,\mathscr{F},\mu)$$\xi:\Omega \to \mathbb{R}$$\sigma$$\mathscr{G}\subseteq \mathscr{F}$$E[\xi|\mathscr{G}]$

¿Cuál es exactamente la intuición para pensar en ? Entiendo la intuición de lo siguiente:$E[\xi|\mathscr{G}]$

(i) donde es un evento (con probabilidad positiva).$E[\xi|A]$$A$

(ii) donde es una variable aleatoria discreta.$E[\xi|\eta]$$\eta$

Pero no puedo visualizar . Entiendo las matemáticas de esto, y entiendo que está definido de tal manera para generalizar los casos más simples que podemos visualizar. Sin embargo, no creo que esta forma de pensar sea útil. Sigue siendo un objeto misterioso para mí.$E[\xi|\mathscr{G}]$

Por ejemplo, deje que sea ​​un evento con . Forma el -algebra , la generada por . Entonces sería igual a si , e igual a si . En otras palabras, if , y if .$A$$\mu(A)>0$$\sigma$$\mathscr{G} = \{ \emptyset, A, A^c, \Omega\}$$A$$E[\xi|\mathscr{G}](\omega)$$\frac{1}{\mu(A)} \int_A \xi$$\omega \in A$$\frac{1}{\mu(A^c)} \int_{A^c} \xi$$\omega \not \in A$$E[\xi|\mathscr{G}](\omega) = E[\xi|A]$$\omega\in A$$E[\xi|\mathscr{G}](\omega) = E[\xi|A^c]$$\omega \in A^c$

La parte que es confusa es que , entonces ¿por qué no solo escribimos ? ¿Por qué reemplazamos por dependiendo de si , pero no está permitido reemplazar por ?$\omega \in \Omega$$E[\xi|\mathscr{G}](\omega) = E[\xi|\Omega] = E[\xi]$$E[\xi|\mathscr{G}]$$E[\xi| A\text{ or } A^c]$$\omega\in A$$E[\xi|\mathscr{G}]$$E[\xi]$

Nota. Al responder a esta pregunta, no explique esto utilizando la definición rigurosa de expectativa condicional. Entiendo que. Lo que quiero entender es qué se supone que calcula la expectativa condicional y por qué rechazamos una en lugar de otra.

Una forma de pensar sobre la representación condicional es como una proyección sobre álgebra .$\sigma$$\mathscr{G}$

( de Wikimedia commons )

Esto es realmente riguroso cuando se habla de variables aleatorias integrables al cuadrado; en este caso, es en realidad la proyección ortogonal de la variable aleatoria en el subespacio de consiste en variables aleatorias medibles con respecto a . Y, de hecho, esto incluso resulta ser cierto en cierto sentido para las variables aleatorias mediante la aproximación de las variables aleatorias .ξ L 2 ( Ω ) $\mathbb{E}[\xi|\mathscr{G}]$$\xi$$L^2(\Omega)$$\mathscr{G}$L $L^1$$L^2$

(Ver los comentarios para referencias).

Si se considera que representa la cantidad de información que tenemos disponible (una interpretación que es de rigor en la teoría de los procesos estocásticos), entonces más grandes significan más eventos posibles y, por lo tanto, más información sobre posibles resultados, mientras que son más pequeños significa menos eventos posibles y, por lo tanto, menos información sobre posibles resultados.$\sigma-$σ $\sigma-$$\sigma-$

Por lo tanto, la proyección de la -medible variable aleatoria en los más pequeños álgebra significa tomar nuestra mejor estimación para el valor de dada la información más limitada disponible de . ξ σ - $\mathscr{F}$$\xi$$\sigma-$$\mathscr{G}$$\xi$$\mathscr{G}$

En otras palabras, dada solo la información de , y no toda la información de , es, en un sentido riguroso, nuestro mejor posible adivinar cuál es la variable aleatoria .F E [ $\mathscr{G}$$\mathscr{F}$$\mathbb{E}[\xi|\mathscr{G}]$$\xi$

Con respecto a su ejemplo, creo que podría estar confundiendo variables aleatorias y sus valores. Una variable aleatoria es una función cuyo dominio es el espacio de eventos; No es un número. En otras palabras, , mientras que para un , .X : Ω → R X ∈ { f | f : Ω → R } ω ∈ Ω $X$$X: \Omega \to \mathbb{R}$$X \in \{f\ |\ f: \Omega \to \mathbb{R} \}$$\omega \in \Omega$$X(\omega)\in\mathbb{R}$

La notación de expectativa condicional, en mi opinión, es realmente mala, porque es una variable aleatoria en sí misma, es decir, también una función . En contraste, la expectativa (regular) de una variable aleatoria es un número . La expectativa condicional de una variable aleatoria es una cantidad completamente diferente de la expectativa de la misma variable aleatoria, es decir, ni siquiera "chequea" con .E [ ξ $\mathbb{E}[\xi|\mathscr{G}]$$\mathbb{E}[\xi]$

En otras palabras, usar el símbolo para denotar expectativas tanto regulares como condicionales es un abuso de notación muy grande, lo que lleva a una confusión innecesaria.$\mathbb{E}$

Dicho todo esto, tenga en cuenta que es un número (el valor de la variable aleatoria evaluado en el valor ), pero es una variable aleatoria, pero resulta ser una variable aleatoria constante (es decir, degenerada trivial), porque el álgebra generado por , es trivial / degenerado, y técnicamente hablando, el valor constante de esta variable aleatoria constante es , donde aquíE [ ξ | G ] ω E [ ξ | Ω ] σ Ω { ∅ , Ω } $\mathbb{E}[\xi|\mathscr{G}](\omega)$$\mathbb{E}[\xi|\mathscr{G}]$$\omega$$\mathbb{E}[\xi|\Omega]$$\sigma$$\Omega$$\{ \emptyset, \Omega\}$$\mathbb{E}[\xi]$$\mathbb{E}$ denota expectativa regular y, por lo tanto, un número, no expectativa condicional y, por lo tanto, no una variable aleatoria.

También parece estar confundido acerca de lo que significa la notación ; técnicamente hablando, solo es posible condicionar en , no en eventos individuales, ya que las medidas de probabilidad solo se definen en completas , no en eventos individuales. Por lo tanto, es solo una abreviatura (perezosa) de , donde representa el generado por el evento , que es . Tenga en cuenta que ; en otras palabras, ,σ - σ - E [ ξ | A ] E [ ξ | σ ( A ) ] σ ( A ) σ - A { ∅ , A , A c , Ω } σ ( A ) = G = σ ( A c$\mathbb{E}[\xi|A]$$\sigma-$$\sigma-$$\mathbb{E}[\xi|A]$$\mathbb{E}[\xi|\sigma(A)]$$\sigma(A)$$\sigma-$$A$$\{ \emptyset, A, A^c, \Omega\}$$\sigma(A) = \mathscr{G} = \sigma(A^c)$$\mathbb{E}[\xi|A]$E [ ξ | A c$\mathbb{E}[\xi|\mathscr{G}]$ y son formas diferentes de denotar exactamente el mismo objeto .$\mathbb{E}[\xi|A^c]$

Finalmente, solo quiero agregar que la explicación intuitiva que di arriba explica por qué el valor constante de la variable aleatoria es solo el número - el álgebra representa la menor cantidad posible de información que podríamos tener, de hecho, esencialmente no hay información, por lo que, bajo esta circunstancia extrema, la mejor suposición posible para la cual la variable aleatoria es es la variable aleatoria constante cuyo valor constante es .E [ ξ ] σ - { ∅ , Ω } $\mathbb{E}[\xi|\Omega]=\mathbb{E}[\xi|\sigma(\Omega)]= \mathbb{E}[\xi| \{ \emptyset, \Omega\}]$$\mathbb{E}[\xi]$$\sigma-$$\{ \emptyset, \Omega\}$$\xi$$\mathbb{E}[\xi]$

Tenga en cuenta que todas las variables aleatorias constantes son variables aleatorias, y todas son medibles con respecto a la trivial álgebra , por lo que sí tenemos que la constante aleatoria es la proyección ortogonal de en el subespacio de consiste en variables aleatorias medibles con respecto a , como se afirmó. σ { ∅ , Ω } E [ ξ ] ξ L 2 ( Ω ) { ∅ , Ω $L^2$$\sigma$$\{\emptyset, \Omega\}$$\mathbb{E}[\xi]$$\xi$$L^2(\Omega)$$\{\emptyset, \Omega\}$

Voy a tratar de elaborar lo que sugirió William.

Sea el espacio muestral de lanzar una moneda dos veces. Define la carrera. var. para ser el num. de cabezas que ocurren en el experimento. Claramente, . Una forma de pensar en lo que , como expec. valor, representa es la mejor estimación posible para . Si tuviéramos que adivinar qué valor tomaría , adivinaríamos . Esto se debe a que para cualquier número real .ξ E [ ξ ] = 1 1 ξ ξ 1 E [ ( ξ - 1 ) 2 ] ≤ E [ ( ξ - $\Omega$$\xi$$E[\xi] = 1$$1$$\xi$$\xi$$1$$E[(\xi - 1)^2] \leq E[(\xi - a)^2]$$a$

Denote con como el evento de que el primer resultado es una cabeza. Deje que sea ​​el -alg. gen. por . Pensamos que representa lo que sabemos después del primer lanzamiento. Después del primer lanzamiento, las cabezas ocurrieron o las cabezas no ocurrieron. Por lo tanto, estamos en el evento o después del primer lanzamiento.G = { ∅ , A , A c , Ω } σ A $A = \{ HT, HH \}$$\mathscr{G} = \{ \emptyset, A, A^c, \Omega\}$$\sigma$$A$$\mathscr{G}$A $A$$A^c$

Si estamos en el evento , entonces la mejor estimación posible para sería , y si estamos en el evento , entonces la mejor estimación posible para sería .ξ E [ ξ | A ] = 1.5 A c ξ E [ $A$$\xi$$E[\xi|A] = 1.5$$A^c$$\xi$$E[\xi|A^c] = 0.5$

Ahora defina la carrera. var. para ser ya sea o en función de si o no . Esto corrio. var. , es una mejor aproximación que ya que .1.5 0.5 ω ∈ A η 1 = E [ ξ ] E [ ( ξ - η ) 2 ] ≤ E [ ( $\eta(\omega)$$1.5$$0.5$$\omega\in A$$\eta$$1 = E[\xi]$$E[(\xi - \eta)^2] \leq E[(\xi -1)^2]$

Lo que está haciendo es proporcionar la respuesta a la pregunta: ¿cuál es la mejor estimación de después del primer lanzamiento? Dado que no conocemos la información después de la primera tirada, dependerá de . Una vez que se nos revela el evento , después del primer lanzamiento, se determina el valor de y proporciona la mejor estimación posible para . ξ η A $\eta$$\xi$$\eta$$A$$\mathscr{G}$$\eta$$\xi$

El problema con el uso de como su propia estimación, es decir, es el siguiente. no está bien definido después del primer lanzamiento. Digamos que el resultado del experimento es con el primer resultado como cabezas, estamos en el evento , pero ¿qué esNo sabemos desde el primer lanzamiento, que el valor es ambiguo para nosotros, por lo que no está bien definido. Más formalmente, decimos que no es medible, es decir, su valor no está bien definido después del primer lanzamiento. Por lo tanto, es la mejor estimación posible de0 = E [ ( ξ - ξ ) 2 ] ≤ E [ ( ξ - η ) 2 ] ξ ω A ξ ( ω ) = ? ξ ξ G η $\xi$$0=E[(\xi - \xi)^2] \leq E[(\xi - \eta)^2]$$\xi$$\omega$$A$$\xi(\omega)=?$$\xi$$\xi$$\mathscr{G}$$\eta$$\xi$ después del primer lanzamiento.

Quizás, alguien aquí pueda encontrar un ejemplo más sofisticado usando el espacio muestral , con , y algunos no triviales álgebra.ξ ( ω ) = ω G$[0,1]$$\xi (\omega) = \omega$$\mathscr{G}$$\sigma$

Aunque solicite no utilizar la definición formal, creo que la definición formal es probablemente la mejor manera de explicarla.

Wikipedia - expectativa condicional :

Entonces, una expectativa condicional de X dada , denotada como , es cualquier medible ( ) que satisface: E(X∣ H ) H Ω→ R $\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle \operatorname {E} (X\mid {\mathcal {H}})$$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle \Omega \to \mathbb {R} ^{n}$

$\displaystyle \int _{H}\operatorname {E} (X\mid {\mathcal {H}})\;dP=\int _{H}X\;dP\qquad {\text{for each}}\quad H\in {\mathcal {H}}$

En primer lugar, es una función medible. En segundo lugar, debe coincidir con la expectativa sobre cada (sub) conjunto medible en . Entonces, para un evento, A, el álgebra sigma es , por lo que claramente se establece como especificó en su pregunta para . De manera similar para cualquier variable aleatoria discreta (y combinaciones de ellas), enumeramos todos los eventos primitivos y asignamos la expectativa dada ese evento primitivo.H {A,AC,∅,Ω}ω∈A/A$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle {\mathcal {H}}$$\{A,A^C,\emptyset, \Omega\}$$\omega \in A/A^c$

Ahora considere lanzar una moneda un número infinito de veces, donde en cada lanzamiento i, obtiene , si su moneda es cruz, entonces sus ganancias totales son donde = 1 para colas y 0 para cabezas. Entonces X es una variable aleatoria real en . Después de n lanzamientos de monedas, conoce el valor de X con precisión 1/2 , por ejemplo, después de 2 lanzamientos de monedas está en [0,1 / 4], [1 / 4,1 / 2], [1/2, 3/4] o [3 / 4,1]: después de cada lanzamiento de moneda, su álgebra sigma asociada se vuelve cada vez más fina, y de manera similar, la expectativa condicional de X se vuelve cada vez más precisa. X = sigma ∞ i = 1$1/2^i$ci[0,1]1/2$X=\sum _{i=1}^\infty \frac{1}{2^i}c_i$$c_i$$[0,1]$$1/2^n$

Con suerte, este ejemplo de una variable aleatoria valorada real con una secuencia de álgebras sigma cada vez más finas (Filtración) lo aleja de la intuición puramente basada en eventos a la que está acostumbrado y aclara su propósito.