¿Qué tiene de bueno el teorema de representación de de Finetti?

De la teoría de la estadística de Mark J. Schervish (página 12):

Aunque el teorema de representación de DeFinetti 1.49 es central para motivar modelos paramétricos, en realidad no se usa en su implementación.

¿Cómo es el teorema central para los modelos paramétricos?

El teorema de la representación de De Finetti da en una sola toma, dentro de la interpretación subjetivista de las probabilidades, la razón de ser de los modelos estadísticos y el significado de los parámetros y sus distribuciones previas.

Suponga que las variables aleatorias representan los resultados de lanzamientos sucesivos de una moneda, con valores y correspondientes a los resultados "Caras" y "Colas", respectivamente. Analizando, dentro del contexto de una interpretación subjetivista del cálculo de probabilidad, el significado del modelo frecuentista habitual bajo el cual los son independientes e idénticamente distribuidos, De Finetti observó que la condición de independencia implicaría, por ejemplo, que y, por lo tanto, los resultados de la primera lanzamientos no cambiarían mi incertidumbre sobre el resultado de 1 0 X i P { X n = x n ∣ X 1 = x 1 , … , X n - 1 = x n - 1 } = P { X n = x n$X_1,\dots,X_n$$1$$0$$X_i$N - 1 n a priori 999 1 / 2 X

$$P\{X_n=x_n\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\} = P\{X_n=x_n\} \, ,$$ $n-1$$n$-el lanzamiento Por ejemplo, si creo que esta es una moneda equilibrada, entonces, después de obtener la información que los primeros lanzamientos del resultaron ser "Cabezas", todavía creo, condicionalmente en esa información, que el la probabilidad de obtener "Cabezas" al lanzar 1000 es igual a . Efectivamente, la hipótesis de independencia de las 's implicaría que es imposible aprender algo sobre la moneda al observar los resultados de su lanzamiento.$\textit{a priori}$$999$$1/2$$X_i$

Esta observación llevó a De Finetti a la introducción de una condición más débil que la independencia que resuelve esta aparente contradicción. La clave de la solución de De Finetti es un tipo de simetría distributiva conocida como intercambiabilidad.

$\textbf{Definition.}$ Para un conjunto finito dado de objetos aleatorios, deje que denote su distribución conjunta. Este conjunto finito es intercambiable si , por cada permutación . Una secuencia de objetos aleatorios es intercambiable si cada uno de sus subconjuntos finitos es intercambiable.$\{X_i\}_{i=1}^n$$\mu_{X_1,\dots,X_n}$$\mu_{X_1,\dots,X_n} = \mu_{X_{\pi(1)},\dots,X_{\pi(n)}}$$\pi:\{1,\dots,n\}\to\{1,\dots,n\}$$\{X_i\}_{i=1}^\infty$

Suponiendo solo que la secuencia de variables aleatorias es intercambiable, De Finetti demostró un notable teorema que arroja luz sobre el significado de los modelos estadísticos comúnmente utilizados. En el caso particular cuando los toman los valores y , el Teorema de representación de De Finetti dice que es intercambiable si y solo si hay una variable aleatoria , con distribución , de modo que en el que . Además, tenemos eso $\{X_i\}_{i=1}^\infty$$X_i$$0$$1$$\{X_i\}_{i=1}^\infty$$\Theta:\Omega\to[0,1]$$\mu_\Theta$

$$P\{X_1=x_1,\dots,X_n=x_n\} = \int_{[0,1]} \theta^s(1-\theta)^{n-s}\,d\mu_\Theta(\theta) \, ,$$ $s=\sum_{i=1}^n x_i$ $$\bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i \xrightarrow[n\to\infty]{} \Theta \qquad \textrm{almost surely},$$ que es conocido como la Ley fuerte de grandes números de De Finetti.

Este teorema de representación muestra cómo los modelos estadísticos emergen en un contexto bayesiano: bajo la hipótesis de intercambiabilidad de los observables , a tal que, dado el valor de , los observables son independientes e idénticamente distribuidos. Además, la ley Strong de De Finetti muestra que nuestra opinión previa sobre la no observable , representada por la distribución , es la opinión sobre el límite de , antes de que tengamos información sobre los valores de las realizaciones de cualquiera de los$\{X_i\}_{i=1}^\infty$$\textbf{there is}$$\textit{parameter}$ $\Theta$$\Theta$$\textit{conditionally}$$\Theta$$\mu_\Theta$$\bar{X}_n$$X_i$'s. El parámetro desempeña el papel de una construcción subsidiaria útil, que nos permite obtener probabilidades condicionales que involucran solo observables a través de relaciones como $\Theta$

$$P\{X_n=1\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\} = \mathrm{E}\left[\Theta\mid X_1=x_1,\dots,X_{n-1}=x_{n-1}\right] \, .$$

Todo es matemáticamente correcto en la respuesta del Zen. Sin embargo, no estoy de acuerdo en algunos puntos. Tenga en cuenta que no afirmo / creo que mi punto de vista es el bueno; al contrario, siento que estos puntos aún no están del todo claros para mí. Estas son preguntas algo filosóficas sobre las que me gusta discutir (y un buen ejercicio de inglés para mí), y también estoy interesado en cualquier consejo.

• Sobre el ejemplo con "Caras", comentario Zen: "la hipótesis de independencia de los 's implicaría que es imposible aprender algo sobre la moneda al observar los resultados de su lanzamiento". Esto no es cierto desde la perspectiva frecuentista: aprender sobre la moneda significa aprender sobre , lo cual es posible al estimar (estimación puntual o intervalo de confianza) partir de los resultados anteriores de . Si el frecuentador observa "Cabezas", entonces él / ella concluye que probablemente esté cerca de , y también lo es consecuencia.X i$999$$X_i$θ 999 999 θ 1 Pr ( X n = 1 $\theta$$\theta$$999$$999$$\theta$$1$$\Pr(X_n=1)$

• Por cierto, en este ejemplo de lanzamiento de monedas, ¿cuál es el aleatorio ? Imaginando a cada una de las dos personas que juegan un juego de lanzamiento de monedas un número infinito de veces con la misma moneda, ¿por qué encontrarían una ? Tengo en cuenta que la característica del lanzamiento de monedas es la fija, que es el valor común de para cualquier jugador ("casi cualquier jugador" por razones técnicas matemáticas). Un ejemplo más concreto para el que no hay un aleatorio interpretable es el caso de un muestreo aleatorio con reemplazo en una población finita de y .θ = ˉ X ∞ θ ˉ X ∞ Θ 0 $\Theta$$\theta = \bar X_\infty$$\theta$$\bar X_\infty$$\Theta$$0$$1$

• Sobre el libro de Schervish y la pregunta planteada por el OP, creo que (hablando rápidamente) Schervish significa que la intercambiabilidad es una suposición "genial" y luego el teorema de deFinetti es "genial" porque dice que cada modelo intercambiable tiene una representación paramétrica. Por supuesto que estoy totalmente de acuerdo. Sin embargo, si asumo un modelo intercambiable como y entonces estaría interesado en realizar inferencia sobre y , no se trata de la realización de . Si solo estoy interesado en la realización de entonces no veo ningún interés en asumir la intercambiabilidad.Θ ∼ Beta ( a , b ) a b Θ $(X_i\mid\Theta=\theta)\sim_\text{iid} \text{Bernoulli}(\theta)$$\Theta \sim \text{Beta}(a,b)$$a$$b$$\Theta$$\Theta$

Ya es tarde...

Ustedes podrían estar interesados ​​en un artículo sobre este tema (se requiere suscripción a la revista para acceder; intente acceder desde su universidad):

O'Neill, B. (2011) Intercambiabilidad, correlación y efecto Bayes. Revista estadística internacional 77 (2), págs. 241-250.

Este artículo discute el teorema de representación como la base para los modelos IID bayesianos y frecuentistas, y también lo aplica a un ejemplo de lanzamiento de monedas. Debería aclarar la discusión de los supuestos del paradigma frecuentista. En realidad, utiliza una extensión más amplia del teorema de representación que va más allá del modelo binomial, pero aún así debería ser útil.