¿Cómo tiene sentido la prueba de muestreo de rechazo?

Estoy tomando un curso sobre métodos de Monte Carlo y aprendimos el método de Muestreo de rechazo (o Muestreo de aceptación-rechazo) en la última conferencia. Hay muchos recursos en la web que muestran la prueba de este método, pero de alguna manera no estoy convencido con ellos.

Entonces, en la Muestra de rechazo, tenemos una distribución $f(x)$ que es difícil de probar. Elegimos una distribución fácil de muestrear $g(x)$ y encontrar un coeficiente $c$ tal que $f(x) \leq cg(x)$ . Luego tomamos muestras de $g(x)$ y para cada sorteo, $x_i$ , también probamos un $u$ de una distribución uniforme estándar $U(u|0,1)$ .

La muestra $x_i$ se acepta si es $cg(x_i)u \leq f(x_i)$ y rechazado de otra manera.

Las pruebas que encontré usualmente solo muestran que $p(x|Accept) = f(x)$ y detente ahí.

Lo que pienso sobre este proceso es que tenemos una secuencia de variables $x_1,Accept_1,x_2,Accept_2,...,x_n,Accept_n$ y un $x_i,Accept_i$ par corresponde a nuestra i.a muestra ( $x_i$ ) y si se acepta ( $Accept_i$ ) Sabemos que cada $x_i,Accept_i$ el par es independiente el uno del otro, de modo que:

$P(x_1,Accept_1,x_2,Accept_2,...,x_n,Accept_n) = \prod\limits_{i=1}^n P(x_i,Accept_i)$

Para $(x_i,Accept_i)$ par sabemos que $P(x_i) = g(x_i)$ y $P(Accept_i|x_i) = \frac{f(x_i)}{cg(x_i)}$ . Podemos calcular fácilmente $p(x_i|Accept_i)$ pero no entiendo cómo es suficiente como prueba. Necesitamos demostrar que el algoritmo funciona, por lo que creo que una prueba debería mostrar que la distribución empricial de las muestras aceptadas converge a $f(x)$ como $n\rightarrow\infty$ . Quiero decir, con $n$ siendo el número de todas las muestras aceptadas y rechazadas:

$\frac{Number \hspace{1mm} of \hspace{1mm} samples \hspace{1mm} with \hspace{1mm} (A \leq x_i \leq B)}{Number \hspace{1mm} of \hspace{1mm} accepted \hspace{1mm} samples} \rightarrow \int_A^B f(x)dx$ como $n\rightarrow\infty$ .

¿Estoy equivocado con este patrón de pensamiento? ¿O hay una conexión entre la prueba común del algoritmo y esto?

Gracias por adelantado

sampling monte-carlo rejection-sampling

— Ufuk Can Bicici
fuente

Respuestas:

Debe pensar que el algoritmo produce dibujos a partir de una variable aleatoria, para mostrar que el algoritmo funciona, es suficiente con mostrar que el algoritmo se basa en la variable aleatoria que desea.

Dejar $X$ y $Y$ ser variables aleatorias escalares con archivos PDF $f_X$ y $f_Y$ respectivamente, donde $Y$ es algo de lo que ya sabemos cómo tomar muestras. También podemos saber que podemos atar $f_X$ por $Mf_Y$ dónde $M\ge1$ .

Ahora formamos una nueva variable aleatoria $A$ dónde $A | y \sim \text{Bernoulli } \left (\frac{f_X(y)}{Mf_Y(y)}\right )$ , esto toma el valor $1$ con probabilidad $\frac{f_X(y)}{Mf_Y(y)}$ y $0$ de otra manera. Esto representa el algoritmo 'aceptando' un sorteo de $Y$ .

Ahora ejecutamos el algoritmo y recopilamos todos los sorteos de $Y$ que son aceptadas, llamemos a esta variable aleatoria $Z = Y|A=1$ .

Para mostrar que $Z \equiv X$ , para cualquier evento $E$ , debemos demostrar que $P(Z \in E) =P(X \in E)$ .

Así que intentemos eso, primero use la regla de Bayes:

$P(Z \in E) = P(Y \in E | A =1) = \frac{P(Y \in E \& A=1)}{P(A=1)}$ ,

y la parte superior escribimos como

\begin{aligned} P (Y \in E & A = 1) & = \int_{E} f_{Y, A} (y, 1) d y \\ = \int_{E} f_{A | Y} (1, y) f_{Y} (y) d y = \int_{E} f_{Y} (y) \frac{f_{X} (y)}{M f_{Y} (y)} d y = \frac{P (X \in E)}{M} . \end{aligned}

$\begin{align*}P(Y \in E \& A=1) &= \int_E f_{Y, A}(y,1) \, dy \\ &= \int_E f_{A|Y}(1,y)f_Y(y) \, dy =\int_E f_Y(y) \frac{f_X(y)}{Mf_Y(y)} \, dy =\frac{P(X \in E)}{M}.\end{align*}$

Y luego la parte inferior es simplemente

$P(A=1) = \int_{-\infty}^{\infty}f_{Y,A}(y,1) \, dy = \frac{1}{M}$ ,

por el mismo razonamiento que el anterior, estableciendo $E=(-\infty, +\infty)$ .

Y estos se combinan para dar $P(X \in E)$ , que es lo que queríamos $Z \equiv X$ .

Así es como funciona el algoritmo, pero al final de su pregunta parece que le preocupa una idea más general, es decir, ¿cuándo converge una distribución empírica con la distribución muestreada? Este es un fenómeno general relacionado con cualquier muestreo si te entiendo correctamente.

En este caso, dejemos $X_1, \dots, X_n$ estar en variables aleatorias todas con distribución $\equiv X$ . Entonces para cualquier evento $E$ , $\frac{\sum_{i=1}^n1_{X_i \in E}}{n}$ tiene expectativas $P(X \in E)$ por la linealidad de la expectativa.

Además, dados los supuestos adecuados, podría usar la ley fuerte de los grandes números para mostrar que la probabilidad empírica converge casi seguramente con la probabilidad verdadera.

— Harri
fuente

Gracias por la respuesta. ¿Puede aclarar cómo puedo demostrar que la distribución empírica converge a la distribución objetivo mediante el uso de la Ley de los números grandes? Es exactamente lo que trato de mostrar en este caso.

— Ufuk Can Bicici

Glivenko-Cantelli: www2.imperial.ac.uk/~das01/MyWeb/M3S3/Handouts/…

— Zen

@Harri Lo que me molesta es el hecho de que aprendemos la variable aleatoria que indica la aceptación del sorteo (

A = 1

$A=1$ ) después de haber aprendido el valor de la variable real. Observamos las variables de acuerdo a la secuencia.

Y_{1}, A_{1}, Y_{2}, A_{2}, . . ., Y_{n}, A_{n}

$Y_1,A_1,Y_2,A_2,...,Y_n,A_n$ , entonces si estamos a punto de observar la variable

Y_{2}

$Y_2$ , lo que sabemos sobre el sistema es

Y_{1}

$Y_1$ y

A_{1}

$A_1$ y desde

Y_{2}

$Y_2$ es independiente de ellos, lo que procesamos es primero

P (Y_{2})

$P(Y_2)$ , entonces

P (A_{2} | Y_{2})

$P(A_2|Y_2)$ no de la otra manera.

— Ufuk Can Bicici

¿Podría decir algo más sobre por qué el orden de saber

P (Y_{2})

$P(Y_2)$ y entonces

P (A_{2} | Y_{2})

$P(A_2|Y_2)$ te molesta?

— Harri

Primero, tenga en cuenta que un procedimiento completo del método de muestreo de rechazo solo produce una única variable aleatoria. Cuando algunas $x_i$ es aceptado, el procedimiento se detiene y no hay $x_{i+1}$ nunca más. Si desea múltiples variables aleatorias, simplemente repita el procedimiento varias veces.

En algunos libros de texto, denotan el evento de aceptación por $A$ y calcular la probabilidad

\begin{aligned} P (A) = & \int_{- \infty}^{\infty} d x \int_{0}^{\frac{f (x)}{c g (x)}} g (x) d u \\ = & \int_{- \infty}^{\infty} \frac{1}{c} f (x) d x \\ = & \frac{1}{c} . \end{aligned}

$\begin{aligned} P(A) =& \int_{-\infty}^{\infty}dx\int_0^{\frac{f(x)}{cg(x)}}g(x)du \\ =& \int_{-\infty}^{\infty}\frac{1}{c}f(x)dx \\ =& \frac{1}{c}. \end{aligned}$

And

\begin{aligned} f_{X} (x | A) = & \frac{f_{X} (x) \cdot P (A | x)}{P (A)} \\ = & \frac{g (x) \cdot \frac{f (x)}{c g (x)}}{\frac{1}{c}} \\ = & f (x) . \end{aligned}

$\begin{aligned} f_X(x|A) =& \frac{f_X(x) \cdot P(A|x)}{P(A)}\\ =& \frac{g(x) \cdot \frac{f(x)}{cg(x)}}{\frac{1}{c}} \\ =& f(x). \end{aligned}$

The confusing thing is that the acceptance $A$ here appears to be acceptance of a single sample of $x_i$ , but the whole procedure may reject multiple $x_i$ 's.

Yes, a more rigorous proof should consider the probability of acceptance at different steps. Let $X_i$ denote the $i$ th sample, $f_{X_i}$ denote the probability density function of $X_i$ , $A_i$ denote the $i$ th acceptance, and $X_\infty$ denote the final accepted value. Then the probability density function of $X_\infty$ is

f_{X_{\infty}} (x) = P (A_{1}) f_{X_{1}} (x | A_{1}) + P (A_{2}) f_{X_{2}} (x | A_{2}) + \dots .

$f_{X_\infty}(x) = P(A_1) f_{X_1}(x|A_1) + P(A_2) f_{X_2}(x|A_2) + \dots.$

P (A_{1})

$P(A_1)$ is

\frac{1}{c}

$\frac{1}{c}$ and

f_{X_{1}} (x | A_{1})

$f_{X_1}(x|A_1)$ is

f (x)

$f(x)$ as calculated before. Note

P (A_{2})

$P(A_2)$ is

(1 - \frac{1}{c}) \frac{1}{c}

$\left(1-\frac{1}{c}\right)\frac{1}{c}$ where

1 - \frac{1}{c}

$1-\frac{1}{c}$ is the probability of the rejection of

X_{1}

$X_1$ since only when

X_{1}

$X_1$ is rejected have we a chance to choose an

X_{2}

$X_2$ .

And $f_{X_2}(x|A_2)$ is $f(x)$ too because the second step is not affected by previous steps, its probability should be the same as the first step. If this explanation doesn't convince you, we can also work it out rigorously. Be careful $X_2$ is not defined when $X_1$ is accepted (or you can define it to be an arbitrary number when $X_1$ is accepted if undefined value makes you uncomfortable), so for probabilities concerning $X_2$ , only conditional probabilities given $A_1^c$ or subsets of $A_1^c$ make sense. Now

\begin{aligned} f_{X_{2}} (x | A_{2}) = & \frac{P (A_{1}^{c}) f_{X_{2}} (x | A_{1}^{c}) P (A_{2} | X_{2} = x)}{P (A_{2})} \\ = & \frac{P (A_{1}^{c}) f_{X_{2}} (x | A_{1}^{c}) P (A_{2} | X_{2} = x)}{P (A_{1}^{c}) P (A_{2} | A_{1}^{c})} \\ = & \frac{f_{X_{2}} (x | A_{1}^{c}) P (A_{2} | X_{2} = x)}{P (A_{2} | A_{1}^{c})} \\ = & \frac{g (x) \cdot \frac{f (x)}{c g (x)}}{\frac{1}{c}} \\ = & f (x) . \end{aligned}

$\begin{aligned} f_{X_2}(x|A_2) =& \frac{P(A_1^c)f_{X_2}(x|A_1^c)P(A_2|X_2=x)}{P(A_2)} \\ =& \frac{P(A_1^c)f_{X_2}(x|A_1^c)P(A_2|X_2=x)}{P(A_1^c)P(A_2|A_1^c)} \\ =& \frac{f_{X_2}(x|A_1^c)P(A_2|X_2=x)}{P(A_2|A_1^c)} \\ =& \frac{g(x) \cdot \frac{f(x)}{cg(x)}}{\frac{1}{c}} \\ =& f(x). \end{aligned}$ So

\begin{aligned} f_{X_{\infty}} (x) = & P (A_{1}) f (x) + P (A_{2}) f (x) + \dots \\ = & (P (A_{1}) + P (A_{2}) + \dots) f (x) \\ = & (\frac{1}{c} + (1 - \frac{1}{c}) \frac{1}{c} + {(1 - \frac{1}{c})}^{2} \frac{1}{c} + \dots) f (x) \\ = & f (x) . \end{aligned}

$\begin{aligned} f_{X_\infty}(x) =& P(A_1) f(x) + P(A_2) f(x) + \dots \\ =& (P(A_1) + P(A_2) + \dots) f(x) \\ =& \left(\frac{1}{c} + \left(1-\frac{1}{c}\right)\frac{1}{c} + \left(1-\frac{1}{c}\right)^2\frac{1}{c} + \dots\right) f(x) \\ =& f(x). \end{aligned}$ That is the desired result. Note

P (A_{1}) + P (A_{2}) + \dots

$P(A_1) + P(A_2) + \dots$ = 1 has an intuitive meaning, that is eventually one sample will be accepted at some step

i

$i$ .

— Cosyn
fuente