¿Cómo funciona el método de transformación inversa?

21

¿Cómo funciona el método de inversión?
Digamos que tengo una muestra aleatoria con densidad sobre y, por lo tanto, con cdf en . Luego, por el método de inversión obtengo la distribución de como . $X_1,X_2,...,X_n$ $f(x;\theta)={1\over \theta} x^{(1-\theta)\over \theta}$
$0<x<1$ $F_X(x)=x^{1/\theta}$ $(0,1)$ $X$ $F_X^{-1}(u)=u^\theta$

Entonces, ¿ tiene la distribución de ? ¿Es así como funciona el método de inversión? $u^\theta$ $X$

u<-runif(n)
x<-u^(theta)

— Clarkson
fuente

3

Vea nuestros hilos sobre la transformación integral de probabilidad .

— whuber

1

Sí, aunque generalmente se llama la "transformación integral de probabilidad". Intente derivar la función de distribución de para ver por qué funciona.

F^{- 1} (U)

$F^{-1}(U)$

— dsaxton

20

El método es muy simple, así que lo describiré en palabras simples. Primero, tome la función de distribución acumulativa de alguna distribución de la que desea muestrear. La función toma como entrada algún valor y le dice cuál es la probabilidad de obtener . Entonces $F_X$ $x$ $X \leq x$

F_{X} (x) = Pr (X \leq x) = p

$F_X(x) = \Pr(X \leq x) = p$

inverso de dicha función función, tomaría como entrada y retorno . Tenga en cuenta que 's se distribuyen de manera uniforme - esto podría ser utilizado para el muestreo de cualquier si sabe . El método se llama muestreo de transformación inversa . La idea es muy simple: es fácil de valores de muestra uniformemente de , así que si quieres a la muestra de algunos , sólo toma los valores y pasar través para obtener 's $F_X^{-1}$ $p$ $x$ $p$ $F_X$ $F_X^{-1}$ $U(0, 1)$ $F_X$ $u \sim U(0, 1)$ $u$ $F_X^{-1}$ $x$

F_{X}^{- 1} (u) = x

$F_X^{-1}(u) = x$

o en R (para distribución normal)

U <- runif(1e6)
X <- qnorm(U)

Para visualizarlo, mire el CDF a continuación, generalmente, pensamos en distribuciones en términos de mirar el eje para las probabilidades de valores del eje . Con este método de muestreo hacemos lo contrario y comenzamos con "probabilidades" y las usamos para elegir los valores que están relacionados con ellas. Con distribuciones discretas, trata a como una línea de a y asigna valores en función de dónde se encuentra algún punto en esta línea (por ejemplo, si o si para el muestreo de ). $y$ $x$ $U$ $0$ $1$ $u$ $0$ $0 \leq u < 0.5$ $1$ $0.5 \leq u \leq 1$ $\mathrm{Bernoulli}(0.5)$

Desafortunadamente, esto no siempre es posible ya que no todas las funciones tienen su inverso, por ejemplo, no puede usar este método con distribuciones bivariadas. También no tiene que ser el método más eficaz en todas las situaciones, en muchos casos existen mejores algoritmos.

También pregunta cuál es la distribución de . Como es un inverso de , entonces y , entonces sí, valores obtenidos usando tal método tiene la misma distribución que . Puede verificar esto mediante una simple simulación $F_X^{-1}(u)$ $F_X^{-1}$ $F_X$ $F_X(F_X^{-1}(u)) = u$ $F_X^{-1}(F_X(x)) = x$ $X$

U <- runif(1e6)
all.equal(pnorm(qnorm(U)), U)

— Tim
fuente

Buena respuesta. Este método funciona cuando tiene distribuciones como exponencial, Cauchy, geométrica, Pareto, logística, Weibull de valor extremo , etc. Por ejemplo, no puede encontrar una forma cerrada para una distribución normal . Por lo tanto, no podrá utilizar este método. Puede probar otros métodos, como el método de rechazo .

— Abbas Salimi

2

Puede usar el método de transformación inversa con la distribución normal. Existen numerosas implementaciones para el CDF inverso normal . Por ejemplo, puede escribir CDF inverso normal utilizando la función de error complementaria . Un ejemplo de implementación de erfc está aquí . No codifique erfc usted mismo; usa una biblioteca. Que no exista una fórmula de forma cerrada no implica que no pueda utilizar aproximaciones numéricas de alta calidad.

— Matthew Gunn

2

Sí, tiene la distribución de . $U^θ$ $X$

Dos puntos adicionales en la intuición detrás del método de transformación inversa podrían ser útiles

(1) Para comprender qué significa realmente , consulte un gráfico en la respuesta de Tim para ayudarme a comprender la función cuantil (CDF inverso) $F^{-1}$

(2) [Por favor, simplemente ignore lo siguiente, si trae más confusión en lugar de claridad]

Sea una variable aleatoria (rv) con cdf continuo y estrictamente creciente . Entonces Nota sobre la notación: es un rv Por lo tanto, la función de rv , es un rv en sí mismo. $X$ $F$

F (X) \sim Unif (0, 1)

$F(X) \sim \text{Unif}(0,1)$

X

$X$

X

$X$

F (X)

$F(X)$

Por ejemplo, si voltea la pregunta, para tener acceso a y desea generar un uniforme estándar, entonces . Dejar que llamar a esta variable aleatoria . Por lo tanto Volviendo a su pregunta, tiene la tarea contrario: generar de . Entonces, de hecho $X$ $X^{1/\theta} \sim \text{Unif}(0,1)$ $U$

U = X^{1 / θ}

$U = X^{1/\theta}$

X

$X$

U

$U$

X = U^{θ}

$X=U^\theta$

PD. Los nombres alternativos para el método son la transformación integral de probabilidad, el muestreo de transformación inversa, la transformación de cuantiles y, en algunas fuentes, "el teorema fundamental de la simulación".

— den2042
fuente