Comparación entre estimadores de Bayes

9

Considere la pérdida cuadrática , con la anterior donde . Sea la probabilidad. Encuentre el estimador de Bayes . $L(\theta,\delta)=(\theta-\delta)^2$ $\pi(\theta)$ $\pi(\theta)\sim U(0,1/2)$ $f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0$ $\delta^\pi$

Considere la pérdida cuadrática ponderada donde con anterior . Sea sea la probabilidad. Encuentre el estimador de Bayes . $L_w(\theta,\delta)=w(\theta)(\theta-\delta)^2$ $w(\theta)=\mathbb{I}_{(-\infty,1/2)}$ $\pi_1(\theta)=\mathbb{I}_{[0,1]}(\theta)$ $f(x|\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x), \theta>0$ $\delta^\pi_1$

Compare y $\delta^\pi$ $\delta^\pi_1$

Primero noté que , y asumí que esa es la probabilidad, de lo contrario no obtendré ninguna posterior, luego por lo que el estimador de Bayes con respecto a la pérdida cuadrática es $f(x|\theta)\sim Beta(\theta,1)$

π (θ | x) \propto f (x | θ) π (θ) = θ x^{θ - 1} I_{[0, 1]} * 2 I_{(0, 1 / 2)} (θ) \sim B e t a (θ, 1)

$\pi(\theta|x)\propto f(x|\theta)\pi(\theta)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}*2\mathbb{I}_{(0,1/2)}(\theta)\sim Beta(\theta,1)$

E [π (θ | x)] = \frac{θ}{θ + 1}

$\mathbb{E}[\pi(\theta|x)]=\frac{\theta}{\theta+1}$

Estoy buscando en el libro The Bayesian Choice y hay un teorema sobre el estimador de Bayes asociado con la pérdida cuadrática ponderada y está dado por

δ^{π} (x) = \frac{E^{π} [w (θ) θ | x]}{E^{π} [w (θ) | x]}

$\delta^\pi(x)=\frac{\mathbb{E}^\pi[w(\theta)\theta|x]}{\mathbb{E}^\pi[w(\theta)|x]}$

¿Alguien puede explicarme cómo lo calculo?

Lo que probé es:

δ^{π} (x) = \frac{\frac{\int θ w (θ) f (x | θ) π (θ) d θ}{\int w (θ) f (x | θ) π (θ) d θ}}{\frac{\int f (x | θ) π (θ) d θ}{\int w (θ) f (x θ) π (θ) d θ}}

$\delta^\pi(x)=\frac{\frac{\int \theta w(\theta)f(x|\theta)\pi(\theta)d\theta}{\int w(\theta)f(x|\theta)\pi(\theta)d\theta}}{\frac{\int f(x|\theta)\pi(\theta)d\theta}{\int w(\theta)f(x\theta)\pi(\theta)d\theta}}$

Sé que el soporte es , pero cuando intenté integrarme en el numerador $[0,\frac{1}{2}]$

\int θ w (θ) f (x | θ) π (θ) d θ = \int_{0}^{\frac{1}{2}} θ θ x^{θ - 1} d θ = \frac{1}{x} \int_{0}^{\frac{1}{2}} θ^{2} x^{θ} d θ

$\int \theta w(\theta)f(x|\theta)\pi(\theta)d\theta=\int_0^\frac{1}{2}\theta\theta x^{\theta-1}d\theta=\frac{1}{x}\int_0^\frac{1}{2}\theta^2 x^\theta d\theta$

No obtengo buenos resultados.

— Xi'an
fuente

1

¿No es no negativo aquí?

w (θ)

$w(\theta)$

— Juho Kokkala

3

No entiendo su comentario sobre "solo para no negativo", porque (1) una función de pérdida nunca será negativa y (2) su función de pérdida no puede ser negativa de todos modos.

w (θ)

$w(\theta)$

— whuber

@whuber Gosh, ahora me di cuenta de mi idiotez, estaba mirando el soporte del indicador

7

Primero, tenga en cuenta que he corregido la redacción original de la pregunta con las funciones del indicador en sus definiciones de probabilidad, ya que tienen que ser funciones de no . Por lo tanto, la probabilidad es que se integra claramente en uno: $x$ $\theta$

f (x) = θ x^{θ - 1} I_{[0, 1]} (x)

$f(x)=\theta x^{\theta-1}\mathbb{I}_{[0,1]}(x)$

\int_{0}^{1} θ x^{θ - 1} d x = 1

$\int_0^1 \theta x^{\theta-1}\text{d}x = 1$

En segundo lugar, la parte posterior en no es una función Beta ya que según lo indicado por Greenparker Debido a la restricción en los valores de tampoco es una distribución Gamma, sino un truncamiento de la distribución Gamma. $\theta$

π (θ | x) \propto I_{[0, 1 / 2]} (θ) θ x^{θ - 1} \propto I_{[0, 1 / 2]} (θ) θ \exp {\log (x) θ}

$\pi(\theta|x)\propto\, \mathbb{I}_{[0,1/2]}(\theta)\theta x^{\theta-1}\propto \mathbb{I}_{[0,1/2]}(\theta)\,\theta \exp\{\log(x)\theta\}$

θ

$\theta$

Por lo tanto, el estimador de Bayes es la expectativa posterior que parece requerir el uso de la función Gamma incompleta pero que puede derivarse en forma cerrada mediante la integración por parte: desde

\begin{aligned} E [θ | x] & = \int_{0}^{1 / 2} θ \times θ \exp {\log (x) θ} d θ / \int_{0}^{1 / 2} θ \exp {\log (x) θ} d θ \\ = \int_{0}^{1 / 2} θ^{2} \exp {\log (x) θ} d θ / \int_{0}^{1 / 2} θ \exp {\log (x) θ} d θ \end{aligned}

$\begin{align*}\mathbb{E}[\theta|x] &= \int_0^{1/2} \theta\times\theta \exp\{\log(x)\theta\}\text{d}\theta \Big/ \int_0^{1/2} \theta \exp\{\log(x)\theta\}\text{d}\theta\\&= \int_0^{1/2} \theta^2 \exp\{\log(x)\theta\}\text{d}\theta \Big/ \int_0^{1/2} \theta \exp\{\log(x)\theta\}\text{d}\theta\\\end{align*}$

\int_{0}^{1 / 2} θ^{k} \exp {- α θ} d θ = \frac{- 1}{α} {[θ^{k} \exp {- α θ}]}_{0}^{1 / 2} + \frac{k}{α} \int_{0}^{1 / 2} θ^{k - 1} \exp {- α θ} d θ

$\int_0^{1/2} \theta^k \exp\{-\alpha\theta\}\text{d}\theta = \frac{-1}{\alpha}\left[\theta^k \exp\{-\alpha\theta\}\right]_0^{1/2} + \frac{k}{\alpha}\int_0^{1/2} \theta^{k-1} \exp\{-\alpha\theta\}\text{d}\theta$

\int_{0}^{1 / 2} \exp {- α θ} d θ = \frac{1 - \exp {- α / 2}}{α}

$\int_0^{1/2} \exp\{-\alpha\theta\}\text{d}\theta = \frac{1-\exp\{-\alpha/2\}}{\alpha}$

Por último, como se indica en mi libro , minimizar en es equivalente a minimizar en que es equivalente a minimizar en que equivale a reemplazar el anterior original con un nuevo anterior que necesita ser renormalizado en una densidad, es decir, $\delta$

\int w (θ) (θ - δ)^{2} π (θ | x) d θ

$\int w(\theta)(\theta-\delta)^2 \pi(\theta|x) \text{d}\theta$

δ

$\delta$

\int w (θ) (θ - δ)^{2} π (θ) f (x | θ) d θ

$\int w(\theta)(\theta-\delta)^2 \pi(\theta)f(x|\theta) \text{d}\theta$

δ

$\delta$

\int (θ - δ)^{2} w (θ) π (θ) f (x | θ) d θ

$\int (\theta-\delta)^2 w(\theta)\pi(\theta)f(x|\theta) \text{d}\theta$

π

$\pi$

w (θ) π (θ)

$w(\theta)\pi(\theta)$

π_{1} (θ) = w (θ) π (θ) / \int w (θ) π (θ) d θ

$\pi_1(\theta)=w(\theta)\pi(\theta) \Big/\int w(\theta)\pi(\theta)\text{d}\theta$

— Xi'an
fuente

6

Su respuesta para la parte de pérdida de error al cuadrado es incorrecta.

π (θ | x) \propto f (x | θ) π (θ) = 2 θ x^{θ - 1} I_{(0, 1 / 2)} (θ) .

$\pi(\theta|x) \propto f(x|\theta) \pi(\theta) = 2\theta x^{\theta-1}I_{(0,1/2)}(\theta).$

Esta es una distribución en , no en , y la variable aleatoria en la parte posterior es . Entonces, su respuesta es incorrecta, y la respuesta correcta sería la media posterior de esa distribución. $Beta(\theta,1)$ $x$ $\theta$ $\theta$

Para la segunda parte

(Lo anterior para la función de pérdida ponderada es pero se refiere a ella como . Estoy cambiando la notación de nuevo a .) $\pi_1$ $\pi$ $\pi_1$

Sea , donde es una constante de normalización. Necesitas calcular $\pi'(\theta) = cw(\theta) \pi_1(\theta)$ $c$

\begin{aligned} δ^{π_{1}} (x) & = \frac{E^{π_{1}} [w (θ) θ | x]}{E^{π_{1}} [w (θ | x)]} \\ = \frac{\int w (θ) θ f (x | θ) π_{1} (θ) d θ}{\int w (θ) f (x | θ) π_{1} (θ) d θ} \\ = \frac{\int θ f (x | θ) π^{'} (θ) d θ}{\int f (x | θ) π^{'} (θ) d θ} \\ = E^{π^{'}} [θ | x] \end{aligned}

$\begin{align*} \delta^{\pi_1}(x) & = \dfrac{E^{\pi_1}[w(\theta) \theta |x ]}{E^{\pi_1}[w(\theta|x)]}\\ & = \dfrac{\int w(\theta) \theta f(x|\theta) \pi_1(\theta)\, d\theta}{\int w(\theta) f(x|\theta)\pi_1(\theta)\, d\theta}\\ & = \dfrac{\int \theta f(x|\theta) \pi'(\theta) \,d\theta}{\int f(x|\theta) \pi'(\theta) \, d\theta}\\ & = E^{\pi'}[\theta|x] \end{align*}$

Por lo tanto, para la función de pérdida de mínimos cuadrados ponderados, el teorema dice que la estimación de Bayes es la media posterior con respecto a un previo diferente. El ser anterior

π^{'} (θ) \propto w (θ) π_{1} (θ) .

$\pi'(\theta) \propto w(\theta) \pi_1(\theta).$

La constante de normalización es . $\int_{\theta} w(\theta) \pi(\theta) d\theta = E_{\pi_1}[w(\theta)]$

\begin{aligned} E_{π_{1}} [w (θ)] & = \int_{0}^{1 / 2} I_{0, 1} (θ) d (θ) = \frac{1}{2} . \end{aligned}

$\begin{align*} E_{\pi_1}[w(\theta)] & = \int_{0}^{1/2} I_{0,1}(\theta) d(\theta) = \frac{1}{2}. \end{align*}$

Entonces el anterior es . Esto es lo mismo que tenía antes en la primera pregunta. $\pi'(\theta) = 2I_{(0,1/2)}(\theta)$

Por lo tanto, la respuesta para los escenarios (sea lo que sea) será la misma. Puedes encontrar la integral aquí . Sin embargo, podría ser suficiente corregir la forma de la respuesta y no completar la integral.

— Greenparker
fuente