Una familia exponencial cada vez más estocástica para la cual

Pregunta

Algo que me he estado preguntando por un tiempo:

Deje que $P_\theta$ sea una familia exponencial (un parámetro) en aumento estocástico en el espacio muestral $\mathcal{X}$ con $\Theta\subset\mathbb{R}$ como su espacio de parámetro natural, es decir, $\Theta$ es el conjunto de valores para el cual el cdf $F_\theta$ define una medida de probabilidad. ¿Es siempre cierto que

F_{θ} (x) ↗ 1 as θ ↘ inf Θ,

$F_\theta(x)\nearrow 1\qquad\mbox{as}\qquad\theta\searrow \inf\Theta,$ y

F_{θ} (x) ↘ 0 as θ ↗ sup Θ

$F_\theta(x)\searrow 0\qquad\mbox{as}\qquad\theta\nearrow \sup\Theta$ para todas las

x \in X

$x\in\mathcal{X}$ que no están en el límite de

X

$\mathcal{X}$ ?

Definiciones, un ejemplo, especulación

Una distribución $P_\theta$ sobre $\mathcal{X}$ parametrizada por $\theta\in\Theta$ aumenta estocásticamente si, para fijo, pero arbitrario $x\in\mathcal{X}$ , $F_\theta(x)$ disminuye en $\theta$ , donde $F_\theta(x)=\mbox{P}_\theta(X\leq x)$ .

Un ejemplo es la distribución binomial, donde $\mathcal{X}=\{0,1,2,\ldots,n\}$ y el espacio del parámetro natural es $\Theta=(0,1)$ .

F_{θ} (x) = \sum_{k \leq x} (\binom{n}{k}) θ^{k} (1 - θ)^{n - k}

$F_\theta(x)=\sum_{k\leq x}{\binom{n}{k}}\theta^k(1-\theta)^{n-k}$ está disminuyendo en

θ

$\theta$ . Ejemplo:

En esta configuración tenemos y para todas las no están en el límite de . En el límite, es decir, cuando , solo se alcanza uno de los límites.

F_{θ} (x) ↗ 1 as θ ↘ inf Θ = 0,

$F_\theta(x)\nearrow 1\qquad\mbox{as}\qquad\theta\searrow \inf\Theta=0,$

F_{θ} (x) ↘ 0 as θ ↗ sup Θ = 1

$F_\theta(x)\searrow 0\qquad\mbox{as}\qquad\theta\nearrow \sup\Theta=1$

x

$x$

X

$\mathcal{X}$

x \in {0, n}

$x\in \{0,n\}$

Tenga en cuenta que si restringimos el espacio del parámetro para que sea un subconjunto apropiado de , como , esto ya no es cierto: como . $(0,1)$ $(0.2,0.8)$ $F_\theta(5)\nearrow F_{0.2}(5)=0.174\ldots<1$ $\theta\searrow \inf\Theta=0.2$

Esta propiedad parece ser válida para todas las familias exponenciales de uso común, por lo que supongo que si existe un contraejemplo, debe ser algo patológico. Quizás podría involucrar funciones que causen que explote para algo finito , haciendo que su integral sea infinita. En cierto sentido, esto haría que el espacio de parámetros "restringido". $\exp(<\theta,T(x)>)$ $(\theta,x)$

Un ejemplo "trivial" es quizás la distribución de Bernoulli (p), ya que su espacio muestral es igual a su propio límite, de modo que solo se puede alcanzar uno de los límites para cada punto en el espacio muestral. Pero eso es un poco aburrido, y preferiría tener un ejemplo en el que al menos un punto del espacio muestral no esté en el límite.

distributions mathematical-statistics exponential-family

— MånsT
fuente

¿Es posible que solo las distribuciones discretas de la familia exponencial de un parámetro estén aumentando estocásticamente? Porque, digamos, el exponencial, el chi-cuadrado y la beta con un parámetro fijo, exhiben la relación opuesta entre el cdf y el parámetro.

— Alecos Papadopoulos

@ Alecos: eso hubiera sido útil, pero lamentablemente no es el caso. Si aumenta o disminuye es una cuestión de parametrización. En el caso de la distribución exponencial, por ejemplo, aumentará o disminuirá dependiendo de si se usa o como parámetro.

E (X)

$E(X)$

1 / E (X)

$1/E(X)$

— MånsT

Si no estamos restringidos a la parametrización natural, es más fácil encontrar un contraejemplo (vea mi respuesta). Sin embargo, incluso con podemos pasar de disminuir a aumentar cambiando el signo de .

η (θ) = θ

$\eta(\theta) = \theta$

T (x)

$T(x)$

— Juho Kokkala

Tenga en cuenta que el parámetro natural para binomial es el log-odds . Pero esta es una función monotónica creciente de por lo que el resultado es el mismo.

\log (\frac{p}{1 - p})

$\log \left(\frac {p }{1-p}\right)$

p

$p$

— probabilidadislogico

Juho: para ser realmente interesante, la parametrización debe ser equivalente a la que usa el parámetro natural. Quizás mi ejemplo binomial ilustra lo que sería una parametrización "válida": como señaló @probabilityislogic, no utilicé la parametrización natural en mi ejemplo, sino una biyección del parámetro natural.

— MånsT

Respuestas:

Si se permiten discontinuidades en la densidad, es posible construir una distribución que se repita en dos intervalos consecutivos, que limita el CDF en el primer intervalo a y en el segundo intervalo a . Por ejemplo, dejemos Ahora, para una densidad proporcional a , el CDF es $[0,0.5]$ $[0.5,1]$

h (x) = 1, x \in [0, 4]

$\begin{equation} h(x) = 1, x\in [0,4] \end{equation}$

T (x) = {\begin{cases} 1 & x \in [0, 1) \cup [2, 3) \\ 2 & x \in [1, 2) \cup [3, 4] \end{cases}

$\begin{equation} T(x) = \left\{ \begin{array}{ll} 1 & \quad x \in [0,1) \cup[2,3) \\ 2 & \quad x \in [1,2) \cup [3,4] \end{array} \right. \end{equation}$

h (x) e^{θ T (x)}

$h(x)e^{\theta T(x)}$

F_{θ} (x) = {\begin{cases} \frac{1}{2} \frac{x}{1 + e^{θ}} & x \in [0, 1) \\ \frac{1}{2} \frac{1 + (x - 1) e^{θ}}{1 + e^{θ}} & x \in [1, 2) \\ \frac{1}{2} + \frac{1}{2} \frac{x - 2}{1 + e^{θ}} & x \in [2, 3) \\ \frac{1}{2} + \frac{1}{2} \frac{1 + (x - 3) e^{θ}}{1 + e^{θ}} & x \in [3, 4) \end{cases}

$\begin{equation} F_\theta(x) = \left\{ \begin{array}{ll} \frac{1}{2}\,\frac{x}{1+e^\theta} & \quad x \in [0,1) \\ \frac{1}{2}\, \frac{1 + (x-1)e^\theta}{1+e^\theta} & \quad x \in [1,2) \\ \frac{1}{2} + \frac{1}{2}\,\frac{x-2}{1+e^\theta} & \quad x \in [2,3) \\ \frac{1}{2} + \frac{1}{2}\, \frac{1 + (x-3)e^\theta}{1+e^\theta} & \quad x \in [3,4) \\ \end{array} \right. \end{equation}$ que está disminuyendo en función de para cualquier en el espacio muestral, pero, por ejemplo,

θ

$\theta$

x

$x$

lim_{θ \to \infty} F_{θ} (2.1) = \frac{1}{2} .

$\begin{equation} \lim_{\theta \rightarrow \infty} F_\theta(2.1) = \frac{1}{2}. \end{equation}$

— Juho Kokkala
fuente

Esto también es un truco que podría no ser lo que estás buscando. Además, no estaba seguro de si era mejor editar mi respuesta anterior o publicar esto como una respuesta separada. Sin embargo, en base a meta.stackexchange.com/questions/28471/two-answers-one-question , decidí que separarlo era mejor ya que estos son dos enfoques diferentes.

— Juho Kokkala

¡Encuentro este truco bastante atractivo en realidad! :) Gracias.

— Lunes

Según los comentarios, no estamos limitados a considerar el parámetro natural, pero se nos permite usar la forma general En este caso, es posible 'engañar' construyendo para que algunos valores en el espacio natural de no se alcancen con ninguna . Por ejemplo, dejemos que Esto es una distribución exponencial (extrañamente parametrizada) con CDF que es una disminución funcionen para como se desee. Sin embargo,

f_{θ} (x) \propto h (x) e^{T (x) η (θ)}

$\begin{equation} f_\theta(x) \propto h(x) e^{T(x)\eta(\theta)} \end{equation}$

η

$\eta$

η

$\eta$

θ

$\theta$

f_{θ} (x) \propto e^{- x \frac{1}{1 + e^{θ}}}, x \geq 0

$\begin{equation} f_\theta(x) \propto e^{-x\,\frac{1}{1+e^\theta}},~x\geq0 \end{equation}$

F_{θ} (x) = 1 - e^{- x / (1 + e^{θ})},

$\begin{equation} F_\theta(x) = 1 - e^{-x / ({1+e^\theta})}, \end{equation}$

θ

$\theta$

lim_{θ \to - \infty} F_{θ} (x) = 1 - e^{- x} < 1.

$\begin{equation} \lim_{\theta\rightarrow -\infty} F_\theta(x) = 1-e^{-x} < 1. \end{equation}$ El caso con la parametrización natural permanece abierto (al menos para mí).

(η (θ) = θ)

$(\eta(\theta) = \theta)$

— Juho Kokkala
fuente

Eso es muy inteligente, ¡pero no exactamente lo que tenía en mente! La respuesta que estoy buscando no necesariamente tiene que escribirse usando la parametrización natural, pero la parametrización debe ser equivalente a la natural. Su propuesta es equivalente a usar la parametrización natural con un espacio de parámetros restringido y, como escribí en mi pregunta, eso hará que el cdf pierda los límites adecuados. Dicho esto, ¡puedo recompensarle la recompensa si no aparecen otras respuestas!

— MånsT