Expectativa del máximo de variables iid Gumbel

Sigo leyendo en revistas de economía sobre un resultado particular utilizado en modelos de utilidad aleatorios. Una versión del resultado es: if Gumbel ( , entonces: $\epsilon_i \sim_{iid},$ $\mu, 1), \forall i$

E [max_{i} (δ_{i} + ϵ_{i})] = μ + γ + \ln (\sum_{i} \exp {δ_{i}}),

$E[\max_i(\delta_i + \epsilon_i)] = \mu + \gamma + \ln\left(\sum_i \exp\left\{\delta_i \right\} \right),$

donde $\gamma \approx 0.52277$ es la constante de Euler-Mascheroni. He comprobado que esto tiene sentido usando R, y lo hace. El CDF para la distribución Gumbel $(\mu, 1)$ es:

G (ϵ_{i}) = \exp (- \exp (- (ϵ_{i} - μ)))

$G(\epsilon_i) = \exp(-\exp(-(\epsilon_i - \mu)))$

Estoy tratando de encontrar una prueba de esto y no he tenido éxito. He intentado demostrarlo por mí mismo, pero no puedo pasar un paso en particular.

¿Alguien puede señalarme una prueba de esto? Si no, tal vez pueda publicar mi intento de prueba hasta donde me quede atascado.

expected-value gumbel

— Jason
fuente

Relacionado: stats.stackexchange.com/questions/57506/…

— Adrian

Agradezco el trabajo exhibido en su respuesta: gracias por su contribución. El propósito de esta publicación es proporcionar una demostración más simple. El valor de la simplicidad es la revelación: podemos obtener fácilmente la distribución completa del máximo, no solo sus expectativas.

Ignore absorbiéndolo en y suponiendo que tienen una distribución Gumbel . (Es decir, reemplace cada por y cambie a .) Esto no cambia la variable aleatoria $\mu$ $\delta_i$ $\epsilon_i$ $(0,1)$ $\epsilon_i$ $\epsilon_i-\mu$ $\delta_i$ $\delta_i+\mu$

X = max_{i} (δ_{i} + ϵ_{i}) = max_{i} ((δ_{i} + μ) + (ϵ_{i} - μ)) .

$X = \max_{i}(\delta_i + \epsilon_i) = \max_i((\delta_i+\mu) + (\epsilon_i-\mu)).$

La independencia de implica para todos los reales que es el producto de las posibilidades individuales . Tomar registros y aplicar propiedades básicas de rendimientos exponenciales $\epsilon_i$ $x$ $\Pr(X\le x)$ $\Pr(\delta_i+\epsilon_i\le x)$

\begin{aligned} \log Pr (X \leq x) & = \log \prod_{i} Pr (δ_{i} + ϵ_{i} \leq x) = \sum_{i} \log Pr (ϵ_{i} \leq x - δ_{i}) \\ = - \sum_{i} e^{δ_{i}} e^{- x} = - \exp (- x + \log \sum_{i} e^{δ_{i}}) . \end{aligned}

$\eqalign{ \log \Pr(X\le x) &= \log\prod_{i}\Pr(\delta_i + \epsilon_i \le x) = \sum_i \log\Pr(\epsilon_i \le x - \delta_i)\\ &= -\sum_ie^{\delta_i}\, e^{-x} = -\exp\left(-x + \log\sum_i e^{\delta_i}\right). }$

Este es el logaritmo de la CDF de una distribución Gumbel con el parámetro de ubicación Es decir, $\lambda=\log\sum_i e^{\delta_i}.$

$X$ tiene una distribución Gumbel . $\left(\log\sum_i e^{\delta_i}, 1\right)$

Esta es mucha más información de la solicitada. La media de tal distribución es implica $\gamma+\lambda,$

E [X] = γ + \log \sum_{i} e^{δ_{i}},

$\mathbb{E}[X] = \gamma + \log\sum_i e^{\delta_i},$

QED

— whuber
fuente

Resulta que un artículo de Econometrica de Kenneth Small y Harvey Rosen mostró esto en 1981, pero en un contexto muy especializado, por lo que el resultado requiere mucha investigación, sin mencionar algo de capacitación en economía. Decidí probarlo de una manera que encuentro más accesible.

Prueba : Sea el número de alternativas. Dependiendo de los valores del vector , la función toma diferentes valores. Primero, concéntrese en los valores de modo que . Es decir, integraremos sobre el conjunto : $J$ $\boldsymbol{\epsilon} = \{\epsilon_1, ..., \epsilon_J\}$ $\max_i(\delta_i + \epsilon_i)$ $\boldsymbol{\epsilon}$ $\max_i (\delta_i + \epsilon_i) = \delta_1 + \epsilon_1$ $\delta_1 + \epsilon_1$ $M_1 \equiv \{\boldsymbol\epsilon : \delta_1 + \epsilon_1 > \delta_j + \epsilon_j, j \neq 1\}$

\begin{aligned} E_{ϵ \in M_{1}} [max_{i} (δ_{i} + ϵ_{i})] = \\ \int_{- \infty}^{\infty} (δ_{1} + ϵ_{1}) f (ϵ_{1}) [\int_{- \infty}^{δ_{1} + ϵ_{1} - δ_{2}} . . . \int_{- \infty}^{δ_{1} + ϵ_{1} - δ_{J}} f (ϵ_{2}) . . . f (ϵ_{J}) d ϵ_{2} . . . d ϵ_{J}] d ϵ_{1} = \\ \int_{- \infty}^{\infty} (δ_{1} + ϵ_{1}) f (ϵ_{1}) (\int_{- \infty}^{δ_{1} + ϵ_{1} - δ_{2}} f (ϵ_{2}) d ϵ_{2}) . . . (\int_{- \infty}^{δ_{1} + ϵ_{1} - δ_{J}} f (ϵ_{J}) d ϵ_{J}) d ϵ_{1} = \\ \int_{- \infty}^{\infty} (δ_{1} + ϵ_{1}) f (ϵ_{1}) F (δ_{1} + ϵ_{1} - δ_{2}) . . . F (δ_{1} + ϵ_{1} - δ_{J}) d ϵ_{1} \end{aligned}

$\begin{equation} \begin{split} E_{\boldsymbol \epsilon \in M_1} [\max_i(\delta_i + \epsilon_i)] = \hspace{3.25in}\\ \int^{\infty}_{-\infty} (\delta_1 + \epsilon_1)f(\epsilon_1) \left[\int_{-\infty}^{\delta_1 + \epsilon_1 - \delta_2} ... \int_{-\infty}^{\delta_1 + \epsilon_1 - \delta_J}f(\epsilon_2) ...f(\epsilon_J) d\epsilon_2 ...d\epsilon_J \right] d\epsilon_1 = \\ \int^{\infty}_{-\infty} (\delta_1 + \epsilon_1)f(\epsilon_1) \left(\int_{-\infty}^{\delta_1 + \epsilon_1 - \delta_2} f(\epsilon_2)d\epsilon_2 \right) ... \left( \int_{-\infty}^{\delta_1 + \epsilon_1 - \delta_J}f(\epsilon_J) d\epsilon_J \right) d\epsilon_1 = \\ \int^{\infty}_{-\infty} \left(\delta_1 + \epsilon_1\right) f(\epsilon_1) F(\delta_1 + \epsilon_1 - \delta_2) ...F(\delta_1 + \epsilon_1 - \delta_J) d\epsilon_1 \end{split} \end{equation}$

El término anterior es el primero de tales términos en . Específicamente, $J$ $E[\max_i \left(\delta_i + \epsilon_i \right)]$

E [max_{i} (δ_{i} + ϵ_{i})] = \sum_{i} E_{ϵ \in M_{i}} [max_{i} (δ_{i} + ϵ_{i})] .

$\begin{equation} E\left[\max_i \left(\delta_i + \epsilon_i \right)\right] = \sum_i E_{\boldsymbol \epsilon \in M_i}\left[\max_i\left( \delta_i + \epsilon_i \right) \right]. \end{equation}$

Ahora aplicamos la forma funcional de la distribución Gumbel. Esto da

\begin{aligned} E_{ϵ \in M_{i}} [max_{i} (δ_{i} + ϵ_{i})] = \\ \int_{- \infty}^{\infty} (δ_{i} + ϵ_{i}) e^{μ - ϵ_{i}} e^{- e^{μ - ϵ_{i}}} \prod_{j \neq i} e^{- e^{μ - ϵ_{i} + δ_{j} - δ_{i}}} d ϵ_{i} \\ = & \int_{- \infty}^{\infty} (δ_{i} + ϵ_{i}) e^{μ - ϵ_{i}} \prod_{j} e^{- e^{μ - ϵ_{i} + δ_{j} - δ_{i}}} d ϵ_{i} \\ = & \int_{- \infty}^{\infty} (δ_{i} + ϵ_{i}) e^{μ - ϵ_{i}} \exp {\sum_{j} - e^{μ - ϵ_{i} + δ_{j} - δ_{i}}} d ϵ_{i} \\ = & \int_{- \infty}^{\infty} (δ_{i} + ϵ_{i}) e^{μ - ϵ_{i}} \exp {- e^{μ - ϵ_{i}} \sum_{j} e^{δ_{j} - δ_{i}}} d ϵ_{i} \end{aligned}

$\begin{equation} \begin{split} &E_{\boldsymbol \epsilon \in M_i}\left[\max_i\left( \delta_i + \epsilon_i \right) \right] = \hspace{2in} \\ &\int^{\infty}_{-\infty} \left(\delta_i + \epsilon_i\right)e^{\mu - \epsilon_i} e^{- e^{\mu - \epsilon_i}} \prod_{j \neq i} e^{-e^{\mu - \epsilon_i + \delta_j - \delta_i}}d\epsilon_i \\ =&\int^{\infty}_{-\infty} \left(\delta_i + \epsilon_i\right)e^{\mu - \epsilon_i } \prod_{j } e^{-e^{\mu - \epsilon_i + \delta_j - \delta_i}}d\epsilon_i \\ =&\int^{\infty}_{-\infty} \left(\delta_i + \epsilon_i \right) e^{\mu - \epsilon_i} \exp \Bigl\{ \sum_{j} -e^{\mu - \epsilon_i + \delta_j - \delta_i} \Bigr\}d\epsilon_i \\ =&\int^{\infty}_{-\infty} \left(\delta_i + \epsilon_i \right) e^{\mu - \epsilon_i} \exp \Bigl\{ -e^{\mu - \epsilon_i } \sum_{j} e^{ \delta_j - \delta_i} \Bigr\}d\epsilon_i \end{split} \end{equation}$

donde el segundo paso proviene de recopilar uno de los términos exponenciados en el producto, junto con el hecho de que si . $\delta_j - \delta_i = 0$ $i = j$

Ahora definimos , y hacemos la sustitución , de modo que y . Tenga en cuenta que cuando acerca al infinito, acerca a 0 y como acerca al infinito negativo, acerca al infinito. $D_i \equiv \sum_j e^{\delta_j - \delta_i}$ $x = D_i\hspace{0.5mm} e^{\mu - \epsilon_i}$ $dx = -D_i e^{\mu - \epsilon_i}d\epsilon_i \Rightarrow -\frac{dx} {D_i} = e^{\mu - \epsilon_i}d\epsilon_i$ $\epsilon_i = \mu - \log\left(\frac{x}{D_i}\right)$ $\epsilon_i$ $x$ $\epsilon_i$ $x$

\begin{aligned} E_{ϵ \in M_{i}} [max_{i} (δ_{i} + ϵ_{i})] = \\ \int_{\infty}^{0} (δ_{i} + μ - \log [\frac{x}{D_{i}}]) (- \frac{1}{D_{i}}) \exp {- x} d x \\ = & \frac{1}{D_{i}} \int_{0}^{\infty} (δ_{i} + μ - \log [\frac{x}{D_{i}}]) e^{- x} d x \\ = & \frac{δ_{i} + μ}{D_{i}} \int_{0}^{\infty} e^{- x} d x - \frac{1}{D_{i}} \int_{0}^{\infty} \log [x] e^{- x} d x + \frac{\log [D_{i}]}{D_{i}} \int_{0}^{\infty} e^{- x} d x \end{aligned}

$\begin{equation} \begin{split} &\hspace{3mm} E_{\boldsymbol \epsilon \in M_i}\left[\max_i\left( \delta_i + \epsilon_i \right) \right] = \\ &\hspace{3mm}\int^{0}_{\infty} \left(\delta_i + \mu - \log\left[\frac{x}{D_i} \right]\right)\left(-\frac{1}{D_i}\right)\exp\left\{ -x\right\}dx \\ =&\hspace{3mm}\frac{1}{D_i}\int^{\infty}_{0} \left(\delta_i + \mu - \log\left[\frac{x}{D_i} \right]\right)e^{ -x}dx \\ =&\hspace{3mm} \frac{\delta_i + \mu}{D_i}\int^{\infty}_{0} e^{-x}dx -\frac{1}{D_i}\int^{\infty}_{0} \log[x]e^{-x}dx + \frac{\log[D_i]} {D_i} \int^{\infty}_{0}e^{-x}dx\\ \end{split} \end{equation}$

La función Gamma se define como . ¡Para valores de que son enteros positivos, esto es equivalente a, entonces . Además, se sabe que la constante de Euler-Mascheroni, satisface $\Gamma(t) = \int^{\infty}_{0} x^{t - 1}e^{-x}dx$ $t$ $\Gamma(t) = (t - 1)!$ $\Gamma(1) = 0! = 1$ $\gamma \approx 0.57722$

γ = - \int_{0}^{\infty} \log [x] e^{- x} d x .

$\gamma = -\int^{\infty}_{0} \log[x] e^{-x}dx.$

Aplicar estos hechos da

\begin{aligned} E_{ϵ \in M_{i}} [max_{i} (δ_{i} + ϵ_{i})] = \frac{δ_{i} + μ + γ + \log [D_{i}]}{D_{i}} \end{aligned}

$\begin{equation} \begin{split} &\hspace{3mm} E_{\boldsymbol \epsilon \in M_i}\left[\max_i\left( \delta_i + \epsilon_i \right) \right] = \frac{\delta_i + \mu + \gamma + \log[D_i]}{D_i} \end{split} \end{equation}$

Luego sumamos sobre para obtener $i$

\begin{aligned} E [max_{i} (δ_{i} + ϵ_{i})] = \sum_{i} \frac{δ_{i} + μ + γ + \log [D_{i}]}{D_{i}} \end{aligned}

$\begin{equation} \begin{split} &\hspace{3mm} E\left[\max_i\left( \delta_i + \epsilon_i \right) \right] = \sum_i \frac{\delta_i + \mu + \gamma + \log[D_i]}{D_i} \end{split} \end{equation}$

Recuerde que . Observe que las probabilidades de elección de logit conocidas son inversas de las 's, o en otras palabras . También tenga en cuenta que . Entonces tenemos $D_i = \sum_j e^{\delta_j - \delta_i} = \frac{\sum_j e^{\delta_j}} {e^{\delta_i}}$ $P_i = \frac{e^{\delta_i}}{\sum_j \delta_j}$ $D_i$ $P_i = 1/D_i$ $\sum_i P_i = 1$

\begin{aligned} E [max_{i} (δ_{i} + ϵ_{i})] = & \sum_{i} P_{i} (δ_{i} + μ + γ + \log [D_{i}]) \\ = & (μ + γ) \sum_{i} P_{i} + \sum_{i} P_{i} δ_{i} + \sum_{i} P_{i} \log [D_{i}] \\ = & μ + γ + \sum_{i} P_{i} δ_{i} + \sum_{i} P_{i} \log [\frac{\sum_{j} e^{δ_{j}}}{e^{δ_{i}}}] \\ = & μ + γ + \sum_{i} P_{i} δ_{i} + \sum_{i} P_{i} \log [\sum_{j} e^{δ_{j}}] - \sum_{i} P_{i} \log [e^{δ_{i}}] \\ = & μ + γ + \sum_{i} P_{i} δ_{i} + \log [\sum_{j} e^{δ_{j}}] \sum_{i} P_{i} - \sum_{i} P_{i} δ_{i} \\ = & μ + γ + \log [\sum_{j} \exp {δ_{j}}] . \end{aligned}

$\begin{equation} \begin{split} \hspace{3mm} E\left[\max_i\left( \delta_i + \epsilon_i \right) \right] =& \sum_i P_i\left(\delta_i + \mu + \gamma + \log[D_i]\right)\\ =&\hspace{2mm} (\mu + \gamma) \sum_i P_i + \sum_i P_i\delta_i + \sum_iP_i \log[D_i] \\ =& \hspace{2mm} \mu + \gamma + \sum_i P_i \delta_i + \sum_i P_i \log\left[\frac{\sum_j e^{\delta_j}} {e^{\delta_i}} \right]\\ =& \mu + \gamma + \sum_i P_i \delta_i + \sum_i P_i \log\left[\sum_j e^{\delta_j}\right] - \sum_i P_i \log[e^{\delta_i}]\\ =& \mu + \gamma + \sum_i P_i \delta_i + \log\left[ \sum_j e^{\delta_j}\right] \sum_i P_i - \sum_i P_i \delta_i \\ =& \mu + \gamma + \log\left[ \sum_j \exp\left\{ \delta_j \right\}\right] .\end{split} \end{equation}$ QED

— Jason
fuente

Relacioné lo que creo que es el artículo al que te estás refiriendo, sin tener que mirarlo para estar seguro; por favor corrija si está mal.

— Dougal

@ Jason ¿Sabe cómo demostrar qué es esto cuando el máximo está condicionado a que uno sea el máximo? Vea la pregunta aquí que no está resuelta: stats.stackexchange.com/questions/260847/…

— wolfsatthedoor