¿Qué se entiende por el término 'familia exponencial'? ¿Por qué se llama así?

Me he encontrado con el término familia exponencial .

Las distribuciones de Bernoulli, Gauss y muchas más pertenecen a esta familia exponencial.

¿Cuáles serían los puntos en común entre ellos?

terminology exponential-family

— subha
fuente

Solo un consejo rápido: youtu.be/nLKOQfKLUks?list=PLJ_CMbwA6bT-n1W0mgOlYwccZ-j6gBXqE Encontré esta conferencia de Andrew Ng muy útil para obtener el concepto de distribuciones familiares exponenciales, como el dulce Kool-Aid.

— MJW

Se llaman "familia exponencial" porque todos se pueden escribir en forma simple

F_{X} (X El | θ) = Exp (η (θ) \cdot T (X) - UNA (θ) + si (X))

$f_X(x|\theta) = \exp \left (\eta(\theta) \cdot T(x) - A(\theta) + B(x) \right )$

Hay otras formas equivalentes que se usan con mayor frecuencia, pero creo que esa forma hace que la parte "exponencial" sea más clara.

Vea, por ejemplo, esta sección de la página de Wikipedia sobre la familia exponencial .

En particular, a mediados de la década de 1930, varios autores discutieron qué condiciones serían necesarias para que una distribución tuviera una estadística suficiente; Koopman $^{[1]}$ declaró que tendría que ser " del tipo exponencial muy especial de fórmula (4) a continuación " (énfasis mío), donde la ecuación (4) era equivalente a la forma anterior.

Entonces esa forma expresa sucintamente lo que todos tienen en común. Pero la consecuencia de esa forma es que esta clase particular de distribuciones tiene algunas propiedades muy buenas; por ejemplo, $T$ es una estadística suficiente: lleva toda la información de los datos sobre $\theta$ .

Aquí se resume una serie de propiedades adicionales que todos comparten .

Los miembros de uso común incluyen Gaussian, Poisson, binomial y gamma (incluyendo exponencial y chi-cuadrado), pero también tuve la oportunidad de usar otros miembros (como Tweedie con $p$ y gaussiano inverso).

Las propiedades compartidas hacen posible la estandarización del tratamiento de las mismas, lo que lleva a un amplio uso de modelos lineales generalizados (GLM).

[1] Koopman, BO, (1936),
"Sobre las distribuciones que admiten una estadística suficiente",
Transactions of the American Mathematical Society , 39 : 3, 399-409.

— Glen_b -Reinstate a Monica
fuente