Cálculo de la función de enlace canónico en GLM

Pensé que la función de enlace canónico proviene del parámetro natural de la familia exponencial. Digamos, considere la familia then es la función de enlace canónico. Tome la distribución de Bernoulli como ejemplo, tenemos Entonces, la función de enlace canónico $g(\cdot)$

f (y, θ, ψ) = \exp {\frac{y θ - b (θ)}{a (ψ)} - c (y, ψ)}

$f(y,\theta,\psi)=\exp\left\{\frac{y\theta-b(\theta)}{a(\psi)}-c(y,\psi)\right\}$

θ = θ (μ)

$\theta=\theta(\mu)$

P (Y = y) = μ^{y} (1 - μ)^{1 - y} = \exp {y \log \frac{μ}{1 - μ} + \log (1 - μ)}

$P(Y=y)=\mu^{y}(1-\mu)^{1-y}=\exp\left\{y\log\frac{\mu}{1-\mu}+\log{(1-\mu)}\right\}$

g (μ) = \log \frac{μ}{1 - μ}

$g(\mu)=\log\frac{\mu}{1-\mu}$

Pero cuando veo esta diapositiva , afirma que

g^{'} (μ) = \frac{1}{V (μ)}

$g'(\mu)=\frac{1}{V(\mu)}$ Aunque se puede verificar fácilmente para esta distribución en particular (y algunas otras distribuciones, como la distribución de Poisson), No puedo ver la equivalencia para el caso general. ¿Alguien puede dar pistas? Gracias ~

generalized-linear-model link-function

— ziyuang
fuente

La función de varianza para la variable Bernoulli es $V(\mu) = \mu(1-\mu)$ . Verificamos fácilmente que con el enlace canónico $g(\mu) = \log \frac{\mu}{1-\mu} = \log \mu - \log(1-\mu)$ luego

g^{'} (μ) = \frac{1}{μ} + \frac{1}{1 - μ} = \frac{1 - μ + μ}{μ (1 - μ)} = \frac{1}{μ (1 - μ)} = \frac{1}{V (μ)} .

$g'(\mu) = \frac{1}{\mu} + \frac{1}{1-\mu} = \frac{1 - \mu + \mu}{\mu(1-\mu)} = \frac{1}{\mu(1-\mu)} = \frac{1}{V(\mu)}.$

Para el caso general, se deriva de la definición de que ver p. ej. páginas 28-29 en McCullagh y Nelder . Con el enlace canónico tenemos , y la función de varianza se define como , que en términos de convierte en Por diferenciación de la identidad obtenemos

E (Y) = μ = b^{'} (θ) and Var (Y) = b^{″} (θ) a (ψ),

$E(Y) = \mu = b'(\theta) \quad \text{ and } \quad \text{Var}(Y) = b''(\theta) a(\psi),$

g

$g$

θ = g (μ) = g (b^{'} (θ))

$\theta = g(\mu) = g(b'(\theta))$

b^{″} (θ)

$b''(\theta)$

μ

$\mu$

V (μ) = b^{″} (g (μ)) .

$V(\mu) = b''(g(\mu)).$

θ = g (b^{'} (θ))

$\theta = g(b'(\theta))$

1 = g^{'} (b^{'} (θ)) b^{″} (θ) = g^{'} (μ) V (μ),

$1 = g'(b'(\theta)) b''(\theta) = g'(\mu) V(\mu),$

En la construcción de funciones cuasi-verosimilitud es natural comenzar con la relación entre la media y la varianza, dada en términos de la función de la varianza . En este contexto, la anti-derivada de puede interpretarse como una generalización de la función de enlace; véase, por ejemplo, la definición de cuasi-verosimilitud (log) en la página 325 (fórmula 9.3 ) en McCullagh y Nelder . $V$ $V(\mu)^{-1}$

— NRH
fuente

Gracias @NRH En realidad, sé la equivalencia para la distribución de Bernoulli. Me pregunto el caso general. Y gracias por tu referencia, lo comprobaré :)

— ziyuang

@ziyuang, el caso general ahora está incluido.

— NRH

@NRH: solo para agregar a esta respuesta, las fórmulas de media y varianza se pueden derivar diferenciando la ecuación en ambos lados con respecto a (o equivalentemente ) La primera derivada te da la media, la segunda te da la varianza.

\int f (y, θ, ψ) d y = 1

$\int f(y,\theta,\psi)dy=1$

θ

$\theta$

μ

$\mu$

— probabilidadislogica

Gracias. Y he encontrado otro enlace de referencia: fedc.wiwi.hu-berlin.de/xplore/ebooks/html/spm/…

— ziyuang