Ejemplos de cuándo coinciden el intervalo de confianza y el intervalo creíble

En el artículo de Wikipedia sobre el intervalo creíble , dice:

Para el caso de un solo parámetro y datos que se pueden resumir en una sola estadística suficiente, se puede demostrar que el intervalo creíble y el intervalo de confianza coincidirán si el parámetro desconocido es un parámetro de ubicación (es decir, la función de probabilidad directa tiene la forma Pr (x | μ) = f (x - μ)), con un previo que es una distribución plana uniforme; [5] y también si el parámetro desconocido es un parámetro de escala (es decir, la función de probabilidad directa tiene la forma Pr (x | s) = f (x / s)), con un Jeffreys 'anterior [5] - el último siguiente porque tomar el logaritmo de dicho parámetro de escala lo convierte en un parámetro de ubicación con una distribución uniforme. Pero estos son casos claramente especiales (aunque importantes); en general no se puede hacer tal equivalencia ".

¿Podría la gente dar ejemplos específicos de esto? ¿Cuándo corresponde el IC del 95% al "95% de probabilidad", "violando" la definición general de IC?

confidence-interval credible-interval

— Wayne
fuente

distribución normal:

Tome una distribución normal con varianza conocida. Podemos tomar esta varianza como 1 sin perder la generalidad (simplemente dividiendo cada observación por la raíz cuadrada de la varianza). Esto tiene distribución de muestreo:

p (X_{1} . . . X_{N} | μ) = {(2 π)}^{- \frac{N}{2}} \exp (- \frac{1}{2} \sum_{i = 1}^{N} (X_{i} - μ)^{2}) = A \exp (- \frac{N}{2} (\bar{X} - μ)^{2})

$p(X_{1}...X_{N}|\mu)=\left(2\pi\right)^{-\frac{N}{2}}\exp\left(-\frac{1}{2}\sum_{i=1}^{N}(X_{i}-\mu)^{2}\right)=A\exp\left(-\frac{N}{2}(\overline{X}-\mu)^{2}\right)$

Donde es una constante que depende solo de los datos. Esto muestra que la media de la muestra es una estadística suficiente para la media de la población. Si usamos un uniforme anterior, entonces la distribución posterior para será: $A$ $\mu$

(μ | X_{1} . . . X_{N}) \sim N o r m a l (\bar{X}, \frac{1}{N}) ⟹ (\sqrt{N} (μ - \bar{X}) | X_{1} . . . X_{N}) \sim N o r m a l (0, 1)

$(\mu|X_{1}...X_{N})\sim Normal\left(\overline{X},\frac{1}{N}\right)\implies \left(\sqrt{N}(\mu-\overline{X})|X_{1}...X_{N}\right)\sim Normal(0,1)$

Entonces un intervalo creíble tendrá la forma: $1-\alpha$

(\bar{X} + \frac{1}{\sqrt{N}} L_{α}, \bar{X} + \frac{1}{\sqrt{N}} U_{α})

$\left(\overline{X}+\frac{1}{\sqrt{N}}L_{\alpha},\overline{X}+\frac{1}{\sqrt{N}}U_{\alpha}\right)$

Donde y se eligen de manera que una variable aleatoria normal estándar satisfaga: $L_{\alpha}$ $U_{\alpha}$ $Z$

P r (L_{α} < Z < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<Z<U_{\alpha}\right)=1-\alpha$

Ahora podemos comenzar con esta "cantidad fundamental" para construir un intervalo de confianza. La distribución de muestreo de para fijo es una distribución normal estándar, por lo que podemos sustituir esto en la probabilidad anterior: $\sqrt{N}(\mu-\overline{X})$ $\mu$

P r (L_{α} < \sqrt{N} (μ - \bar{X}) < U_{α}) = 1 - α

$Pr\left(L_{\alpha}<\sqrt{N}(\mu-\overline{X})<U_{\alpha}\right)=1-\alpha$

Luego, vuelva a organizar para resolver , y el intervalo de confianza será el mismo que el intervalo creíble. $\mu$

Parámetros de escala:

Para los parámetros de escala, los archivos PDF tienen la forma . Podemos tomar el , que corresponde a . La distribución conjunta de muestreo es: $p(X_{i}|s)=\frac{1}{s}f\left(\frac{X_{i}}{s}\right)$ $(X_{i}|s)\sim Uniform(0,s)$ $f(t)=1$

p (X_{1} . . . X_{N} | s) = s^{- N} 0 < X_{1} . . . X_{N} < s

$p(X_{1}...X_{N}|s)=s^{-N}\;\;\;\;\;\;\;0<X_{1}...X_{N}<s$

De donde encontramos que la estadística suficiente es igual a (el máximo de las observaciones). Ahora encontramos su distribución de muestreo: $X_{max}$

P r (X_{m a x} < y | s) = P r (X_{1} < y, X_{2} < y . . . X_{N} < y | s) = {(\frac{y}{s})}^{N}

$Pr(X_{max}<y|s)=Pr(X_{1}<y,X_{2}<y...X_{N}<y|s)=\left(\frac{y}{s}\right)^{N}$

Ahora podemos hacer esto independiente del parámetro tomando . Esto significa que nuestra "cantidad fundamental" viene dada por con que es la distribución . Entonces, podemos elegir usando los cuantiles beta de manera que: $y=qs$ $Q=s^{-1}X_{max}$ $Pr(Q<q)=q^{N}$ $beta(N,1)$ $L_{\alpha},U_{\alpha}$

P r (L_{α} < Q < U_{α}) = 1 - α = U_{α}^{N} - L_{α}^{N}

$Pr(L_{\alpha}<Q<U_{\alpha})=1-\alpha=U_{\alpha}^{N}-L_{\alpha}^{N}$

Y sustituimos la cantidad fundamental:

P r (L_{α} < s^{- 1} X_{m a x} < U_{α}) = 1 - α = P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1})

$Pr(L_{\alpha}<s^{-1}X_{max}<U_{\alpha})=1-\alpha=Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1})$

Y ahí está nuestro intervalo de confianza. Para la solución bayesiana con jeffreys antes tenemos:

p (s | X_{1} . . . X_{N}) = \frac{s^{- N - 1}}{\int_{X_{m a x}}^{\infty} r^{- N - 1} d r} = N (X_{m a x})^{N} s^{- N - 1}

$p(s|X_{1}...X_{N})=\frac{s^{-N-1}}{\int_{X_{max}}^{\infty}r^{-N-1}dr}=N (X_{max})^{N}s^{-N-1}$

⟹ P r (s > t | X_{1} . . . X_{N}) = N (X_{m a x})^{N} \int_{t}^{\infty} s^{- N - 1} d s = {(\frac{X_{m a x}}{t})}^{N}

$\implies Pr(s>t|X_{1}...X_{N})=N (X_{max})^{N}\int_{t}^{\infty}s^{-N-1}ds=\left(\frac{X_{max}}{t}\right)^{N}$

Ahora conectamos el intervalo de confianza y calculamos su credibilidad

P r (X_{m a x} L_{α}^{- 1} > s > X_{m a x} U_{α}^{- 1} | X_{1} . . . X_{N}) = {(\frac{X_{m a x}}{X_{m a x} U_{α}^{- 1}})}^{N} - {(\frac{X_{m a x}}{X_{m a x} L_{α}^{- 1}})}^{N}

$Pr(X_{max}L_{\alpha}^{-1}>s>X_{max}U_{\alpha}^{-1}|X_{1}...X_{N})=\left(\frac{X_{max}}{X_{max}U_{\alpha}^{-1}}\right)^{N}-\left(\frac{X_{max}}{X_{max}L_{\alpha}^{-1}}\right)^{N}$

= U_{α}^{N} - L_{α}^{N} = P r (L_{α} < Q < U_{α})

$=U_{\alpha}^{N}-L_{\alpha}^{N}=Pr(L_{\alpha}<Q<U_{\alpha})$

Y listo, tenemos credibilidad y cobertura . $1-\alpha$

— probabilidadislogica
fuente

Una obra maestra, gracias! Esperaba que pudiera haber una respuesta como "al calcular la media de una muestra a partir de una distribución Normal, el IC del 95% también es el intervalo creíble del 95%" o algo así como simple. (Solo inventando esta supuesta respuesta, no tengo idea de ejemplos específicos).

— Wayne

Creo que un intervalo frecuente de predicción / tolerancia del 95% corresponde a un intervalo de predicción bayesiano con regresión de OLS y errores normales. Parece que cuando comparo la respuesta de predic.lm con una respuesta simulada, de todos modos. ¿Es eso cierto?

— Wayne

Para , si usa un uniforme anterior para y jeffreys antes para , entonces tiene equivalencia.

Y = α + β X

$Y=\alpha+\beta X$

α, β

$\alpha,\beta$

σ

$\sigma$

— probabilityislogic

¡Muchas gracias! He estado tratando de explicar un CI para una regresión que he hecho en términos de un intervalo de confianza, y simplemente no se conecta con una audiencia laica, que espera un intervalo creíble. Me hace la vida mucho más fácil ... aunque quizás sea malo para el mundo estadístico en general, ya que reforzará el malentendido de los CI por parte de los legos.

— Wayne

@Wayne: la situación es un poco más general que solo las familias de escala de ubicación. Por lo general, un IC será equivalente a un intervalo creíble, si se basa en una "estadística suficiente" (como lo fueron estos dos) donde existe. Si no hay suficiente estadística, entonces CI necesita condicionar lo que se llama "estadísticas auxiliares" para tener una interpretación de intervalo creíble.

— probabilityislogic