Fórmula de probabilidad para una distribución multivariada de bernoulli

13

Necesito una fórmula para la probabilidad de un evento en una distribución de Bernoulli n-variada con las probabilidades dadas para un solo elemento y para pares de elementos . De manera equivalente que podría dar media y la covarianza de . $X\in\{0,1\}^n$ $P(X_i=1)=p_i$ $P(X_i=1 \wedge X_j=1)=p_{ij}$ $X$

Ya aprendí que existen muchas distribuciones de tienen las propiedades al igual que hay muchas distribuciones que tienen una media y una covarianza determinadas. Estoy buscando una canónica en , así como el gaussiano es una distribución canónica para y una media y covarianza dadas. $\{0,1\}^n$ $\{0,1\}^n$ $R^n$

multivariate-analysis discrete-data

— mpiktas
fuente

11

La variable aleatoria que toma valores en es una variable aleatoria discreta. Su distribución está completamente descrita por las probabilidades con . Las probabilidades y que da son sumas de para ciertos índices . $\{0,1\}^n$ $p_{\mathbf{i}}=P(X=\mathbf{i})$ $\mathbf{i}\in\{0,1\}^n$ $p_{i}$ $p_{ij}$ $p_{\mathbf{i}}$ $\mathbf{i}$

Ahora parece que desea describir utilizando solo y . No es posible sin asumir ciertas propiedades en . Para ver que tratan de derivar función característica de . Si tomamos obtenemos $p_{\mathbf{i}}$ $p_i$ $p_{ij}$ $p_{\mathbf{i}}$ $X$ $n=3$

\begin{aligned} E e^{i (t_{1} X_{1} + t_{2} X_{2} + t_{3} X_{3})} & = p_{000} + p_{100} e^{i t_{1}} + p_{010} e^{i t_{2}} + p_{001} e^{i t_{3}} \\ + p_{110} e^{i (t_{1} + t_{2})} + p_{101} e^{i (t_{1} + t_{3})} + p_{011} e^{i (t_{2} + t_{3})} + p_{111} e^{i (t_{1} + t_{2} + t_{3})} \end{aligned}

$\begin{align} Ee^{i(t_1X_1+t_2X_2+t_3X_3)}&=p_{000}+p_{100}e^{it_1}+p_{010}e^{it_2}+p_{001}e^{it_3}\\\\ &+p_{110}e^{i(t_1+t_2)}+p_{101}e^{i(t_1+t_3)}+p_{011}e^{i(t_2+t_3)}+p_{111}e^{i(t_1+t_2+t_3)} \end{align}$ No es posible reorganizar esta expresión para que desaparezca. Para la variable aleatoria gaussiana, la función característica depende solo de los parámetros de media y covarianza. Las funciones características definen de manera única las distribuciones, por lo que esta es la razón por la cual Gauss puede describirse de manera única utilizando solo la media y la covarianza. Como vemos para la variable aleatoria este no es el caso.

p_{i}

$p_{\mathbf{i}}$

X

$X$

— mpiktas
fuente

10

Ver el siguiente documento:

JL Teugels, algunas representaciones de las distribuciones multivariadas de Bernoulli y binomial , Journal of Multivariate Analysis , vol. 32, no. 2, febrero de 1990, 256–268.

Aquí está el resumen:

Las versiones multivariadas pero vectorizadas para las distribuciones binomiales y de Bernoulli se establecen utilizando el concepto de producto Kronecker a partir del cálculo matricial. La distribución multivariada de Bernoulli implica un modelo parametrizado, que ofrece una alternativa al modelo log-lineal tradicional para variables binarias.

— Hamed
fuente

2

Gracias por compartir eso, Hamed. ¡Bienvenido a nuestro sitio!

— whuber

1

No sé cómo se llama la distribución resultante, o si incluso tiene un nombre, pero me parece que la forma obvia de configurar esto es pensar en el modelo que usarías para modelar un 2 × 2 × 2 × … × 2 tabla usando un modelo log-lineal (regresión de Poisson). Como solo conoce las interacciones de primer orden, es natural suponer que todas las interacciones de orden superior son cero.

P (X_{1} = x_{1}, X_{2} = x_{2}, \dots, X_{n} = x_{n}) = \prod_{i} [p_{i}^{x_{i}} (1 - p_{i})^{1 - x_{i}} \prod_{j < i} {(\frac{p_{i j}}{p_{i} p_{j}})}^{x_{i} x_{j}}]

$P(X_1=x_1, X_2=x_2,\ldots,X_n=x_n) = \prod_i \left[ p_i^{x_i}(1-p_i)^{1-x_i} \prod_{j<i} \left(\frac{p_{ij}}{p_i p_j}\right)^{x_i x_j} \right]$

— una parada
fuente

p

$p$

i

$\mathbf{i}$

p_{i}

$p_i$

@whuber Muy bien! Me apego al modelo que establecí en el primer párrafo, pero mi ecuación se arruinó de varias maneras ... Muestra que en realidad no he usado el modelado log-lineal de tablas de contingencia desde mi maestría, y no lo he hecho. Tengo las notas o libros a mano. Aunque creo que lo he solucionado ahora. ¡Avísame si estás de acuerdo! Disculpas por el retraso. Algunos días mi cerebro simplemente no hace álgebra.

— parada

1

p_{i} = 1 / n

$p_i=1/n$

p_{i j} = 0 \forall i \neq j

$p_{ij}=0 \forall i \ne j$

I

$I$

\in {1, . . ., n}

$\in\{1,...,n\}$

X_{I} = 1

$X_I=1$

X_{j} = 0 \forall j \neq I

$X_j=0 \forall j\ne I$