Transformación lineal de una variable aleatoria por una matriz rectangular alta

Digamos que tenemos un vector aleatorio , extraído de una distribución con función de densidad de probabilidad . Si lo transformamos linealmente por un rango completo matriz para obtener , entonces la densidad de viene dada por $\vec{X} \in \mathbb{R}^n$ $f_\vec{X}(\vec{x})$ $n \times n$ $A$ $\vec{Y} = A\vec{X}$ $\vec{Y}$

f_{\vec{Y}} (\vec{y}) = \frac{1}{| det A |} f_{\vec{X}} (A^{- 1} \vec{y}) .

$f_{\vec{Y}}(\vec{y}) = \frac{1}{\left|\det A\right|}f_{\vec{X}}(A^{-1}\vec{y}).$

Ahora digamos que transformamos $\vec{X}$ lugar por una matriz $m \times n$ matriz $B$ , con $m > n$ , dando $\vec{Z} = B\vec{X}$ . Claramente $Z \in \mathbb{R}^m$ , pero "vive" en un subespacio $n$ dimensional $G \subset \mathbb{R}^m$ . ¿Cuál es la densidad condicional de $\vec{Z}$ , dado que sabemos que se encuentra en $G$ ?

Mi primer instinto era utilizar la pseudo-inversa de $B$ . Si $B = U S V^T$ es la descomposición de valor singular de $B$ , entonces $B^+ = V S^+ U^T$ es la pseudo-inversa, donde $S^+$ se forma mediante la inversión de los no-cero entradas de la matriz diagonal $S$ . Supuse que esto daría

f_{\vec{Z}} (\vec{z}) = \frac{1}{| \overset{+}{det} S |} f_{\vec{X}} (B^{+} \vec{z}),

$f_\vec{Z}(\vec{z}) = \frac{1}{\left|\det^+ S\right|} f_\vec{X}(B^+ \vec{z}),$ donde por

\overset{+}{det} S

$\det^+ S$ me refiero al producto de los valores singulares distintos de cero.

Este razonamiento concuerda con la densidad para una normal singular (condicionada por el conocimiento de que la variable vive en el subespacio apropiado) dada aquí y mencionada también aquí y en esta publicación CrossValidated .

¡Pero no está bien! La constante de normalización está desactivada. Se da un contraejemplo (trivial) considerando el siguiente caso: con $X \sim \mathcal{N(0, 1)}$ , deje

\vec{Y} = (\begin{matrix} 1 \\ 1 \end{matrix}) X = (\begin{matrix} X \\ X \end{matrix}) .

$\vec{Y} = \begin{pmatrix}1 \\ 1\end{pmatrix} X = \begin{pmatrix}X \\ X\end{pmatrix}.$ Aquí la matriz

B

$B$ de arriba es solo el vector unos. Su pseudo-inverso es

B^{+} = (\begin{matrix} 1 / 2 & 1 / 2 \end{matrix})

$B^+ = \begin{pmatrix}1/2 & 1/2\end{pmatrix}$ y

\overset{+}{det} B = \sqrt{2}

$\det^+ B = \sqrt{2}$ . El razonamiento de arriba sugeriría

f_{\vec{Y}} (\vec{y}) = \frac{1}{\sqrt{2 π} \sqrt{2}} \exp (- \frac{1}{2} {\vec{y}}^{T} (B^{+})^{T} B^{+} \vec{y}),

$f_\vec{Y}(\vec{y}) = \frac{1}{\sqrt{2\pi}\sqrt{2}}\exp\left(-\frac{1}{2}\vec{y}^T (B^+)^T B^+ \vec{y}\right),$ pero esto de hecho se integra (en la línea

y = x

$y = x$ ) a

\frac{1}{\sqrt{2}}

$\frac{1}{\sqrt{2}}$ . Me doy cuenta de que, en este caso, podrías soltar una de las entradas de

\vec{Y}

$\vec{Y}$ hayas terminado, pero cuando

B

$B$ es mucho más grande, identificar el conjunto de entradas para soltar es molesto. ¿Por qué no funciona el razonamiento pseudo-inverso? ¿Existe una fórmula general para la función de densidad de una transformación lineal de un conjunto de variables aleatorias mediante una matriz "alta"? Cualquier referencia sería muy apreciada también.

— Dan
fuente

Para aquellos que podrían encontrarse con esto en el futuro ... la fuente del error en realidad proviene de la integración. En el ejemplo anterior, la integración tiene lugar sobre la línea . Por lo tanto, es necesario "parametrizar" la línea y considerar el jacobiano de la parametrización al tomar la integral, ya que cada paso unitario en el eje corresponde a pasos de longitud en la línea. La parametrización que estaba usando implícitamente fue dada por , en otras palabras, especificando ambas entradas idénticas de por valor. Esto tiene Jacobian , que se cancela perfectamente con el $y = x$ $x$ $\sqrt{2}$ $x \mapsto (x, x)$ $\vec{y}$ $\sqrt{2}$ $\sqrt{2}$ (proveniente de exactamente el mismo jacobiano) en el denominador.

El ejemplo fue artificialmente simple: para una transformación general , uno puede tener otra parametrización para la salida que es natural en el contexto del problema. Dado que la parametrización debe cubrir el mismo subespacio que , y este subespacio es un hiperplano, es probable que la parametrización sea lineal. Llamando a la representación matricial de la parametrización , el requisito es simplemente que tenga el mismo espacio de columna que (cubra el mismo hiperplano). Entonces la densidad final se convierte en $B$ $G$ $B$ $m \times n$ $L$ $B$

f_{\vec{Z}} (\vec{z}) = \frac{| \overset{+}{det} L |}{| \overset{+}{det} B |} f_{\vec{X}} (B^{+} \vec{z}) .

$f_{\vec{Z}}(\vec{z}) = \frac{\left|\det^+ L\right|}{\left|\det^+ B\right|}f_{\vec{X}}(B^+ \vec{z}).$

En general, esta configuración es un poco extraña, y creo que lo correcto es encontrar un conjunto máximo de filas linealmente independientes de y eliminar el resto de las filas (junto con los componentes correspondientes de la variable transformada ) para obtener una matriz cuadrada . Luego, el problema se reduce al caso de rango completo (suponiendo que tiene rango de columna completo). $B$ $\vec{z}$ $\hat B$ $n \times n$ $B$

— Dan
fuente