Intuición detrás de la conmutatividad de convolución en sistemas LTI

¿Por qué la convolución es conmutativa, ya que parece tratar dos señales de manera diferente en un sistema LTI?

Si imagina con como señal de entrada como respuesta al impulso de un sistema LTI A, ¿cómo tiene sentido ese sistema LTI? B con la entrada y la respuesta al impulso genera exactamente la misma salida ?$y[n] = x[n] \star h[n]$$x[n]$$h[n]$$h[n]$$x[n]$$y[n]$

En un sistema de tiempo discreto como el que tiene, el número (aquí es un entero fijo) es una suma de la forma que se puede reorganizar mediante un cambio de variables (reemplace por ) aEntonces, la conmutatividad de la convolución es trivial. El problema es la interpretación que le pones. Como señala la respuesta de Laurent Duval / s, los sistemas A y B no son equivalentes en ningún sentido del término. Si la señal$y[n_0]$$n_0$

$$\sum_{k=-\infty}^\infty h[k]x[n_0-k]$$ $k$$n_0-\ell$ $$\sum_{\ell=-\infty}^\infty h[n_0-\ell]x[\ell].$$ $x$fueron reemplazados por una señal diferente , entonces el sistema A tendría salida , pero no obtendría la misma salida si el sistema B estaban emocionados por ; la respuesta al impulso del sistema B continúa siendo , y el sistema B tiene por lo tanto salida .$\hat{x}$$\hat{y} = h \star \hat{x}$$\hat{y}$$h$$x$$x \star \hat{x} = \hat{x}\star x \neq h \star \hat{x}$

Imagine un sistema que acepta un solo número como su entrada, y multiplica ese número con otro número . ¿Le sorprendería que otro sistema que multiplica su entrada con el número da la misma salida que el primer sistema cuando se alimenta con el número como entrada? Si no es así, tampoco debería sorprendernos que la salida de un sistema LTI con respuesta de impulso y entrada proporcione la misma salida que otro sistema LTI con respuesta de impulso y entrada .$x$$h$$x$$h$$h[n]$$x[n]$$x[n]$$h[n]$

O, en lenguaje matemático, para el caso de tiempo discreto:

$$(x\star h)[n]=\sum_kx[k]h[n-k]\;{\Big|}_{m=n-k}=\sum_mx[n-m]h[m]=(h\star x)[n]$$

Piensa en la convolución $x\star h$como tomar algunas copias demoradas de$x$ resumidos juntos, cada uno con una amplitud leída de la entrada de $h$con ese retraso Imaginémoslo con señales de impulso disperso: _{(ignore el desplazamiento vertical, eso es solo para desordenar la trama)}

Ahora, si cambia la circunvolución, todo lo que cambia es la noción de qué escala de tiempo es "retraso de la señal" y cuál simplemente "tiempo de la señal original". Terminas con el mismo resultado.

Código fuente (Haskell con diagrama dinámico ):

import Graphics.Dynamic.Plot.R2
import Control.Monad
import Data.List
import System.Random

main :: IO ()
main = do
   -- Times of the impulses in signal 𝑥
   txs <- scanl (+) 0 <$> replicateM 16 (randomRIO (0,0.1))
   -- Amplitudes of the impulses in 𝑥
   xs <- replicateM 8 (randomRIO (0,1))
   -- Times of the echoes in convolution kernel ℎ
   ths <- scanl (+) 0 <$> replicateM 16 (randomRIO (0,0.4))
   -- Amplitudes of the echoes in ℎ
   hs <- (1:) <$> replicateM 9 (randomRIO (0,1.0))

   plotWindow [plotLatest
     [ plotDelay 0.5 $ plotMultiple
    [ legendName name $ lineSegPlot
                             [(t,y+y0) | (t,x) <- sig, y<-[0,x,0]]
        | (    sig,                     name,   y0 ) <-
           [ ( zip txs xs,              "𝑥" ,   0  )
           , ( zip ths hs',             "ℎ" ,   1  )
           , ( [ (tx+th,x*h)
               | (tx,x)<-zip txs xs
               , (th,h)<-zip ths hs' ], "𝑥⋆ℎ", 0.5 )
           ]
        ]
      | hs' <- cycle . tail $ inits hs]
    , xInterval (0,2) ]
   return ()

Recomiendo encarecidamente ¹ definir la convolución de una manera ligeramente diferente, a saber, como:

$$(x\star h)[n]=\sum_{i+j=n}x[i]h[j]$$

Puede ver que esta es solo la definición estándar con un cambio de variables, es decir, elegir $j=n-i$. (Necesitas ser un poco más claro sobre el rango$i$ y $j$ están atropellando, es decir, hace una diferencia si $i,j\in\mathbb N$ versus $i,j\in\mathbb Z$.)

Esta definición hace obvia la conmutatividad. Sin embargo, otra perspectiva sobre esto es que si tienes un polinomio$X(z)=\sum_i x[i]z^i$ y un polinomio $H(z)=\sum_i h[i]z^i$ y los multiplicas como polinomios, $X(z)H(z)$, usted obtiene

$$X(z)H(z)=\sum_i (x\star h)[i]z^i$$ (Esto se generaliza a las series de poder formales). Simplemente escriba la multiplicación usted mismo en algunos ejemplos para verificar esto y tal vez probarlo inductivamente. Esta perspectiva nuevamente hace que la conmutatividad sea completamente obvia. Esta perspectiva también hace que el teorema de convolución para la transformación Z también sea bastante obvio.

¹ Escribí una publicación de blog completa sobre esto.

Como complemento de las respuestas anteriores, apenas mirar la salida no le permite identificar lo que tenía como entrada / función del sistema. Tomemos, por ejemplo, los siguientes sistemas (interconexión de) que producen la misma salida.

---

Para el sistema anterior tenemos:

$$y[n] = (x \star h) [n]$$ $$Y(z) = X(z). H(z) = H(z) . X(z)$$

---

Para el sistema anterior tenemos:

$$y[n] = ((\delta \star x) \star h) [n]$$ $$Y(z) = 1 . X(z) . H(z) = X(z). H(z) = H(z). X(z)$$

---

Para el sistema anterior tenemos:

$$y[n] = ((\delta \star \alpha x) \star \frac{1}{\alpha} h) [n]$$ $$Y(z) = 1. \alpha X(z) . \frac{1}{\alpha} H(z) = X(z). H(z) = H(z). X(z)$$

---

Por supuesto, son posibles muchas otras combinaciones que dan el mismo resultado, incluido el intercambio de roles de $h[n]$ y $x[n]$.

Tenga en cuenta que esta observación es la principal preocupación del campo llamado Identificación del sistema ciego : intente identificar la entrada y / o la función del sistema utilizando solo los datos de salida.

Como no podemos resolver el problema como se indicó, se necesita más información secundaria (por ejemplo, estadísticas de salida), canales más diversos también (para compensar los ceros, es decir, frecuencias por las que no puede pasar ninguna señal) y una señal de entrada suficientemente rica que puede Ser útil para recuperar la función del sistema.

Tener una intuición para su pregunta sobre

¿Por qué la convolución es conmutativa, ya que parece tratar dos señales de manera diferente en un sistema LTI?

mirar $Y(z)=X(z)H(z)$como la salida de dos sistemas LTI en serie. Puedes intercambiarlos, aplicando el segundo y luego el primero; Eso es conmutatividad. También si$X(z)$ y $H(z)$ ambos tienen la misma (o infinita) banda de frecuencia, entonces podemos recuperarlos (hasta una multiplicación escalar), de lo contrario, definitivamente perderemos algunas frecuencias y la recuperación total no es posible.

Existen diferencias fundamentales de concepto entre señales y sistemas . Explicaré esto a través de la idea de consistencia de la unidad (ver por ejemplo). Sin embargo, para los sistemas LTI, las señales y los sistemas se vuelven duales por convolución, ya que este último es conmutativo. Dos digresiones primero, debido a la mención en la respuesta de @Dilip Sarwate .

• Digresión 1: los sistemas LTI pueden tener la misma salida para diferentes señales

Si dos sistemas diferentes proporcionan las mismas salidas para algunas señales de entrada, esto significa que comparten algunas propiedades. Pero si sus salidas son iguales para todas las entradas, entonces esencialmente tienen la misma respuesta de impulso, y son prácticamente los mismos sistemas.

Por ejemplo, imagine que tiene un seno de entrada a frecuencia $f$. Si ambos sistemas cortan la frecuencia arriba$f-\epsilon$, ambos tienen el mismo comportamiento para esa señal, pero pueden ser dos sistemas de paso bajo diferentes, se necesitan más señales para distinguirlos.

• Digresión 2: dos señales de entrada diferentes pueden tener la misma salida a través de un sistema LTI dado

Por ejemplo, una señal constante igual a uno, o una señal de 2 periódicos con {$2,0$} valores producen la misma salida para $2n$-procesadores de promedio.

De vuelta a tu pregunta . Un sistema$\mathcal{S}$ convierte entradas $X$ en salidas $Y$, respectivamente con unidades físicas $u_X$ y $u_Y$. Entonces, un sistema puede verse como un convertidor de unidades, formalmente con unidad interna$u_Y/u_X$. En general, el sistema es "fijo", mientras que las entradas pueden variar. Entonces, no hay razón por la cual$\mathcal{S}$ y $X$ debería jugar el mismo papel.

Sin embargo, cuando uno considera los sistemas LTI, de repente las propiedades del sistema pueden transferirse de alguna manera a las señales, y viceversa (siempre que la convolución esté bien definida). Esto está relacionado con el hecho de que la convolución conmuta con los cambios. Para simplificar, imagine un sistema de "tres toques", con$z$-transformar la respuesta $h_{l}z^{-l}+h_{m}z^{-m}+h_{n}z^{-n}$. Puede convertir esto directamente en un banco de filtros de tres bandas, con una sola entrada y respuestas respectivas$h_{l}z^{-l}$, $h_{m}z^{-m}$ y $h_{n}z^{-n}$. Cada rama solo proporciona, para cada entrada, un factor de escala y un retraso.

Pero lo mismo sucede con las señales: cada entrada $x=\{\ldots,x_{l},\ldots,x_{m},\ldots,x_{n},\ldots\}$ se puede dividir en componentes escalares:

$$x=\ldots+x_{l}\delta_{l}+\ldots+x_{m}\delta_{m}+x_{n}\delta_{n}+\ldots$$ dónde $\delta_{\cdot}$denota el símbolo de Kronecker. Debido a la linealidad, cada componente podría alimentarse a través del sistema lineal. Cuando todo (señal y sistema) se divide de esta manera, los cálculos son solo un montón de$x_{k}\delta_{k}$ pasando por un par de $h_{i}z^{-i}$, que son fundamentalmente las mismas operaciones: un factor / una amplitud y una muestra retardada / un operador de retardo. En otras palabras,$x_{k}\delta_{k}$ ir a través $h_{i}z^{-i}$ produce el mismo resultado que $h_{k}\delta_{k}$ ir a través $x_{i}z^{-i}$, porque el producto $h_{k}x_{i}$ es conmutativo (y conserva la consistencia de la unidad), y también retrasa los desplazamientos.

En otras palabras, un LTI solo produce una suma ponderada con pesos $h$ en muestras de entrada de $x$: $\sum h_i x_{k-i}$, que puede leerse así como una suma ponderada con pesas $x$ en muestras de entrada de $h$: $\sum x_i h_{k-i}$. Sin embargo, para la consistencia de la unidad, uno debe cambiar las unidades de$x$ y $h$.

Esta intercambiabilidad entre señales y sistemas en el LTI parece estar en juego (a primera vista) en la expresión de polifase / modulación de los bancos de filtros , o en el filtrado coincidente.

Tienes razón. Es completamente absurdo pensar que la respuesta al impulso de un sistema LTI puede ser reemplazada por la señal de entrada y viceversa y, sin embargo, producen el mismo resultado.

Como ejemplo, considere un filtro de paso bajo con respuesta de impulso IIR $h[n]$ que es alimentado por las muestras de forma de onda del habla $x[n]$para producir una versión filtrada de paso bajo del discurso. Sin embargo, intercambiando los roles de entrada de voz y respuesta del impulso del sistema LTI$h[n]$ se convierte en un absurdo en un entorno práctico.

Sin embargo , matemáticamente ese es el caso. E incluso puede encontrar aplicaciones de ejemplo que pueden beneficiarse de dicho intercambio. Se da una explicación matemática en la respuesta de Matt.