Capacidad del canal AWGN

Estoy confundido al entender conceptos básicos de comunicación a través de canales AWGN. Sé que la capacidad de un canal AWGN de tiempo discreto es:

C = \frac{1}{2} \log_{2} (1 + \frac{S}{N})

$C=\frac{1}{2}\log_2\left(1+\frac{S}{N}\right)$ y se logra cuando la señal de entrada tiene distribución gaussiana. Pero, ¿qué significa que la señal de entrada es gaussiana? ¿Significa que la amplitud de cada símbolo de una palabra de código debe tomarse de un conjunto gaussiano? ¿Cuál es la diferencia entre usar un libro de códigos especial (en este caso gaussiano) y modular la señal con señalización M-ary, por ejemplo, MPSK?

digital-communications gaussian information-theory

— Mah
fuente

Respuestas:

Suponiendo un canal cuya entrada en cada momento es una variable aleatoria continua $X$ y su salida es $Y=X+Z$ , dónde $Z\sim\mathcal{N}(0,N)$ y $Z$ es independiente de $X$ , entonces

C_{CI-AWGN} = \frac{1}{2} \log_{2} (1 + \frac{P}{N})

$C_{\text{CI-AWGN}}=\frac{1}{2}\log_2\left(1+\frac{P}{N}\right)$ es la capacidad del canal de entrada continua bajo la restricción de potencia

E X^{2} \leq P

$\mathsf{E}X^2\le P$ La información mutua

I (X; Y)

$I(X;Y)$ está maximizado (y es igual a

C_{CI-AWGN}

$C_{\text{CI-AWGN}}$ ) cuando

X \sim N (0, P)

$X\sim\mathcal{N}(0,P)$ .

Esto significa que si $X$ es una variable aleatoria gaussiana continua con la varianza dada, entonces la salida tiene la mayor información mutua posible con la entrada. ¡Eso es!

Cuando la variable de entrada $X$ está discretizado (cuantificado), se requiere una nueva formulación. De hecho, las cosas pueden volverse difíciles fácilmente. Para verlo un poco, uno puede considerar el caso simple de una descritización muy grosera de $X$ donde solo puede tener dos valores. Entonces asume que $X$ se selecciona de un alfabeto binario, por ejemplo, let $X\in\{\pm1\}$ (o una versión a escala para satisfacer una restricción de potencia). En términos de modulación, es idéntico a BPSK.

Resulta que la capacidad (incluso en este caso simple) no tiene forma cerrada. Reporto de "Modern Coding Theory" de Richardson y Urbanke:

\begin{aligned} C & _{BI-AWGN} = 1 + \\ \frac{1}{\ln (2)} ((\frac{2}{N} - 1) Q (\frac{1}{\sqrt{N}}) - \sqrt{\frac{2}{π N}} e^{- \frac{1}{2 N}} + \sum_{i = 1}^{\infty} \frac{(- 1)^{i}}{i (i + 1)} e^{\frac{2 i (i + 1)}{N}} Q (\frac{1 + 2 i}{\sqrt{N}})) \end{aligned}

$\begin{align}C&_{\text{BI-AWGN}}=1+\\&\frac{1}{\ln(2)} \left(\left(\frac{2}{N}-1\right)\mathcal{Q}\left(\frac{1}{\sqrt{N}}\right)-\sqrt{\frac{2}{\pi N}}e^{-\frac{1}{2N}}+\sum_{i=1}^{\infty}\frac{(-1)^i}{i(i+1)}e^{\frac{2i(i+1)}{N}}\mathcal{Q}\left(\frac{1+2i}{\sqrt{N}}\right)\right)\end{align}$ Una comparación entre los dos casos se puede ver en la figura a continuación:

— msm
fuente

¿Qué harías si quisieras acercarte a la capacidad? utilizando un esquema de PSK de orden superior?

— Mah

@msm Siempre he creído que FEC es un concepto general que incluye H-ARQ, o H-ARQ es solo un truco para reducir la longitud de la palabra de código por transmisión, es decir, reducir la complejidad de la decodificación, con el costo de un tiempo de transmisión total más largo, no es asi

— AlexTP

@msm ¡Por favor, deja de eliminar tus viejas y valiosas publicaciones!

— Peter K.

@msm Cuando te registraste en SP.SE, le diste al sitio una licencia irrevocable para usar el contenido. Por favor, deja de eliminar tu valioso contenido.

— Peter K.

La fórmula de la capacidad

\begin{matrix} (1) & C = 0.5 \log (1 + \frac{S}{N}) \end{matrix}

$C = 0.5 \log (1+\frac{S}{N}) \tag{1}$ es para canal de tiempo discreto.

Suponiendo que tiene una secuencia de datos $\left\lbrace a_n \right\rbrace$ para enviar, necesita un conjunto de forma de onda ortonormal $\left\lbrace \phi_n(t) \right\rbrace$ para modulación En la modulación lineal, a quien pertenece la modificación M-aria, $\phi_n(t) = \phi(t - nT)$ dónde $T$ es la duración del símbolo y $\phi(t)$ es la forma de onda prototipo para que la señal TX de tiempo continuo de banda base se convierta

\begin{matrix} (2) & x (t) = \sum_{n} a_{n} ϕ (t - n T) \end{matrix}

$x(t) = \sum_n a_n \phi(t-nT) \tag{2}$

Las modulaciones típicas usan el caso especial que $\left\lbrace \phi_n(t) \right\rbrace$ Satisface el criterio de Nyquist ISI con filtro adaptado para recuperar $a_n$ . Una bien conocida $\phi(t)$ Raíz es coseno elevado .

El canal continuo AWGN es un modelo que

\begin{matrix} (3) & y (t) = x (t) + n (t) \end{matrix}

$y(t) = x(t) + n(t) \tag{3}$

dónde $n(t)$ es un proceso estocástico blanco gaussiano.

De (2), podemos ver que $a_n$ es la proyección de $x(t)$ en $\left\lbrace \phi_n(t) \right\rbrace$ . Haz lo mismo con $n(t)$ , las proyecciones de $n(t)$ en un conjunto ortonormal hay una secuencia de variables aleatorias iid gaussianas $w_n = \langle n(t),\phi_n(t) \rangle$ (Realmente creo que $n(t)$ se define a partir de sus proyecciones); y llama $y_n = \langle y(t),\phi_n(t) \rangle$ . Voilà, tenemos un modelo de tiempo discreto equivalente

\begin{matrix} (4) & y_{n} = a_{n} + w_{n} \end{matrix}

$y_n = a_n + w_n \tag{4}$

La fórmula (1) se indica para $S$ y $N$ son energía (varianza si $a_n$ y $w_n$ son cero medias) de $a_n$ y $w_n$ , respectivamente. Si $a_n$ y $w_n$ son gaussianos, también lo son $y_n$ y la capacidad se maximiza. (Puedo agregar una prueba simple si quieres).

¿Qué significa que la señal de entrada es gaussiana? ¿Significa que la amplitud de cada símbolo de una palabra de código debe tomarse de un conjunto gaussiano?

Significa variables aleatorias $a_n$ son gaussianos

¿Cuál es la diferencia entre usar un libro de códigos especial (en este caso gaussiano) y modular la señal con señalización M-ary, por ejemplo, MPSK?

La forma de onda $\phi_n(t)$ el conjunto debe ser ortonormal, lo cual es cierto para M-PSK, de modo que $w_n$ es iid gaussiano.

Actualizar sin embargo $a_n$ está cuantificado así que en general, ya no es gaussiano Hay algunas investigaciones sobre este tema, como el uso de la codificación gaussiana de celosía (enlace) .

— AlexTP
fuente

@msm Me refería al canal "tiempo discreto". Sí, estas variables aleatorias son continuas, su soporte es continuo. He hablado sobre el tiempo continuo y el tiempo discreto porque el autor preguntó sobre la modulación.

— AlexTP

@msm my (3) es continuo y (4) es el discreto equivalente. Físicamente en una escala no cuántica, estamos en (3). Para analizar, utilizamos (4). Estamos hablando de dos cosas diferentes, supongo. He editado mi respuesta para usar la terminología correcta.

— AlexTP

@msm vio su respuesta y descubrió que entendí mal lo que el autor de la pregunta quería preguntar sobre la modulación y lo que me está diciendo. He actualizado mi respuesta para evitar la parte engañosa. Gracias.

— AlexTP

"Realmente creo que n (t) se define a partir de sus proyecciones". El problema es que el ruido blanco tiene dimensiones infinitas. Lo interesante es que, por el problema de recuperar

a_{n}

$a_n$ , solo la proyección en

ϕ_{n} (t)

$\phi_n(t)$ es relevante: todas las demás proyecciones infinitas posibles no ayudan. Ver el "teorema de la irrelevancia".

— MBaz

@MBaz sí, estoy de acuerdo. El teorema de la irrelevancia y el teorema del muestreo son la pareja para establecer un modelo de canal de tiempo discreto básico. La parte ortogonal no está correlacionada, por lo tanto, es independiente bajo la suposición gaussiana. Sin embargo, creo que no modificaría mi respuesta porque este material de proyección no se relaciona directamente con la pregunta. Gracias por dejarlo claro.

— AlexTP

Decir que la señal de entrada tiene una distribución gaussiana significa que se distribuye como una variable aleatoria gaussiana. En la práctica, uno se basa en la codificación en varias instancias del canal (en el tiempo) en lugar de confiar en una distribución de entrada gaussiana. Hay una hermosa teoría llena de pruebas que está más allá del alcance de esta respuesta (Teoría de la información). Los códigos de control de errores (o códigos de canal) generalmente se basan en el uso de modulaciones familiares QAM / PSK, pero a través de la redundancia del código y los usos de múltiples canales, pueden acercarse (aunque no del todo) a la capacidad del canal. A continuación se proporciona un bosquejo del razonamiento (sin detalles completos).

La definición de capacidad del canal es

C = sup_{p_{X} (x)} I (X; Y)

$C = \sup_{p_X(x)} I(X; Y)$ dónde

X

$X$ puede referirse libremente como su variable aleatoria de entrada, y

Y

$Y$ puede referirse libremente como su variable aleatoria de salida, y

I (\cdot, \cdot)

$I(\cdot,\cdot)$ es la información mutua de

X

$X$ y

Y

$Y$ . Esta definición requiere que busquemos sobre todas las distribuciones posibles de la entrada

p_{X} (x)

$p_X(x)$ para distribuciones que maximizan la información mutua. El canal discreto AWGN tiene una relación de entrada / salida definida como

Y = X + Z

$Y = X + Z$ dónde

Z

$Z$ es un gaussiano medio cero con varianza

σ_{Z}^{2}

$\sigma_Z^2$ (Darse cuenta de

σ_{Z}^{2} = N

$\sigma_Z^2=N$ y

σ_{X}^{2} = S

$\sigma_X^2=S$ en tu notación). No tengo tiempo para proporcionar todos los detalles en este momento. Sin embargo, cualquier libro sobre teoría de la información puede guiarlo a través de la prueba que muestra que si

X

$X$ se distribuye como un gaussiano entonces

I (X; Y)

$I(X;Y)$ (la información mutua de

X

$X$ y

Y

$Y$ ) está maximizado. Por ejemplo, vea Elementos de la teoría de la información por Thomas Cover. Si aún no lo ha leído, el tratado original de Shannon Una teoría matemática de la comunicación es una lectura que vale la pena con un razonamiento claro en todo momento.

— lúpulo
fuente

¿No se dan razones para el voto negativo?

— saltos