Para el caso de la modulación lineal en el canal AWGN con símbolos equiprobables (un caso muy común), el enfoque óptimo es usar verdaderamente un filtro que coincida con la forma de onda del símbolo, es decir:
q( x ) = p ( x )
El uso de un filtro adaptado proporciona la relación señal / ruido óptima en la salida del filtro en cada instante de decisión. Esto es fácil de ver cuando recuerda que un filtro coincidente actúa como un correlacionador cruzado deslizante entre su señal de entrada y la forma de onda del símbolo esperado, correlacionando los dos en todos los retrasos posibles. En instantes de decisión óptimos, la respuesta al impulso del filtro (típicamente escalada para tener energía unitaria) se alinea exactamente con un símbolo transmitido, análogo a una condición de retraso cero en la operación de correlación cruzada. En este valor de tiempo, la salida del filtro es igual a la cantidad de energía en el símbolo recibido, escalado por un factor dependiente de datos (por ejemplo, para BPSK, el filtro coincidente generaría o ), más un término de ruido. - E sEs−Es
La energía de ruido en la salida del filtro durante el instante de muestreo no depende de la forma en el dominio del tiempo de la respuesta de impulso del filtro, solo de la energía total de la respuesta de impulso (como se señaló anteriormente, típicamente la unidad). Por lo tanto, la relación señal / ruido se maximiza maximizando la cantidad de energía de señal en la salida del filtro en el instante de muestreo. Al elegir el filtro del receptor para que coincida con la forma del símbolo, lo hemos hecho, ya que la forma de onda del símbolo tiene una correlación máxima con una respuesta de impulso de filtro que tiene una forma idéntica. Por lo tanto, el filtro adaptado proporciona la SNR máxima, para el caso del canal AWGN.
Con ese ataque de mano fuera del camino (definitivamente puedes hacerlo con más rigor matemático, pero soy un ingeniero y este es un servicio gratuito; si quieres profundizar en los detalles, revisa cualquier teoría de comunicación digital texto), podría estar pensando que olvidé que me preguntó sobre el caso ISI no ideal. No temas, porque afirmo que si conoces la forma del pulso transmitido, el filtro adaptado sigue siendo la opción óptima para el canal AWGN.
La clave: si conoce las respuestas de los filtros y detección de pulso y detección del receptor , y los últimos "pocos" símbolos transmitidos, puede calcular cuál sería el ISI inducido por esos símbolos anteriores y explicarlo en consecuenciaq ( x )p(x)q(x) ; Es una cantidad determinista. La cantidad de historial de símbolos que necesita está relacionada con la cantidad de ISI que tiene, es decir, cuántos períodos de símbolos difunde la respuesta del filtro en cascada.
Por supuesto, normalmente no sabe con certeza cuáles fueron los símbolos anteriores; si lo hizo, entonces podría estar en un SNR lo suficientemente alto como para que su ISI pueda ser descuidado. En el caso más interesante, no puedes hacer esa suposición. En cambio, se emplea un enfoque de detección de secuencia de máxima verosimilitud utilizando el algoritmo de Viterbi. Este proceso se conoce como ecualización de Viterbi , porque en este modelo se trata el ISI inducido por la forma del pulso como un código convolucional de valor suave que se aplica a la forma de onda de transmisión. La duración de tiempo del ISI en el ecualizador de Viterbi define el número requerido de estados de algoritmo, similar a la longitud de restricción en un código convolucional.
Este enfoque se usa a menudo en sistemas que tienen la forma de pulso no óptima que observó; Un ejemplo notable es GSM (que utiliza una forma de pulso gaussiano que se extiende a través de múltiples intervalos de símbolos). Sklar publicó una gran referencia sobre este tema en 2003:
B. Sklar, "Cómo aprendí a amar el enrejado", IEEE Signal Processing Magazine, pp. 87-102, mayo de 2003