Respuestas:
Hay varios algoritmos para hacer anti-aliasing. Creo que el que quieres decir se llama supermuestreo. La idea es que la escena se represente en una resolución x8 de lo que eventualmente ves. Luego se filtra en paso bajo, para eliminar el alias de frecuencias más altas en el siguiente paso, que es el muestreo descendente x8.
Esto se describe en detalle aquí .
Hay una discusión más general de los algoritmos AA aquí , y otro tipo de algoritmo denominado AA AA Multimuestra aquí .