He estado solucionando esto seleccionando la casilla alrededor del elemento que quiero antialias con un borde de 5 píxeles. Luego lleno el área transparente con un color que es diferente del elemento que estoy modificando, pero establezco la opacidad de relleno en 1. Mantenga seleccionada la casilla actual y haga el filtro antialias. Luego use la herramienta de selección difusa (con el umbral establecido en 0) y seleccione el área de relleno, que debería seleccionar todo hasta la nueva parte antialias. Luego borre su selección.
Para mí, tenía fondos de color sólido. Por lo tanto, elegiría el color de fondo, luego ajustaría la saturación o el valor en 1 en el selector de color, luego llenaría el área transparente con ese color. Esto obliga a las antialias a usar un color transparente de casi el mismo valor cuando realiza los cálculos, por lo que es como si estuvieras usando antialias con total transparencia (casi).
Noté que esto funciona bien con blanco o negro (opacidad 1) como color de relleno, pero ajusta ligeramente las antialias para que sean más claras u oscuras que el color de mi artículo. No es un gran problema, pero el efecto es más limpio si usa un color de relleno más cercano al color del borde de su elemento.
Del mismo modo, si usa un color de relleno rojo alrededor de un color no rojo (azul / verde / etc.), las antialias usarán el color rojo cuando aplique las antialias. Lo cual suele ser indeseable.