Ya he comentado sobre el uso del relleno de inundación y cómo sería mejor ya que es más flexible, pero otra posible solución es scanline. (Digo posible porque hace muchos supuestos sobre su geometría, pero para el conjunto particular que se muestra y muchos similares funcionaría).
Para su ejemplo con 3 puntos: Encuentre el vértice de intersección del segmento v1, v2 y la línea en la que se encuentra v3. (El vértice en la esquina superior izquierda de v2) Llamaremos a este vértice v4.
For every vertex pair a,b down v1,v4 and v1,v3
For every vertex from a to b
Mark as in the set
For every vertex pair a,b down v3,v2 and v4,v3
For every vertex from a to b
Mark as in the set
Se llama scanline porque (en la imagen de arriba) vas por las líneas rojas y verdes simultáneamente y luego las líneas rojas y azules simultáneamente escanean las líneas a medida que avanzas.
Esta solución sería muy rápida si hay un patrón de índice, que suele ser el caso. De lo contrario, se necesitaría un cálculo para determinar qué vértice vecino se encuentra en la línea.
Lo curioso es el scanline, las pruebas barcéntricas (en el cuadro delimitador de triángulos) y el relleno de inundación son todas formas de dibujar triángulos en renderizado 3D.