Como dijo @MartinSmith, si alguna vez actualiza a SQL 2008, entonces un índice filtrado sería la solución perfecta. Sin embargo, mientras tanto, como caso general, CUALQUIER índice agregado aumentará su tiempo de carga. Índices pequeños menos que los grandes.
Una cosa que miraría es si tiene un índice existente que pueda modificarse. Suponiendo que sus consultas existentes estén usando un índice dado, luego agregar la columna de bits al final de ese índice debería tener un efecto mínimo en las inserciones y el efecto positivo que está buscando en sus consultas.
Lo siguiente a considerar es "¿Tengo muchos índices ya?" No hay una regla estricta sobre qué es "mucho", pero generalmente sigo una regla de 10 índices que es el límite a menos que REALMENTE necesite uno nuevo.
Último pensamiento, pruébelo en una instancia de prueba. Configure una tabla con unos pocos millones de filas, ejecute su carga sobre ella, agregue su índice y luego ejecute su carga nuevamente y vea si nota un aumento significativo en el tiempo de carga.
Solo usted realmente puede decidir qué es "significativo". Tengo máquinas en las que agregar 5 minutos al tiempo de carga es "significativo" y otras en las que podría ver con seguridad un aumento de un par de horas.
EDITAR:
Otra opción es dividir su tabla. Puede que tenga que usar una vista particionada si no está utilizando la edición Enterprise, pero aun así debería ayudar. Pones tus bits 0 en una partición y tus bits 1 en otra. Suponiendo que solo está insertando una versión u otra, incluso puede acelerar sus inserciones.