Comme l'a dit @MartinSmith, si vous effectuez une mise à niveau vers SQL 2008, un index filtré serait la solution parfaite. Cependant, dans le même temps, comme un cas général, TOUT index ajouté augmentera votre temps de chargement. Les petits index le sont moins que les grands.
Une chose que je regarderais est si vous avez un index existant qui peut être modifié. En supposant que vos requêtes existantes utilisent un index donné, l'ajout de la colonne de bits à la fin de cet index devrait avoir un effet minimal sur les insertions et l'effet positif que vous recherchez sur vos requêtes.
La prochaine chose à regarder est "Dois-je déjà beaucoup d'index?" Il n'y a pas de règle stricte quant à ce qu'est "beaucoup", mais j'utilise généralement une règle de 10 index, c'est la limite, sauf si j'en ai VRAIMENT besoin d'un nouveau.
Dernière pensée, testez-le sur une instance de test. Configurez une table avec quelques millions de lignes, exécutez votre charge dessus, ajoutez votre index puis réexécutez votre charge et voyez si vous remarquez une augmentation significative du temps de chargement.
Vous seul pouvez vraiment décider de ce qui est «significatif». J'ai des machines où l'ajout de 5 minutes au temps de chargement est "significatif" et d'autres où je pouvais voir en toute sécurité une augmentation de quelques heures.
ÉDITER:
Une autre option consiste à partitionner votre table. Vous devrez peut-être utiliser une vue partitionnée si vous n'utilisez pas l'édition Enterprise, mais cela devrait néanmoins vous aider. Vous mettez vos bits 0 dans une partition et vos bits 1 dans une autre. En supposant que vous n'insérez qu'une version ou l'autre, vous pouvez même accélérer vos insertions.