Esta publicación de blog de 4 partes que escribí hace unos meses debería ponerlo en funcionamiento, lo escribí para Windows Server 2003 e IIS, pero las técnicas son en su mayoría las mismas:
http://www.endswithsaurus.com/2010/05/setting-up-and-configuring-mercurial-in.html
Encontrará un par de diferencias menores en IIS 7, pero la teoría es la misma.
Cubre todo, desde los conceptos básicos de instalación y configuración de Mercurial para IIS, hasta la integración de Active Directory, la reescritura de ISAPI para ocultar URL feas, la personalización de la interfaz de usuario para que se vea más bonita. Debería ponerte en marcha.