Una gran cantidad de ventiladores del servidor se aceleran si la CPU se calienta, por lo que, en cierta medida, esto puede depender de lo duro que vaya a trabajar el servidor y de la temperatura de la oficina.
Si el armario tiene su propio enfriamiento, hay muchas opciones para aislarlo del sonido; sin su propio aire acondicionado o respiraderos externos, entonces el armario debe ventilarse a la oficina principal.
Mi experiencia es que un armario bien construido con pared de vigas y una puerta contra incendios es suficiente para hacer que otras fuentes de ruido en una oficina abierta sean más preocupantes que los servidores. No recuerdo haber trabajado alguna vez en un lugar donde el ruido de la "sala de servidores" fuera más problemático que las personas que tenían reuniones en sus escritorios o largas llamadas telefónicas.
Como ya tiene los servidores, estaría tentado a desempacarlos cuidadosamente y encenderlos para ver cómo suenan. El sonido es muy difícil de predecir, por ejemplo, solo tener una alfombra en el armario del servidor puede ser una gran diferencia debido al sonido que absorbe.