Un promedio de carga menor que la cantidad de CPU que tiene significa que hay CPU sentadas sin nada que hacer. Igual significa que todos están trabajando en este momento. Mayor significa que hay procesos que podrían estar ejecutándose, pero que están atascados en la línea de espera.
Para cosas muy sensibles al tiempo, como un servidor VoIP o Memcache, desea que su promedio de carga esté muy por debajo del número de núcleos. Para cosas asíncronas que pueden vivir con la copia de seguridad ocasional (como el correo electrónico), puede ejecutar fácilmente 4 veces la cantidad de núcleos.
La mayor advertencia para recordar es que los procesos que están esperando la entrada y salida del disco o la red, pero que de otra manera son ejecutables, todavía aparecen en el promedio de carga. Entonces, si tiene un servidor apache que alimenta jpg's a 56k usuarios, puede ejecutar un promedio de carga mucho mayor que si dispara respuestas php / whatever-script a un proxy / loadbalancer a través de una LAN gigabit. En su caso, una conexión smtp a un servidor de correo lento que tarda una eternidad en transferir un archivo adjunto mostrará un proceso 1 en la cola de ejecución, pero podría interrumpirse veinte veces para enviar un correo electrónico rápido de una línea a gmail sin problemas.
Empuje viene a empujar, el promedio de carga es como el DOW. En realidad no mide de ninguna manera la "economía", la gente simplemente la usa como una métrica muy poco correlacionada porque es fácil hablar de ella. Concéntrese en monitorear las métricas que realmente le interesan, como la profundidad de la cola de entrega y los mensajes por segundo.