Respuestas:
+1 para Postfix
Tenga mucho cuidado para asegurarse de que su máquina no pueda usarse como un relé abierto. Si es solo para una LAN interna, no acepte conexiones en su IP pública. Si es para un servidor SMTP externo, asegúrese de no aceptar ningún correo electrónico no destinado a su dominio. Si necesita proporcionar SMTP a sus usuarios mientras están fuera de la red, use una VPN (en cuyo caso no están fuera de la red) o implemente la autenticación (y la autenticación real, no solo POP antes de SMTP)
Hagas lo que hagas, no uses Sendmail. Los archivos de configuración son tan complicados que crearon un lenguaje macro que se compila en los archivos de configuración reales.
El libro de O'Reilly Sendmail (el libro de murciélagos) es el más grueso de mi estante.
Slicehost tiene artículos fantásticos que funcionarán con cualquier host, con guías específicas por correo electrónico en articles.slicehost.com/email .
Yo usaría qmail, solo sigue ese muy buen libro "vida con qmail"