Lo mejor de un VPS de Linux es que son bastante seguros listos para usar. Mi primera recomendación es hablar con su anfitrión y ver si endurecen u optimizan la seguridad para usted. La mayoría de los VPS con un panel de control (webmin, cpanel, etc.) están "administrados" y harán mucho por usted. Especialmente si no estás muy seguro de lo que estás haciendo, esta es la mejor opción, en mi opinión.
Si está solo, primero mire un firewall como APF (Advanced Policy Firewall?) O CSF (ConfigServer Firewall). CSF tiene la opción de una detección de falla de inicio de sesión, y si intenta iniciar sesión y falla muchas veces, automáticamente prohíbe su dirección IP. No estoy seguro de que sean "necesarios" ya que Linux no responde en los puertos, de todos modos no está escuchando el tráfico, pero ciertamente ofrecen algo de tranquilidad. Y si tiene muchos puertos abiertos para una variedad de tráfico, entonces tal vez sí, quiere un firewall.
Probablemente lo más importante es asegurarse de que las aplicaciones que instale estén actualizadas. Se piratean más sitios a través de un exploit de Wordpress (por ejemplo) que a través de algún exploit en el sistema operativo del servidor. Si tiene secuencias de comandos de codificación personalizadas, asegúrese de vigilar también la seguridad, ya que no desea dejar inadvertidamente una puerta abierta a través de algo tonto como su formulario de contacto.