Estoy usando esto a diario. Necesita un archivo xorg.conf, en la sección Dispositivo necesita lo siguiente:
Option "nopowerconnectorcheck"
Option "ExactModeTimingsDVI" "ON"
Luego, en la sección Monitor, coloque HorizSync, VertRefresh y ModeLine. Finalmente, en la sección Pantalla, agregue esto:
Option "AllowEmptyInitialConfiguration" "True"
Option "ConnectedMonitor" "DFP"
Option "UseDisplayDevice" "DFP-0"
Option "ModeValidation" "AllowNonEdidModes"
SubSection "Display"
Depth 24
Modes "<Resolution and Refresh from your modeline>"
EndSubSection
Lo que esto hace es decirle al controlador de Nvidia que hay un monitor conectado, y le da la información necesaria para comenzar a dibujar en el búfer de trama. No se requiere monitor. Recomiendo usar x11vnc para hacer su visualización porque sondea la pantalla y responde mucho mejor a los cambios de pantalla que cualquier otro servidor vncs de linux.