Я использую это ежедневно. Вам нужен файл xorg.conf, в разделе «Устройства» вам необходимо следующее:
Option "nopowerconnectorcheck"
Option "ExactModeTimingsDVI" "ON"
Затем в разделе «Монитор» разместите HorizSync, VertRefresh и ModeLine. Наконец, в разделе «Экран» добавьте следующее:
Option "AllowEmptyInitialConfiguration" "True"
Option "ConnectedMonitor" "DFP"
Option "UseDisplayDevice" "DFP-0"
Option "ModeValidation" "AllowNonEdidModes"
SubSection "Display"
Depth 24
Modes "<Resolution and Refresh from your modeline>"
EndSubSection
What this does is tells the Nvidia driver that there is a monitor attached, and gives it the information required to start drawing to the frame buffer. No monitor required. I do recommend using x11vnc to do your viewing because it polls the screen and is much more responsive to screen changes than any other linux vncserver.