Не существует общего средства для гибернации одного процесса, только всей системы.
Однако, если вас не волнует, что образ процесса не выдержит перезагрузки, есть встроенная возможность сохранения образа процесса на диск: замена. Убедитесь, что у вас достаточно места подкачки, и если в памяти есть нагрузка, а процесс не активен (например, потому что он приостановлен), его память будет выгружена.
Если вы знаете, что процесс, вероятно, будет неактивен в течение длительного времени, и что в какой-то момент вам понадобится быстрое время отклика, вы можете вынудить освободить много ОЗУ, выделив много ОЗУ в кратковременный процесс, например
perl -e '$tmp = "a" x 999999999' # allocate about 1GB
Вы не получаете никакого контроля над тем, что выгружается, поэтому другие процессы могут выгружаться. В Linux вы можете поменять процесс обратно, принудительно получив доступ к отображаемым страницам. Сценарий в этом ответе будет делать следующее: загружать в память все страницы, отображаемые процессом (обратите внимание, что это включает открытые файлы; вы можете выбирать регионы выборочно на основе информации карты, чтобы избежать обмена данными, которые, как вы знаете, вам не понадобятся) см. этот ответ для получения дополнительной информации).