Раскрытие: я работаю на Линоде.
360 МБ - это достаточный объем памяти, но при работе со стеками LAMP ничего не стоит звонить домой. Вы должны быть полностью осведомлены о способах оптимизации вашего стека в таком количестве места; 64-битная ОС будет напрямую препятствовать этим усилиям, используя больше ресурсов памяти для некоторых вещей. Зная каждый из перечисленных вами дистрибутивов, как тыльную часть моей руки (я собрал пару из них), вам действительно лучше всего использовать Ubuntu.
Я запускаю Debian на jedsmith.org и Ubuntu на моих Линодах для разработки, и они, вероятно, самые эффективные из всех; Ubuntu, являясь предшественником дистрибутивов, предоставит вам все, что вы хотите - безопасность, производительность и большое сообщество, чтобы отвечать на вопросы.
Отличные мнения от Клетуса:
Мне не хочется предлагать Arch Linux только для базового дистрибутива, где вы устанавливаете только то, что вам нужно, поскольку ненужные пакеты могут очень быстро поглотить вашу память.
Я тоже слышал об Арке, но не пробовал. Другой сотрудник Linode, Сэм, клянется Арком и может сказать много хорошего об этом.
Кроме того, в отношении стека LAMP рассмотрите возможность использования nginx вместо Apache для повышения производительности на нижнем срезе VPS.
jedsmith.org - это nginx перед FastCGI PHP, и он кричит как ад.