В случае, если вам интересно, где установить umask, его можно установить в конфигурационном файле vsftpd (/etc/vsftpd.conf) как anon_umask для анонимного доступа и local_umask для пользователей.
Для правильной работы маски (даже без анонимного доступа) необходимо установить anon_upload_enable = YES и anon_mkdir_write_enable = YES. Если они не установлены, запись, чтение и выполнение не будут разрешены для групп или других пользователей для файлов, загруженных через ftp (даже если стандартные привилегии могут быть установлены для чего-то другого).
В вашем случае, если вам нужен доступ с аутентификацией пользователя, вы должны установить следующее:
anonymous_enable=NO
local_enable=YES
write_enable=YES
local_umask=0002
anon_upload_enable=YES
anon_mkdir_write_enable=YES
file_open_mode=0777
Здесь file_open_mode устанавливает настройки файлов по умолчанию. 777 делает его читаемым, записываемым и исполняемым для всех. Если для local_umask установлено значение 002, это даст вам 775, как вы и просили.
Обратите внимание, что по умолчанию local_umask равен 077, что запрещает группам и другим лицам доступ к файлам любым способом (следовательно, он установлен здесь).