Для PGP, чье шифрование в основном похоже на то, что SSH делает с открытыми ключами, предлагаются серверы с открытым ключом. Через них цель состоит в том, чтобы распространять открытые ключи как можно шире.
Невозможно провести обратный инжиниринг закрытого ключа из открытого ключа. Фактически, в этом и заключается весь смысл криптографии с открытым ключом: при соответствующей длине ключа это просто невозможно, и данные будут защищены независимо от того, насколько широко открыт открытый ключ.
(Обратите внимание, что «это просто невозможно сделать» зависит от, безусловно, широко распространенных предположений о том, что высшая математика не будет доказана как ложная. Но если это произойдет, у вас будет больше поводов для беспокойства ...)