1
Потеря резко возрастает, когда я теряю скорость обучения с помощью оптимизатора Адама в PyTorch
Я тренирую auto-encoderсеть с Adamоптимизатором (с amsgrad=True) и MSE lossдля одноканальной задачи разделения аудиоисточников. Всякий раз, когда я уменьшаю скорость обучения на коэффициент, потери в сети резко скачут, а затем уменьшаются до следующего снижения скорости обучения. Я использую Pytorch для реализации сети и обучения. Following are my experimental setups: Setup-1: …