Вопросы с тегом «backpropagation»

Ради интереса я пытаюсь разработать нейронную сеть. Теперь для обратного распространения я увидел две техники. Первый используется здесь и во многих других местах. Что это делает: Он вычисляет ошибку для каждого выходного нейрона. Он распространяет его обратно в сеть (вычисляя ошибку для каждого внутреннего нейрона). Он обновляет веса по формуле: …

17 neural-networks  machine-learning  backpropagation 

Предположим, что NN содержит nnn скрытых слоев, mmm обучающих примеров, xxx объектов и ninin_i узлов на каждом уровне. Какова сложность времени для обучения этой NN с использованием обратного распространения? У меня есть базовая идея о том, как они находят временную сложность алгоритмов, но здесь есть 4 различных фактора, которые необходимо …

17 neural-networks  machine-learning  backpropagation  time-complexity 

Множество ресурсов, о которых я упоминал, упоминают, что MSE великолепен, потому что он выпуклый. Но я не понимаю, как, особенно в контексте нейронных сетей. Допустим, у нас есть следующее: ИксИксX : учебный набор данных YYY : цели ΘΘ\Thetaf Θ : набор параметров модели (модель нейронной сети с нелинейностями)еΘеΘf_\Theta Затем: MSE( …

9 neural-networks  math  backpropagation  gradient-descent 

Как использование эволюционных алгоритмов для проектирования и обучения искусственных нейронных сетей имеет преимущества по сравнению с использованием обычных алгоритмов обратного распространения?

9 neural-networks  comparison  backpropagation  evolutionary-algorithms 

Что значит "backprop"? Является ли термин «backprop» в основном тем же самым, что и «backpropagation», или он имеет другое значение?

8 neural-networks  backpropagation  terminology  definitions