Вопросы с тегом «softmax»

22
Как реализовать функцию Softmax в Python
Из класса глубокого обучения Udacity , softmax у_i - это просто экспонента, деленная на сумму экспоненты всего вектора Y: Где S(y_i)функция softmax y_iи eэкспоненциальная, а jнет. столбцов во входном векторе Y. Я пробовал следующее: import numpy as np def softmax(x): """Compute softmax values for each sets of scores in x.""" …

9
Зачем использовать softmax вместо стандартной нормализации?
В выходном слое нейронной сети обычно используется функция softmax для аппроксимации распределения вероятностей: Это дорого вычислять из-за показателей. Почему бы просто не выполнить Z-преобразование, чтобы все выходы были положительными, а затем нормализовать, просто разделив все выходы на сумму всех выходов?

3
В чем разница между sparse_softmax_cross_entropy_with_logits и softmax_cross_entropy_with_logits?
Недавно я наткнулся на tf.nn.sparse_softmax_cross_entropy_with_logits, и я не могу понять, в чем разница по сравнению с tf.nn.softmax_cross_entropy_with_logits . Является единственным отличие , что обучающие векторы yдолжны быть один горячей закодированными при использовании sparse_softmax_cross_entropy_with_logits? Читая API, я не нашел другой разницы по сравнению с softmax_cross_entropy_with_logits. Но зачем тогда нужна дополнительная функция? …
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.