Вопросы с тегом «softmax»

Из класса глубокого обучения Udacity , softmax у_i - это просто экспонента, деленная на сумму экспоненты всего вектора Y: Где S(y_i)функция softmax y_iи eэкспоненциальная, а jнет. столбцов во входном векторе Y. Я пробовал следующее: import numpy as np def softmax(x): """Compute softmax values for each sets of scores in x.""" …

247 python  numpy  machine-learning  logistic-regression  softmax 

В выходном слое нейронной сети обычно используется функция softmax для аппроксимации распределения вероятностей: Это дорого вычислять из-за показателей. Почему бы просто не выполнить Z-преобразование, чтобы все выходы были положительными, а затем нормализовать, просто разделив все выходы на сумму всех выходов?

160 math  neural-network  softmax 

Недавно я наткнулся на tf.nn.sparse_softmax_cross_entropy_with_logits, и я не могу понять, в чем разница по сравнению с tf.nn.softmax_cross_entropy_with_logits . Является единственным отличие , что обучающие векторы yдолжны быть один горячей закодированными при использовании sparse_softmax_cross_entropy_with_logits? Читая API, я не нашел другой разницы по сравнению с softmax_cross_entropy_with_logits. Но зачем тогда нужна дополнительная функция? …

111 neural-network  tensorflow  softmax  cross-entropy