Можно ли реализовать несколько softmaxes в последнем слое в Keras? Таким образом, сумма узлов 1-4 = 1; 5-8 = 1; и т.п.
Должен ли я пойти на другой дизайн сети?
Можно ли реализовать несколько softmaxes в последнем слое в Keras? Таким образом, сумма узлов 1-4 = 1; 5-8 = 1; и т.п.
Должен ли я пойти на другой дизайн сети?
Ответы:
Я бы использовал функциональный интерфейс.
Что-то вроде этого:
from keras.layers import Activation, Input, Dense
from keras.models import Model
from keras.layers.merge import Concatenate
input_ = Input(shape=input_shape)
x = input_
x1 = Dense(4, x)
x2 = Dense(4, x)
x3 = Dense(4, x)
x1 = Activation('softmax')(x1)
x2 = Activation('softmax')(x2)
x3 = Activation('softmax')(x3)
x = Concatenate([x1, x2, x3])
model = Model(inputs=input_, outputs=x)
categorical_accuracy
и predict_classes
методов может потребовать больше размышлений. , ,
Можно просто реализовать свою собственную функцию softmax. Вы можете разделить тензор на части, затем вычислить softmax отдельно для каждой части и объединить тензорные части:
def custom_softmax(t):
sh = K.shape(t)
partial_sm = []
for i in range(sh[1] // 4):
partial_sm.append(K.softmax(t[:, i*4:(i+1)*4]))
return K.concatenate(partial_sm)
concatenate
без аргумента оси объединить через последнюю ось (в нашем случае ось = 1).
Затем вы можете включить эту функцию активации в скрытый слой или добавить его в график.
Dense(activation=custom_activation)
или
model.add(Activation(custom_activation))
Вам также необходимо определить новую функцию стоимости.