Как заставить нейросеть-классификатор предсказывать вероятности?

Всем добрый день! Есть нейросеть-классификатор (2 класса), написанная на керас. Ее точность составляет примерно 60%. Проблема в том, что выходной слой не показывает реальную вероятность правильного решения. То есть на выходе может показать как 0.9, так и 0.51, и в обоих случаях вероятность того что это верно 60%. Как мне достичь того, чтобы выходной слой коррелировался с вероятностями, и почему он не коррелируется сейчас?

model = Sequential()
model.add(Dense(400, activation='tanh', input_dim=len(x_train[1])))
model.add(Dropout(0.5))
model.add(Dense(400, activation='tanh'))
model.add(Dropout(0.5))
model.add(Dense(2, activation='softmax'))
opt = optimizers.Adadelta()
model.compile(loss="categorical_crossentropy", optimizer=opt, metrics=['accuracy'])