Нейронная сеть перестает обучаться при достаточно высоком значении ошибки. (python, keras)

Нейронная сеть перестает обучаться при достаточно высоком значении ошибки. Я полагаю, что проблема может быть в том, что на вход сети я подаю мало отличающиеся от друга друга значения. Например, 0.99962956, 0.99553886, 0.99457286, 0.99671779 и т.д. Можете, пожалуйста, сказать, правильна ли моя догадка и что можно сделать в такой ситуации.