Предотвращение локального минимума в нейросети

Пытался сделать самообучающуюся нейросеть (обычный перцептрон). Но когда начал обучать значение варьировало где-то между .49 и .51. Как я понял это связано с тем, что моя сеть попала в локальный минимум ошибки. Подскажите, как это исправить (есть ли другие способы, кроме генерирования кучи нейросетей с разными весами)?