Корректность кода нейронной сети

Я написал небольшой код своей нейронной сети для распознавания цифр по картинкам, но у меня возникли проблемы с её обучением.

Как я думаю, проблема может быть в:

1. неправильности кода
2. неоптимальные гиперпараметры

Результаты:

1. ошибка MSE снижалась до 10%, но при любом входном сете выходной сет был всегда почти одинаковый
2. ошибка MSE увеличивалась до 90%

Для обучения использовался метод обратного распространения ошибки.

Сеть прямого распространения. Код: https://yadi.sk/d/7SzWdm3qOgQZHw