Подсчет параметров у нейронной сети

Прохожу курс по машинному обучению. В разделе на нейронные сети (в тесте) просят посчитать количество параметров у нейронной сети, если нам известно:

  • количество входных признаков
  • количество нейронов в скрытом слое
  • количество нейронов в выходном слое.

Не могли бы вы мне подсказать, где можно взять необходимую литературу, где описан процесс расчета данных параметров или формулу для расчета?


Ответы (1 шт):

Автор решения: Alex

Формула для расчета количества обучаемых параметров модели:

sum([p.numel() for p in model.parameters() if p.requires_grad])
→ Ссылка