L1 и L2 регуляризация, L1 и L2 норма
Что общего в этих понятиях и чем они различаются?
Правильно ли я понимаю, что при L1 регуляризации, часть признаков совсем отбрасывается, а при L2 регуляризации признаки сглаживаются, чтобы из-за одного признака не "затухали" остальные? А L1 и L2 норма, это просто разные варианты для того что бы расчитывать расстояние?
Ответы (1 шт):
Автор решения: MaxU
→ Ссылка
Общая формула для Lp norm:
L1 norm / Расстояние городских кварталов:
L2 norm / Евклидова метрика:
Для регуляризации к формуле ошибки добавляется соответствующая норма - при L1 regularization добавляется L1 norm и L2 norm в случае L2 regularization:
