Почему L1 регуляризация зануляет веса?

При прохождении курсов по ML возник вопрос, на который я не смог найти ответ. Почему L1 регуляризация зануляет веса, а L2 - нет?

$L_{1}= \frac{1}{n}\sum_{i=1}^{n}\left ( w^{T}x_{i} - y_{i} \right )^{2}+\alpha \sum_{j=1}^{d}\left | w_{j} \right |$

$L_{2}= \frac{1}{n}\sum_{i=1}^{n}\left ( w^{T}x_{i} - y_{i} \right )^{2}+\alpha \sum_{j=1}^{d}w_{j}^{2}$

Я думаю, что это связано с тем, что малый вес в квадрате становится еще меньше (его не надо занулять).