l1和l2正則化的區別

l1和l2正則化的區別是：

1、L1是模型各個引數的絕對值之和。L2是模型各個引數的平方和的開方值。

2、L1會趨向於產生少量的特徵，而其他的特徵都是0，因為最優的引數值很大概率出現在座標軸上，這樣就會導致某一維的權重為0，產生稀疏權重矩陣。L2會選擇更多的特徵，這些特徵都會接近於0。

3、最優的引數值很小概率出現在座標軸上，因此每一維的引數都不會是0。當最小化||w||時，就會使每一項趨近於0。