라쏘(L1규제)와 리지(L2규제)

AI/model

bitpoint 2024. 4. 20. 17:35

과최적화를 막기 위해 가중치값을 작게 유지하고자 하는 규제다. 일반적으로 리지를 더 선호한다.

라쏘 = L1규제 = 절대값 = 가중치 0 가능

리지 = L2규제 = 제곱 = 가중치 0 불가능

Regression - Regularization : L1 규제(Lasso), L2 규제(Ridge)

* 수학적 증명, 수식보단 기본 개념과 활용법에 초점을 맞춤 Regularization (정형화, 규제, 일반화) 모델이 과적합되게 학습하지 않고 일반성을 가질 수 있도록 규제 하는 것. 하늘색 선은 오버피팅

steadiness-193.tistory.com