과적합(Overfitting)을 방지하기 위한 대표적인 정규화(Regularization) 기법 세 가지(L1, L2, Dropout)에 대해 간략하게 설명해주세요.

과적합을 방지하기 위한 정규화 기법 세 가지를 설명드리겠습니다.

첫째, L1 정규화는 가중치의 절대값 합에 페널티를 부여하여 가중치를 0에 가깝게 만듭니다. 이는 모델을 단순화하고, 중요하지 않은 특징을 제거하여 희소성을 높이는 효과가 있습니다.

둘째, L2 정규화는 가중치의 제곱합에 페널티를 부여하여 가중치를 작게 만듭니다. L1 정규화와 유사하게 모델의 복잡도를 줄이지만, 가중치를 완전히 0으로 만들지는 않습니다.

셋째, Dropout은 학습 과정에서 무작위로 뉴런을 비활성화하는 기법입니다. 이를 통해 각 뉴런이 특정 특징에 과도하게 의존하는 것을 막고, 앙상블 효과를 내어 모델의 일반화 성능을 향상시킵니다.