머신러닝 모델 학습 시 사용되는 손실 함수(Loss Function)의 개념과 역할에 대해 설명하고, 회귀 문제에서 주로 사용되는 MSE(Mean Squared Error)와 분류 문제에서 주로 사용되는 Cross-Entropy 손실 함수를 비교하여 설명해 주세요.

손실 함수는 머신러닝 모델이 예측한 값과 실제 값 사이의 차이를 수치화하는 함수입니다. 모델 학습 과정에서 이 손실 함수의 값을 최소화하는 방향으로 모델의 파라미터를 조정하게 됩니다. 즉, 손실 함수는 모델이 얼마나 '잘못' 예측하고 있는지를 나타내는 지표이며, 모델이 학습해야 할 방향을 제시하는 역할을 합니다.

회귀 문제에서는 주로 MSE(Mean Squared Error)를 사용합니다. MSE는 예측값과 실제값의 차이의 제곱의 평균으로, 예측값들이 실제값 주변에 얼마나 흩어져 있는지를 나타냅니다. 값이 작을수록 모델의 예측 성능이 좋다고 할 수 있습니다.

반면, 분류 문제에서는 Cross-Entropy 손실 함수를 주로 사용합니다. Cross-Entropy는 예측 확률 분포와 실제 확률 분포 간의 차이를 측정합니다. 특히, 모델이 예측한 확률이 실제 레이블에 가까울수록 손실이 작아지도록 설계되어 있습니다. 예를 들어, 이미지를 '고양이' 또는 '강아지'로 분류하는 문제에서 모델이 '고양이'일 확률을 90%로 예측했는데 실제 레이블이 '고양이'라면 손실이 작아지고, '강아지'라면 손실이 커지는 방식입니다. MSE는 연속적인 값을 예측하는 데 적합하고, Cross-Entropy는 확률 분포를 예측하는 데 적합하다는 차이가 있습니다.