AI / 데이터 · 중급
ResNet과 VGG 네트워크의 주요 차이점은 무엇이며, ResNet이 깊은 네트워크에서 VGG보다 더 좋은 성능을 보이는 핵심적인 이유를 설명해 주세요.
힌트 · ResNet은 잔차 연결(Residual Connection)을 통해 기울기 소실 문제를 완화하고 깊은 네트워크 학습을 가능하게 합니다. VGG는 깊이를 증가시켜 성능을 높였지만, ResNet은 구조적 개선을 통해 효율성을 높였습니다.
잔차 학습Skip Connection기울기 소실/폭주깊은 네트워크병목 구조
모범답안
ResNet과 VGG의 주요 차이점은 네트워크 구조와 깊이에 따른 성능입니다. VGG는 단순히 레이어를 깊게 쌓아 성능을 향상시키려 했지만, 깊이가 깊어질수록 기울기 소실/폭주 문제로 학습이 어려워지는 한계가 있었습니다.
반면 ResNet은 잔차 연결(Residual Connection)이라는 혁신적인 구조를 도입했습니다. 이 연결은 이전 레이어의 출력을 건너뛰어(Skip Connection) 다음 레이어의 입력에 더해주는 방식으로, 네트워크가 항등 함수(Identity Function)를 학습하도록 돕습니다. 이를 통해 기울기 소실 문제를 완화하고, 깊은 네트워크에서도 효과적인 학습이 가능하게 합니다.
결론적으로, ResNet은 잔차 연결을 통해 깊은 네트워크 학습의 안정성을 확보하고, VGG보다 훨씬 깊은 네트워크를 효과적으로 학습시켜 더 좋은 성능을 보이는 것입니다.
읽었다면, 이제 직접 답해볼 차례예요
패스잇 앱에서 이 질문에 말로 답하면 AI가 꼬리질문까지 이어가며 1:1 코칭합니다.
함께 보는 딥러닝 면접 질문
- 경사 하강법(Gradient Descent)은 딥러닝 모델의 가중치를 업데이트하는 핵심 알고리즘입니다. 경사 하강법의 기본 원리를 간단하게 설명해주세요.
- 딥러닝 모델을 학습할 때 흔히 발생하는 문제인 과적합(Overfitting)과 과소적합(Underfitting)은 각각 무엇을 의미하며, 이들이 모델 성능에 미치는 영향은 무엇인가요?
- 과적합(Overfitting)을 방지하기 위한 대표적인 정규화(Regularization) 기법 세 가지(L1, L2, Dropout)에 대해 간략하게 설명해주세요.
- 순환 신경망(RNN)에서 발생하는 장기 의존성(Long-term dependency) 문제를 해결하기 위해 LSTM과 GRU가 어떤 방식으로 고안되었는지, 각 게이트의 역할을 중심으로 설명해 주세요.
- 어텐션 메커니즘(Attention Mechanism)이 시퀀스-투-시퀀스(Seq2Seq) 모델에서 어떤 문제를 해결하며, 기존 RNN 기반 모델 대비 어떤 이점을 제공하는지 구체적인 동작 원리를 예시와 함께 설명해 주세요.
- 배치 정규화(Batch Normalization)가 딥러닝 모델 학습 과정에 어떤 긍정적인 영향을 미치는지, 내부 공변량 변화(Internal Covariate Shift) 관점에서 설명하고, 추론 시에는 어떻게 동작하는지 설명해 주세요.