트랜스포머(Transformer) 아키텍처가 자연어 처리 분야를 넘어 컴퓨터 비전 분야(Vision Transformer, ViT)에서도 뛰어난 성능을 보이고 있습니다. ViT가 CNN과 비교하여 갖는 구조적 특징과 장단점을 설명하고, 특히 고해상도 이미지 처리 시 발생하는 계산 복잡도 문제와 이를 해결하기 위한 패치 임베딩 전략, 계층적 트랜스포머(예: Swin Transformer)와 같은 최신 아키텍처의 설계 원리를 구체적으로 설명하시오.

ViT는 이미지를 패치 단위로 쪼개어 각 패치를 하나의 토큰처럼 취급하고, 트랜스포머의 인코더에 입력합니다. CNN과 달리 ViT는 이미지 전체에 대한 전역적인 관계를 Self-Attention 메커니즘을 통해 효과적으로 모델링할 수 있다는 장점이 있습니다. 하지만, 고해상도 이미지의 경우 패치 수가 급증하여 Self-Attention 계산량이 매우 커지는 단점이 있습니다.

이를 해결하기 위해 ViT는 패치 임베딩 시 다운샘플링을 적용하거나, Swin Transformer처럼 계층적 구조를 사용하여 점진적으로 패치 크기를 키우면서 계산 복잡도를 줄입니다. Swin Transformer는 Shifted Window Attention이라는 방식을 통해 윈도우 간의 연결성을 유지하면서도 계산량을 줄이는 혁신적인 방법을 제시했습니다. 이러한 구조적 특징 덕분에 ViT는 CNN 기반 모델보다 더 넓은 범위의 정보를 활용하여 이미지 분류, 객체 탐지 등 다양한 비전 태스크에서 뛰어난 성능을 보여주고 있습니다. 다만, ViT는 CNN에 비해 데이터 의존성이 높다는 점도 고려해야 합니다.