최근 각광받는 3가지 차원 축소 기법

전통적인 차원 축소 기법들이 데이터의 선형적 구조나 통계적 특성에 기반을 둔다면, 최근의 차원 축소 기법들은 비선형적(Non-linear) 구조, 데이터의 위상(Topology), 그리고 딥러닝을 활용하는 방향으로 발전해 왔습니다.

​

최근 각광받는 대표적인 차원 축소 기법 세 가지는 다음과 같습니다.

1. t-SNE (t-Distributed Stochastic Neighbor Embedding)

t-SNE는 고차원 공간에 있는 데이터 포인트 간의 유사도(지역적 구조)를 최대한 보존하면서 2차원이나 3차원과 같은 저차원 공간에 시각화하는 데 매우 강력한 성능을 보이는 기법입니다.

• 핵심 아이디어: 고차원 공간에서 가까운 데이터 포인트들은 저차원 공간에서도 가깝게 유지되도록 만듭니다. 데이터 포인트 간의 유사성을 확률 분포로 모델링하고, 이 분포를 저차원에서도 최대한 유지하는 위치를 찾습니다.
• 전통 기법과의 차이점: PCA가 데이터의 전체적인 분산(전역 구조)을 보존하려는 것과 달리, t-SNE는 국소적 이웃 관계(Local Structure)를 보존하는 데 집중합니다. 이 때문에 시각화 시 군집(Cluster)을 매우 뚜렷하게 표현하는 경향이 있습니다.
• 주요 용도: 고차원 데이터의 시각화, 특히 머신러닝 모델의 임베딩 결과나 군집 분석 결과를 직관적으로 확인할 때 널리 사용됩니다.

2. UMAP (Uniform Manifold Approximation and Projection)

​UMAP은 t-SNE와 유사하게 데이터의 국소적 구조를 보존하면서 차원을 축소하는 비선형 기법이지만, 더 최신 이론인 위상 데이터 분석(Topological Data Analysis)에 기반합니다.

• 핵심 아이디어: 데이터가 놓여있는 매니폴드(Manifold)의 위상 구조를 학습하고, 이를 최대한 보존하는 저차원 표현을 찾습니다.
• 전통 기법 및 t-SNE와의 차이점:
  • 성능: t-SNE보다 계산 속도가 훨씬 빠르며, 대규모 데이터셋에도 적용하기 용이합니다.
  • 구조 보존: 국소적 구조뿐만 아니라 데이터의 전역적 구조(Global Structure)도 t-SNE보다 잘 보존하는 경향이 있어, 데이터 전체의 큰 그림을 더 잘 파악할 수 있습니다.
• 주요 용도: t-SNE를 대체하는 시각화 도구로 빠르게 자리 잡고 있으며, 특징 추출, 군집 분석 등 다양한 분야에서 활용됩니다.

​3. 오토인코더 (Autoencoder)

​오토인코더는 딥러닝(신경망)을 이용한 비선형 차원 축소 기법입니다. 데이터를 압축하는 인코더(Encoder)와 압축된 데이터를 다시 원본으로 복원하는 디코더(Decoder)로 구성된 비지도 학습 모델입니다.

• 핵심 아이디어: 인코더는 고차원 입력 데이터를 저차원의 잠재 공간(Latent Space) 표현으로 압축하고, 디코더는 이 잠재 공간 표현을 이용해 원본 데이터를 최대한 비슷하게 복원하도록 학습됩니다. 학습이 완료되면, 인코더 부분이 바로 고차원 데이터를 저차원으로 축소하는 역할을 수행합니다.
• 전통 기법과의 차이점: 신경망을 이용하기 때문에 PCA 등으로는 잡아낼 수 없는 매우 복잡하고 비선형적인 데이터의 특징을 학습하고 압축할 수 있습니다.
• 주요 용도: 이미지 노이즈 제거, 이상 탐지(Anomaly Detection), 생성 모델(Variational Autoencoder 등), 그리고 복잡한 비정형 데이터의 특징 추출에 매우 효과적으로 사용됩니다.

​요약 비교

구분	PCA (전통)	t-SNE (최신)	UMAP (최신)	오토인코더 (최신)
핵심 원리	분산 최대화	지역적 유사도 보존	위상 구조 보존	데이터 압축 및 복원
선형성	선형	비선형	비선형	비선형
주요 특징	전역적 구조 보존	국소적 구조 보존 (군집화 탁월)	국소/전역 구조 균형, 빠른 속도	복잡한 패턴 학습 가능
주요 용도	특징 추출, 데이터 압축	시각화	시각화, 특징 추출	비정형 데이터 특징 추출

최근의 차원 축소 기법들은 복잡하고 비선형적인 현대 데이터의 특성을 더 잘 반영하고, 특히 시각화를 통해 데이터에 대한 깊은 통찰력을 얻는 데 큰 도움을 줍니다.