latent vector

latent vector

• data의 숨겨진 "특성" or "패턴"을 고차원 공간에서 압축적으로 표현한 벡터이다.
• 딥러닝에서 data의 본질을 설명하거나 다시 생성(generate)할때 사용된다.
• 고차원 데이터의 저차원 압축 표현
  • 즉, 데이터의 본질을 설명하는 특성값 집합
• 생성/변환/분류 등 다양한 딥러닝 모델의 핵심 중간단계

 

• 의미 및 역할
  • 데이터 압축 ==> origin data를 저차원으로 축약해서 중요한 특성을 보존.
  • 내재적 정보 표현 ==> origin data에서 드러나지 않는 "숨겨진 패턴" or "의미"를 파악.
    그리고 data들의 관계를 수치적으로 비교할 수 있게 함.
  • 유사성 평가 ==> latent vector끼리의 거리로 데이터의 유사성을 정량적으로 평가할 수 있음.

 

• 활용 예시
  • 생성모델  ==> GAN , Diffusion , VAE등에서 latent vector로부터 이미지를 생성 or 데이터를 복원함.
  • 분류 모델 ==> 특성 추출기(encoder)로 latent vector를 추출해서, 이를 기반으로 분류를 수행
  • 차원 축소 및 데이터 압축 ==> 고차원 데이터를 압축

 

• 구조
  • 한 이미지의 latent vector는 해당 이미지를 가장 잘 설명하는, 숨겨진 특성값들의 집합이다.
  • 여러개의 latent vector가 모이면, latent space를 이룬다. 
    이 공간을 sampling or 조작하면, 데이터의 다양한 변형 or 새로운 데이터를 생성할 수 있음.

 

• 생성모델과의 관계
  • diffusion 등 생성 모델에서는 초기 latent vector는 random noise로 시작함.
    반복적으로 noise를 줄이며, 점차 의미있는 이미지로 바꾼다.
  • VAE 및 GAN에서도 latent vector로부터 data를 복원하거나 생성함으로써 의미 있는 데이터 분포를 학습한다.