AE , AutoEncoder

AutoEncoder

• 입력 데이터를 저차원 잠재 공간으로 압축하여, 다시 원본과 유사하게 복원하는 encoder-decoder 구조의 비지도 학습 신경망이다.
• 복잡하고 고차원 데이터의 핵심 특징만 추출하여 차원을 축소 or 노이즈 제거 or 이상 감지등 분야에 활용.
• 출력층과 입력층의 뉴런 개수가 동일하다.
• 입력 데이터의 출력을 재구성이라고도 한다.
  • 이때, 비용함수는 재구성이 입력 데이터와 다를때, 모델에 벌점을 부과하는 재구성 손실을 포함한다.
• Bottle-neck
  • 네트워크 중앙에서 잠재 공간이 형성되고, 여기에 입력이 압축되어 주요 특징만 남게 된다.

 

 

Encoder

• 입력 데이터를 encoding하여, 잠재 벡터( latent vector , latent variable )를 생성한다.
  • latent vector 는 데이터의 핵심정보를 담음. 즉, feature를 담는다.

 

 

 

Decoder

• 잠재 벡터를 받아서, 입력데이터와 동일한 형태로 decode한다.
• 목표는 복원된 값과 입력 값간의 차이를 최소화하는 방향으로 학습한다. ( 손실함수는 주로 MSE 사용 )
•