Generative Model

Generative Model

Supervised Learning vs. Unsupervised Learning

• Supervised learning
  • 데이터 + 데이터의 레이블을 주고 모델을 학습시키는 방법
  • 데이터 수집은 어렵지만 학습은 상대적으로 쉬움 
  • 예시
    • Classification : class 예측 → discrete result
    • Regression : 얼마나 맞고 얼마나 틀린지 예측 → continuous result 
    • Object detection
    • Semantic segmentation : 사진에 있는 모든 픽셀에 대해 예측
    • Image captioning
• Unsupervised learning
  
  • 레이블이 필요없기 때문에 학습 데이터 수집이 쉬워진다. (cost가 낮다.)
  • 학습이 어렵다.
  • 예시
    • clustering
    • dimensionality reduction : 어떤 차원을 남겨야 하는가
    • feature learning
    • density destimation

 

Generative Model

이미지(데이터)를 생성해내는 모델이다.

Unsupervised learning을 통해 학습한다.

 

아무런 label을 주지 않고 학습시켜서 실제 이미지처럼 생긴 이미지를 만들어낸다.

 

이미지 생성을 위해서는 사람이 몇 명있고 어떤 사물이 있는지 등의 이미지의 분포를 파악해야 한다.

이는 경우의 수가 너무나도 많기 때문에 supervised learning이 불가능하다.

따라서 모델이 스스로 확률값을 알아내어 만들어낸 이미지 픽셀의 분포가 데이터셋의 분포와 비슷해지도록 학습한다.

 

Generative Model이 필요한 이유

ML은 huge dataset에 대해서 학습을 잘한다.

데이터셋을 생성함으로써 supervised learning에 적용이 가능하다.

이를 통해 huge dataset을 구축할 수 있고 이를 통해 기존에 풀 수 없던 문제를 풀 수 있게 된다.

 

학습 방법

1. Generation : 이미지 생성
2. Density estimation : 입력 이미지와 생성된 이미지의 확률 분포 $p(x)$가 유사한지 비교한다.
3. Unsupervised learning : loss가 줄어들도록(distribution이 유사해지도록) 학습을 진행한다.

 

다양한 Generative Model