본문 바로가기

카테고리 338

Generative Model Generative Model Supervised Learning vs. Unsupervised Learning Supervised learning 데이터 + 데이터의 레이블을 주고 모델을 학습시키는 방법 데이터 수집은 어렵지만 학습은 상대적으로 쉬움 예시 Classification : class 예측 → discrete result Regression : 얼마나 맞고 얼마나 틀린지 예측 → continuous result Object detection Semantic segmentation : 사진에 있는 모든 픽셀에 대해 예측 Image captioning Unsupervised learning 레이블이 필요없기 때문에 학습 데이터 수집이 쉬워진다. (cost가 낮다.) 학습이 어렵다. 예시 clus.. 2022. 6. 16.
[CNN] Model Understand Visualize Filter 1st Layer의 Filter Visualization CNN의 filter를 시각화하더라도 필터 자체의 의미를 알기는 어렵다. 따라서 feature map을 visualization을 하는 것이 좋다. Last Layer의 Filter Visualization CNN의 lst layer는 주로 FC(Fully Connected) layer이다. 많은 이미지에 대해 적용시키면 많은 feature vector가 뽑혀져 나온다. kNN Last layer로부터 나온 featuer vector를 시각화해서 pixel space에서의 nearest neighbor 끼리 묶으면 제법 유사한 feature를 지닌 그림이 묶이는 것을 확인할 수 있다. Dimension Reductio.. 2022. 6. 16.
[CNN] Image Captioning & Attention Image Captioning 주어진 image에 대해 묘사하는 string을 만들어내는 작업을 image captioning이라 한다. 이를 위해 CNN + RNN을 결합하여 모델을 구성한다. CNN을 통해서 visual information을 뽑아내어 feature vector를 만들고, RNN을 이용하여 그 정보들을 합쳐서 단어 sequence를 만들어 내는 것이다. CNN + RNN의 단점 그런데 이 경우 RNN은 배경, 몸짓, 특징 등 세부적인 것을 보고 판단하지 않고 전체 이미지를 한 번에 살펴보고 판단하게 된다. 더 local하게 살펴본 결과를 얻기 위해 attention이라는 기법을 사용하게 된다. Attention Image captioning을 위해 자주 사용되는 기법이다. Image의.. 2022. 6. 16.
[RNN] GRU (Gated Recurrent Unit) GRU (Gated Recurrent Unit) RNN의 한 종류이다. 별도의 memory cell을 두지 않고 구현하여 LSTM보다 cost가 절반 정도로 준다. 특징 2개의 gate가 존재한다. Forget gate와 input gate가 하나의 update gate로 대체된다. h를 c처럼 사용한다. Memory cell C가 따로 존재하지 않는다. 2022. 6. 16.
[RNN] LSTM (Long Short-Term Memory Network) LSTM (Long Short-Term Memory Networks) RNN 종류 중 하나이다. 3종류의 메모리를 배치함으로써 vanishing/exploding gradient problem과 이전의 정보를 까먹는 문제를 모두 해결하였다. Long-term dependency를 유지하며 학습이 가능하다. Memory Cell Memory와 gate로 구성되며 3 종류가 존재한다. Gate의 특징 Output range : 0~1 기능 : filtering function 연산 : pointwise multiplication 종류 input gate 현재 메모리에서 어떤 부분을 사용할지 결정 1에 가까운 값은 사용하고 0에 가까운 값은 사용하지 않는다. forget gate 과거의 정보와 결합하여 메모리.. 2022. 6. 16.

티스토리툴바