self-supervised learning

unsupervised learning 연구 분야중 하나이다.

 

input: unlabeled dataset

사용자가 정의한 문제(pretext task)를 네트워크가 학습하게 하여 데이터 자체에 대한 이해를 높이도록 함

여기서 가정: pretext task가 잘 짜여졌다면 input을 효과적으로 representation 할 것이다

-> pretext task에서 나온 pre-train된 네트워크를 궁극적으로 사용자가 풀고자 하는 문제(downstream task)에 transfer learning 한다.

 

셀프수퍼비전 연구들!!!

https://github.com/jason718/awesome-self-supervised-learning