[부스트캠프 AI Tech]WEEK 06_DAY 27

🔥 개별학습

---

[6] Model 2 - Pretrained Model

0. Overview

1) Computer Vision에서 발전으로  Object Detection, Self-driving과 같은 기술이 발전함

2) Computer Vision의 발전에 ImageNet 이라는 대용량 데이터셋의 엄청난 영향력이 있었음

 

1. Pretrained Model

1) 배경

- 매번 수 많은 이미지를 학습하는 것은 까다롭고 비효율적

- 미리 학습한 모델을 바탕으로 목적에 맞게 다듬어서 사용

2) torchvision.models를 이용하여 모델 구조와 pretrained weight를 다운로드할 수 있음

 

2. Transfer Learning

1) CNN base 모델 구조

- Input --> CNN Backbone + Classifier --> Output

2) Torchvision model 구조

import torchvision.models as models
resnet18 = models.resnet18(pretrained=True)

3) Ex) Imagenet Pretraining

- ImageNet Images --> CNN Backbone + Classifier --> 1000 class

- 실생활에 존재하는 이미지를 1000개의 class로 구분

4) Pretraining 할 때 설정했던 문제와 현재 문제와의 유사성을 고려

5) Case 1. 문제를 해결하기 위한 학습 데이터가 충분한 경우

- CNN backbone의 역할은 input image의 feature를 추출

- Classfier의 역할은 추출된 feature의 embedding을 가지고 class를 정의함

- task가 pretrained model과 유사한 경우 backbone은 freeze 하고 classifier만 update

6) Case 2. 학습 데이터가 충분하지 않은 경우

- task가 pretrained model과 유사한 경우 backbone은 freeze하고 classifier만 update

---

[Python]TypeError: image must be numpy array type(Resnet)

---

🔥 오늘의 회고

팀 github 사용하다가 commit 기록을 보니 내 커밋 + merge 커밋이 동시에 업로드되길래 데일리스크럼 때는 다른 팀원들은 repository를 어떻게 업데이트 하는지 물어봤다.. 아직까지 baseline과 데면데면한 사이라서 이번 주까지는 각자 편한 방법으로 원하는 실험을 돌려보기로 했다. (그래봐야 오늘 내일임...ㅠㅠ) baseline 2차 코드가 공개되어서 살펴보는데 사실 엄청나게 변한 건 없어서 대충 슥 보고 넘어갔다. 실험 돌리려고 여러 가지 코드 찾아보고, 다른 팀원들 코드 참고해서 업그레이드 했다! 오늘은 loss, optim, model 위주로 실험해봄! 하루에 2번 밖에 기회가 없으니 여러 번 실험해보고 신중하게 제출해보는걸로 +_+ 오후에는 level 2를 위한 간단한 팀 미팅 해보았다. 피어세션 때에는 각자 실험 돌렸던 내용들 공유하고 baseline 으로 잡을 optimizer와 model에 대해서 의논했다. 확실히 Adam 보다는 AdamW가 성능이 잘 나오는데 이거 당연히 이유도 있어야 할텐데.. 실험을 해보니 이 데이터셋에 fit 한 게 아닐까...?? 학습을 하면서 느낀건 확실히 train을 할 때는 loss도 낮고 accuracy는 높아서 굉장히 학습이 잘 되고 있다고 생각되는데, valid나 test로 실험을 해보면 그렇게 성능이 높아지지가 않아서 좀 더 일반화를 시켜야 한다는 생각이 든다.. 내일은 rubust 한 학습에 집중해보는걸로...!!!!