[부스트캠프 AI Tech]WEEK 06_DAY 26

🔥 개별학습

---

[5] Model 1- Model with Pytorch

1. Model

1) object, person, system 등 정보의 표현

 

2. Design Model with Pytorch

1) Pytorch

- Open Source Machine Learning Framework

- 특징 : low-level, Pythonic, Flexibility 

2) nn.Module

- Pytorch의 모든 레이어는 nn.Module 클래스를 따름

import torch.nn as nn
import torch.nn.functional as F

class MyModel(nn.Module):
    def __init__(self):
    	super(MyModel, self).__init__()
        self.conv1 = nn.Conv2d(1, 20, 5)
        self.conv2 = nn.Conv2d(20, 20, 5)
        
    def forward(self, x):
    	x = F.relu(self.conv1(x))
        return F.relu(self.conv2(x))

- forward : 모델이 호출되었을 때 실행되는 함수

3) nn.Module을 상속받은 모든 클래스의 특징

- child modules를 가질 수 있음

- 정의된 모델의 forward를 한 번만 실행해도 그 모델의 forward에 정의된 모듈 각각의 forward도 실행됨

4) Parameters

- 모델에 정의되어 있는 modules가 가지고 있는 계산에 쓰이는 Parameter

- state_dict()  : key 값과 함께 있어서 어느 파라미터 값인지 쉽게 파악 가능

- parameters() : tensor 상태의 파라미터 값만 가져옴

- data, grad, requires_grad 변수 등을 가지고 있음

5) Python의 Pythonic

- Dictionary와 같은 형식과 구조를 알고 있으면 여러 가지 응용도 가능하고, 발생할 수 있는 에러를 핸들링할 수 있음

---

4. Github 연결하기

1) 계정 연결

git config user.name
git config user.email

 

2) 이미 만들어진 repository에 git 연결하기

주의! 이미 만들어진 repository에는 git init이나 git remote add origin을 사용하면 안 된다!

git clone [REPOSITORY_URL]

 

3) 폴더 생성하고 파일 커밋하기

mkdir [FOLDER_NAME]
cd [FOLDER_NAME]
git add [FILE_NAME]
git status
git commit -m "[COMMIT_MESSAGE]"
git push -u origin master

---

[Python]ImportError: cannot import name 'Concatenate' from 'typing_extensions'

---

🔥오늘의 회고

멘토링을 시작하는 수요일! 이번 대회 데이터셋이 class imbalance가 심하다보니까(사실 어떤 데이터셋도 class balance 한 데이터를 찾기 어렵지만..) 어떻게 imbalance를 다루어야 하는지 다양한 방법을 알려주셨다. 핵심은 데이터의 imbalacne는 잘못된 게 아니다! 실제로 의료 영상 데이터셋도 정상군 대비 질환군이 10% 미만이기 때문에 imbalance는 어느 데이터셋이든 발생할 수 있는 문제이다. 다만 class imbalance가 문제가 되는 경우는 학습할 데이터의 수가 확연하게 적으면 문제가 된다. 따라서 imbalance를 해결하기 위해서 적은 데이터 수를 많게 만드는 oversampling 방법을 사용하여 문제를 해결하는 것이 좋다! 오후 피어세션 때에는 오전에 공개된 baseline 코드를 보고 변인 통제를 통해서 어떤 augmentation 방법이 좋은지를 테스트해보았다. ipynb 파일이 아니라 py 파일인지라 생각하고 분석할 부분이 많았지만, 그래도 주어진 코드를 보면서 어떻게 코드를 작성하는지 많이 배운 것 같다..! train을 한 번 해봤지만 성능이 그렇게 높은 편은 아니라서 어떻게 해야 더 잘 학습시킬 수 있을지 고민해봐야겠다...0-0