[부스트캠프 AI Tech]WEEK 04_DAY 17

🚀 개별학습

---

[3] Image Classification 2

1. Problems with deeper layers

1) 더 깊은 네트워크 -> 더 높은 성능 항상 그런가?

- 아니다

- 계산 복잡도 증가

- degradation problem : gradient vanishing(너무 작아짐)/exploding(너무 커짐) 문제

 

2. CNN architecture for image classification 2

1) GoogleNet

(1) Inception module

- 1×1, 3×3, 5×5 conv filter 사용

- 1×1 conv로 계산량을 줄임 (공간 크기는 변하지 않고, 채널 수만 바뀜)

(2) 전체적인 구조

- Stem network

- 전체적으로 Inception module을 쌓은 구조

- 모듈 중간에 Auxiliary classifier 추가 : gradient vanishing을 방지

- 최종 출력 Classifier는 single FC layer

Szegedy, Christian, et al. "Going deeper with convolutions."  Proceedings of the IEEE conference on computer vision and pattern recognition . 2015.

2) ResNet

(1) depth가 깊어지면 성능이 높아지나?

He, Kaiming, et al. "Deep residual learning for image recognition."  Proceedings of the IEEE conference on computer vision and pattern recognition . 2016.

-  train error가 56-layer일 때 20-layer 일 때보다 높음

- overfitting이 아니라 optimization 문제임

(2) 잔여 부분을 학습하는 residual block을 제안

- O(2^n)의 경로를 고려

He, Kaiming, et al. "Deep residual learning for image recognition."  Proceedings of the IEEE conference on computer vision and pattern recognition . 2016.

(3) 전체적인 구조

- initialization conv layer

- 3×3 conv block(residual block) 쌓기

- stride 2로 down-sampling

- 최종 출력 Classifier는 single FC layer

3) DenseNet

- 채널 축을 기준으로 cocnatenated

- 바로 직전 뿐만 아니라 이전 레이어를 넘겨주기 때문에 상위 레이어가 하위 레이어의 특성을 재참조

4) SENet

- squeeze : 공간 정보를 없애고 채널의 분포를 구함

- excitation : FC layer 하나를 통해 채널 간 연관성을 고려하여 attention score 생성

5) Efficientnet

- 기존의 width scailing(GoogleNet Inception module, DenseNet), depth scailing(ResNet), resolution scailing과 다르게 compound scailing을 통해 deep, wide, high resolution 네트워크를 생성

---

[4] Semantic segmentation

1. Semantic segmentation

1) image classification은 영상 단위로 분류 -> semantic semgnetation은 픽셀 단위로 분류

2) 의료 영상, 자율 주행, 포토그라피 등에 사용

 

2. Semantic semgnetation architectures

1) Fully Convolutional Networks(FCN)

- end-to-end 구조 : input부터 output까지 미분 가능한 neural network 형태

- Fully connected layer : 차원 벡터를 고정하고 공간 정보를 버림 -> image classification

- Fully convolutional layer : 공간 위치마다 classification -> semantic segmentation

2) 1×1 convolution을 통한 fully connected layers 해석

- Fully connected layer : 영상을 긴 벡터 형태로 만들어서 공간 정보를 고려하지 않음

- Fully convolutional layer : 영상의 각 위치마다 flatten을 시킨 후 각각에 대해서 feature map 생성

- 기존 이미지를 down-sampling 하다보니 작은 feature map이 생성됨

3) Upsampling

- receptive field의 크기가 작아서 영상의 전반적인 context를 파악하기 어려움

- transposed convolution : 중첩이 생기지 않도록 더해야 함

- upsample and convolution : Nearest-neighnor(NN), bilinear 사용

4) 해상도에 따른 특성

- high-resolution : low-level, detail, local

- low-resolution : semantic, holistic, global

5) U-Net

Ronneberger, Olaf, Philipp Fischer, and Thomas Brox. "U-net: Convolutional networks for biomedical image segmentation."  International Conference on Medical image computing and computer-assisted intervention . Springer, Cham, 2015.

- Fully convolutional networks

- Contracting path(down-sampling) : 해상도 줄이고, 채널 수를 늘림

- Expanding path(up-sampling) : 해상도 높이고, 채널 수를 줄임

6) DeepLab

- DeepLab v1의 특징 : Conditional Random Fields(CRFs) - post-processes(후처리)

- DeepLab v2의 특징 : Dilated convolution(Atrous convolution) - 더 넓은 recptive field 고려

- DeepLab v3+의 특징 : Dilated convolution, Atrous spatial pyramid pooling

---

🚀 오늘의 회고

오늘 하루의 시작은 멘토링으로! 아무래도 팀 빌딩이 사실상 시작되었다보니 level 2, 3의 방향성에 관한 이야기를 나누었다. 멘토님께서 지난 기수의 깃허브를 소개해주셨는데, 확실히 지난 기수가 한  프로젝트들을 보니까 어떤 식으로 프로젝트를 운영하는지 약간 감이 잡힌거 같다.. 그리고 가장 다행이라고 여겼던 건 아무래도 아직까지 주제 잡는 것 자체가 힘들었는데 기업 연계 주제를 운영하는 것으로 파악되어서 만약에 연계 주제를 운영한다면 무조건 기업 주제를 잡아야겠다는 생각이 들었다. 우선 문제 정의부터 명확하고, 회사의 니즈를 파악하고 성공적으로(?) 수행한다면 취업으로 연계될 확률이 높으니.. 아직 2주나 남은거 같지만 그래도 조마조마한 마음은 어쩔 수가 없는거 같다. 멘토링 끝나고 강의 하나 듣고, 오늘은 점심도 먹고, 다시 강의 듣고, 과제하고.. 사실상 똑같은 하루의 반복. 확실히 도메인 이론으로 들어오면서부터 하나의 강의 안에 여러 논문이 들어있는데, 이거 다 읽어볼 시간이 있으면 좋겠지만 강의에 치이고, 과제에 치이다보면 몸이 남아나질 않는다..(버텨줘 제발 0-0) 오후에는 마스터클래스가 이어졌는데 오랜만에 뵈는 안수빈님..(내적 친밀감) 확실히 자기가 좋아하는 분야를 잘한다는 것은 복 받은 일이다. 시각화에 대한 중요성을 다시 한 번 느낄 수 있었다!