[부스트캠프 AI Tech]WEEK 03_DAY 13

🌱 개별학습

---

[4] Convolution Neural Networks

1. Convolution

1) signal processing에서 두 함수를 잘 섞어주는 것

2) kernel filter 모양에 따라 결과가 다양해짐

 

2. Convolutional Neural Networks

1) convolution layer, pooling layer, fully connected layer

- convolution layer, pooling layer : 특징 추출

- fully connected layer : 결과 추출 (ex. classification)

2) stride

3) padding

4) parameter 계산

- 11 * 11 * 3 * 48 * 2 = 35k

- 5 * 5 * 48 * 128 * 2 = 307k

5) 1×1 convolution

- 차원 축소

- 파라미터 수 줄임

---

[5] Modern Convolutional Neural Networks

1. Alexnet

1) 2012년 ILSVRC(ImageNet Large-Scale Visual Recognition Challenge)에서 1위 차지

2) GPU의 한계로 모델을 두 개로 나누어서 학습함

3) ReLU activation 사용

- vanishing gradient 문제 극복

4) Local response normalization, Overlapping pooling 사용

5) Data augmentation

6) Dropout

 

2. VGGNet

1) 3×3 convolution filters 사용

- 3×3 conv 두 번이 5×5 보다 parameter 수가 줄어듦

2) fully connected layers에 1×1 convolution 사용

3) Dropout

 

3. GoogleNet

1) Inception blcks

- input이 퍼졌다가 다시 concatenation으로 모임

- parameter 수를 줄이기 위해서

- 1×1 convolution 사용

 

4. ResNet

1) 깊은 neural network 일수록 학습하기 어려움

2) skip connection 추가

- layer가 깊어도 학습이 잘 됨

- f(x) -> x + f(x)

 

5. DenseNet

1) addition 대신 concatenation 사용

2) 채널이 커지면서 conv feature map, parameter 수도 커짐

3) Dense Block으로 늘리고 Trasition Block으로 줄임

---

[6] Computer Vision Applications

1. Semantic Segmentation

1) convolulization : CNN에서 dense layer를 conv layer로 바꿈

- convolution shared parameter 성질 덕분에 이미지 사이즈에 상관 없이 동작함

 

2. Detection

1) R-CNN

- 이미지에서 region proposal 추출

- CNN 이용하여 특징 추출

- classification으로 분류

2) SPPNet : CNN을 한 번만 돌림

3) Fast R-CNN : Region Proposal Network + Fast R-CNN

4) YOLO

- S×S grid로 나눔

- 5개의 bounding box 찾음

- 동시에 어떤 클래스인지 예측

---

---

🌱 오늘의 회고

오전에는 강의 듣고, 과제하고, 오후에도 강의 듣고 과제하고+_+ 생각보다 내용은 어려운데 진도는 안 나가고(ㅠㅠ) 걱정이 많다... CNN은 여러 번 강의 들은 거 같지만 하나씩 헷갈리는 개념들이 있는 거 같다. 이번에는 확실하게 짚고 가야지 라는 마음으로 하고 있다. 피어세션 때에는 알고리즘 문제 풀이에 대해 이야기했다. 이번 문제 쉬워보였는데 생각보다 어려운 부분이 있었다. 문제 이해하는 것부터 시작해서 어떻게 문제를 풀었는지 풀이 과정에 대해서 이야기했다. 내일은 딥러닝 강의 다 듣고 과제까지 제출한 다음 시각화로 넘어가기 파이팅🦆