CNN
-
Auxiliary classifier란? / GoogLeNet에서 Auxiliary classifier를 사용한 이유?1) Tech 2020. 5. 8. 13:16
Auxiliary classifier란 = GoogLeNet (ILSVRC challenge 2014 winner) 에서 처음 도입된 개념 (Training을 잘하도록 도와주는 보조 역할 ) = gradient 전달이 잘 되지 않는 하위 layer을 training하기 위해 사용 = 쉽게 설명하자면 classification의 문제를 해결하는 Neural Network는 softmax를 맨 마지막 layer에 딱 하나만 놓는데, Auxiliary classifier는 중간중간 에 softmax를 두어 중간에서도 Backpropagation을 하게 함 =이를 통해 gradient가 잘 전달되지 않는 문제 해결함 Googlenet에 Auxiliary classifier를 사용한 이유 : Neural Netw..
-
CNN을 이미치 처리에 쓰는 이유 (affine layer, FC layer, MLP)1) Tech 2020. 3. 8. 11:57
CNN을 연구하다 보면 본질적인 궁금증이 생길겁니다. 왜? DNN중에서 CNN이 image 처리에서 강점을 보일까입니다. 저도 이제까지 이유는 알고는 있지만 정확하게는 설명을 못하는 부분이기도 해서 이렇게 정리합니다. ======================================================== DNN은 다음과 같은 순서대로 공부를 많이할겁니다. Perceptron -> MLP (Multi-layer Perceptorn) -> CNN (Convolutional Neuron Network) 1. Perceptron은 말그대로 인간의 brain의 신경세포(Neuron)에서 motiv를 얻었습니다. 2. MLP는 Perceptorn을 여러개 FC layer을 쌓은 것입니다. MLP의 l..