Search
🧠

뇌를 본따는 딥러닝 대신 척추를 본따는 딥러닝 SpinalNet: Deep Neural Network with Gradual Input

작성일
2021/02/05
태그
Deep Learning
Idea
작성자
Empty
1 more property
사람의 전신에 연결되어 있는 신경들이 척수를 통해 뇌까지 연결되는 것에서 고안
Hidden layer의 Neuron들이 모두 concatentation되어 output layer로 입력됨
에 대한 해설, 106~110번째 줄의 concatenation이 인간의 척수를 묘사한다고 함
Neuron의 정보를 완전하게 이용하므로 vanishing gradient의 염려가 없음.
기존 Image Classification 데이터셋의 bottleneck layer에서 fully connected layer만을 대체하는 방식으로 이식하여 결과를 확인할 수 있음
ImageNet 데이터셋의 Subset이라고 볼 수 있는 10개 class를 가진 13만장의 이미지 데이터셋 STL-10의 벤치마크에서 1위를 기록함