Feedforward neural network

Fast forward

하나의 네트워크를 뽑아서 2단 앞으로 연결해준다.

Split & merge

Recurrent network

네트워크들을 알아서 조합해서 좋은 모델을 만들어 내는것.

네고처럼 넷트웍 모듈을 마음껏 사용하는것.

한단과 간단한 단으로 했을때.

초기화를 해주었을 때

깊어질수록 overfitting --> Dropout

Adam 최적화 방법도 있음.

Batch 초기화방법

Optimizers