강의정리/딥러닝

Feedforward neural network

안잡아모찌 2019. 1. 24. 15:10

Fast forward

하나의 네트워크를 뽑아서 2단 앞으로 연결해준다.




Split & merge




Recurrent network





네트워크들을 알아서 조합해서 좋은 모델을 만들어 내는것.

네고처럼 넷트웍 모듈을 마음껏 사용하는것.





한단과 간단한 단으로 했을때.

초기화를 해주었을 때

깊어질수록 overfitting --> Dropout

Adam 최적화 방법도 있음.

Batch 초기화방법


Optimizers