Neural Network(NN)

Sigmoid함수 . ( S )

3개의 네트워크를 통해서 XOR를 해결할 수 있다.

하나의 NN

다른 조합의 W,b의 값이 존재 할까 ? 

How can we learn W1, W2 b1, b2 from training data !?

Backpropagation 

w,x,b가 f에 미치는 영향을 알아야 한다. 

w,x,b의 각각의 미분값이 f에 영향을 미친다.

** Back propagation ( chain rule )

a가 f에 미치는 영향 ( f = a + b ) 

궁극적으로 구하고 싶은 값은 x가 g에 미치는 영향을 알아야한다.

g = x * y 

--> tensorflow에서는 각각의 연산과 과정들을 그래프로 만든다 : 각각을 미분(back propagation)을 위해