Sigmoid Function

아래 graph와 같이 e^(-x)는 x가 증가할 수록 0에 수렴하고 x가 감소할수록 무한대로 간다.
이러한 자연대수가 sigmoid function의 분모에 위치하기 때문에 위와 같은 sigmoid function의 graph를 얻을 수 있는 것이다.

sigmoid function을 이용하면 가중치나 바이어스를 step function보다 정밀하게 변화시킬 수 있기 때문에, multi-layer neural network에 유리하다.

이 때, z는 각각의 입력(x1, x2, x3, ...)와 가중치(w1, w2, w3, ...)를 곱한 값에 bias를 더한 값.




출처 : https://laonple.blog.me/220587920012

본 게시물은 개인학습용으로 정리한 것으로, 문제될 시 바로 내리겠습니다.