신경망 Neural network 이란? - 1

퍼셉트론의 식

X1 * w1 + X2 * w2 + b 으로 입력 값을 출력 값으로 바꿔주는 함수를 활성화 함수 ( activation function) 라고 합니다.

 

이 함수는 여러 가지가 있는데, 일반적으로

 

단순 퍼셉트론에서는 계단 함수,

다층 퍼셉트론에서는 시그모이드 함수를 사용합니다.

 

계단 함수, 시그모이드 함수는 둘 다 비선형입니다.

그리고  활성화 함수로 ReLU 함수도 사용합니다.