Definition

Untitled

  1. 다수의 신호를 받아 하나의 신호를 출력합니다. 퍼셉트론을 함수로 표현하면 h(x)로 표현할 수 있습니다. 결과에 따라 0 이하라면 0, 0 이상이라면 1로 표현할 수 있습니다.
  2. 이 입력 신호와 각각의 가중치 w의 곱을 통해 출력값을 갖습니다. 신호가 out 출력값으로 나올 때 x는 가중치 x를 곱합니다.

Untitled

  1. 이렇게 임계치(0)를 넘기면 1, 못넘기면 0을 출력하는 h(x)는 activation function이라고 합니다. 그 중에서도 step function입니다.

Untitled

이미지: https://liveyourit.tistory.com/63

  1. Perceptron과 Neural Network의 차이는 바로 이 h(x), Activation function입니다. 퍼셉트론은 계단함수로, NN은 계단함수를 비롯해 각 모델마다 Activation function을 선택하여 사용합니다.

→ Multi Layer Perceptron의 등장

Untitled

층이 입력층과 출력층으로 끝나는 단층 퍼셉트론은 직선으로 나뉘는 두 영역을 만듭니다. 그래서 두 개가 다를 때만 1이고 같으면 0을 출력하는 XOR 진리표는 표현할 수 없습니다. == 선형 분리만 가능하다. (겨울이 찾아옴)

이를 극복하기 위해 MLP가 등장했습니다.

Untitled

MLP의 구조