[머신러닝]퍼셉트론(Perceptron)이란? (MLP(Multi Layer), 활성화 함수, 사용목적, 풀이)

 

목차

 

 

해당 포스트(Machine Learning)는 유투브 혁펜하임의 강의 내용을 듣고 제 생각대로 정리한 내용이라 틀린 내용이 있을 수 도 있습니다.

 

 

 

 

 

 

Deep Learning 퍼셉트론(Perceptron)이란?

 

앞서 포스트에서 신경망(NN, Neural Network)에 대해 알아보았습니다(https://scribblinganything.tistory.com/672). 해당 도식은 단순히 입력의 합을 출력으로 보내주었습니다. 퍼셉트론(Perceptron)은 기존의 입력이 출력으로 가는 활성화 함수(Acitivation Function)에 Step 함수와 같은 값을 넣어서 입력이 음수이면 -1을 양수이면 +1을 출력 해줍니다.

 

퍼셉트론(Perceptron)을 사용하는 이유(목적)은 0, 1과 같이 Discrete하게 분류해서 판단할때 유용하게 사용합니다.

 

실제 아래 예제 들을 통해 쉽게 이해해 보겠습니다.

 

 

예제를 들어가기 위해 입력 벡터 값에 대한 조건이 있습니다.

벡터의 원소 x1, x2는 1이나 -1만을 가집니다. 

 

 

 

AND 퍼셉트론

 

그림1

 

AND는 그림1과 같이 구성됩니다. x0과 w0은 1, -1.5로 고정 됩니다.

 

입력 값 x1, x2가 둘다 1일 경우에만 출력이 1로 나오고 나머지는 -1로 나옵니다. 

 

 

 

 

 

 

OR 퍼셉트론

 

그림2

 

OR는 그림2과 같이 구성됩니다. x0과 w0은 1, 1.5로 고정 됩니다.

 

입력 값 x1, x2가 둘다 -1일 경우에만 출력이 -1로 나오고 나머지는 1로 나옵니다. 

 

 

 

 

 

 

 

멀티 레이어 퍼셉트론(MLP, Multi Layer Perceptron)

 

앞서는 입력값을 -1과 1로 받아서 AND와 OR를 NN(Neural Network)로 만들었습니다.

 

 

그림3

 

이번에는 그림3과 같이 l1, l2 두개의 직선을 기준으로 두 직선보다 크거나 작을 경우 -1로 그 외의 경우는 1로 출력되는 퍼셉트론을 Multi Layer로 구성해보겠습니다. 참고로 위 그림은 2차원 평명으로 x1과 x2에 대한 2차원 면입니다. 

 

 

 

그림4

 

우선 빨간선과 녹색선의 과정을 통해 l1과 l2 라인을 만들어 낼 수 있습니다. 녹색 라인으로 l1 라인을 만들었는데 수식으로 전개하면 아래와 같습니다. 

 

수식1

 

w1은 녹색 라인의 각 각에 걸리는 weight 수를 벡터로 표현한것입니다. 이를 x1, x2에서의 값 x벡터로 곱하면 x1, x2에 대한 직선의 방정식이 만들어 집니다.

 

 

수식2

 

다음 AND 로직에서 위와 같이 2개의 조건을 만들고 최종적으로 OR로 아래와 같이 연결 해줍니다. 

 

 

수식3

 

수식3이 양수이면 +1 음수이면 -1이 나가게 됩니다. 

 

 

 

 

 

멀티 레이어 퍼셉트론(MLP, Multi Layer Perceptron)과 비선형 모델

 

그림5

 

앞서 그림3과 같이 2개의 선을 경계로 -1과 1의 값을 출력 했는데 만일 선의 수를 위와 같이 계속 증가시킨다면 그림5와 같이 원과 같은 형태의 비선형(Non Linear)도 표현이 가능하게 됩니다.