여러가지공부/머신러닝(Machine Learning)

[머신러닝]SVM(Support Vector Machines)이란? 예제와 수식풀이

끄적끄적아무거나 2023. 5. 17. 08:11
반응형

 

 

 

 

 

SVM(Support Vector Machines)이란?

 

그림1

 

SVM이란 간단하게 Dicision Boundary를 만들어주는 것을 의미 합니다. 

 

 

 

 

 

그림2

 

  • Margin
  • Maximal Margin Classifier

 

 

Training Data와 Boundary 사이 가장 짧은 거리를 Margin이라고 합니다. 위 그림에서 파란색 화살표를 의미 합니다. 양쪽의 파란색 화살표의 길이가 동일할 때 마진(Margin)의 크기가 가장 큽니다. 이를 Maximal Margin Classifier라고 합니다.

 

 

 

그림3

 

녹색선은 아래와 같이 수식으로 표현될 수 있습니다. 

 

 

결국 두 벡터의 내적(Dot Product)식이 됩니다. 

 

 

 

W벡터에 정사영되는 크기가 C로 일정한 x 벡터는 녹색 점선을 가리키는 벡터가 됩니다. 

 

 

 

 

 

최종적으로 그림3의 노란색 점선은 아래의 수식으로 표현이 가능 합니다.

 

 

 

두 노란색 점선의 폭은 아래와 같이 정리됩니다. 

 

 

 

Maximal Margin Classifier를 찾기 위해서는 w벡터의 크기가 가장 작은 값을 찾으면 됩니다.

 

 

 

다음 포스트에서는 SVM kernel에 대해 알아보겠습니ㅏㄷ.

반응형