반응형
목차
SVM(Support Vector Machines)이란?
SVM이란 간단하게 Dicision Boundary를 만들어주는 것을 의미 합니다.
- Margin
- Maximal Margin Classifier
Training Data와 Boundary 사이 가장 짧은 거리를 Margin이라고 합니다. 위 그림에서 파란색 화살표를 의미 합니다. 양쪽의 파란색 화살표의 길이가 동일할 때 마진(Margin)의 크기가 가장 큽니다. 이를 Maximal Margin Classifier라고 합니다.
녹색선은 아래와 같이 수식으로 표현될 수 있습니다.
결국 두 벡터의 내적(Dot Product)식이 됩니다.
W벡터에 정사영되는 크기가 C로 일정한 x 벡터는 녹색 점선을 가리키는 벡터가 됩니다.
최종적으로 그림3의 노란색 점선은 아래의 수식으로 표현이 가능 합니다.
두 노란색 점선의 폭은 아래와 같이 정리됩니다.
Maximal Margin Classifier를 찾기 위해서는 w벡터의 크기가 가장 작은 값을 찾으면 됩니다.
다음 포스트에서는 SVM kernel에 대해 알아보겠습니ㅏㄷ.
반응형
'여러가지공부 > 머신러닝(Machine Learning)' 카테고리의 다른 글
| 공분산 행렬이란? 예제로 값 구해보기(Covariance Matrix), 파이썬 코드 (0) | 2023.05.19 |
|---|---|
| [머신러닝] K mean clustering이란? 예제로 이해하기(클러스터링) (0) | 2023.05.18 |
| [머신러닝]Correlation이란? Covariance 차이, 수식, 사용 목적(피어슨 상관관계) (0) | 2023.05.16 |
| [머신러닝] 공분산(Covariance)란? 특징 및 사용 목적 (0) | 2023.05.13 |
| [머신러닝] 랜덤포레스트란? 쉬운예제로 이해하기(Random Forest, Bagging, Bootstrap) (0) | 2023.05.08 |