Support Vector Machine (SVM)의 개념

SVM(지지 벡터 머신) 의 개념

 

- 서포트 벡터 머신(Support Vector machines, 이하 SVM) 모형은 고차원 또는 무한 차원의 공간에서 초평면을 찾아 이를 이용해 분류화 회귀를 수행한다.

- SVM은 지도학습 기법으로 비-중첨(non-overlapping) 분할을 제공하며 모든 속성(attributes)을 활용하는 전역적(global) 분류 모형이다.

- SVM은 최대마진을 가지는 선형판별에 기초하며, 속성들간의 의존성은 고려하지 않는다.

- 직관적으로 자료를 군집별로 가장 잘 분리하는 초평면은 가장 가까운 훈련용 자료까지의 거리(=마진, margin)가 가장 큰 경우이며, 마진이 가장 큰 초평면을 분류기로 사용할 때, 새로운 자료에 대한 오분류가 가장 낮아진다.

- 서포트벡터머신 모형은 선형분류 뿐 아니라, 커널 트릭(kernel trick)이라 불리는 다차원 공간상으로의 맵핑(mapping) 기법을 사용하여 비선형 분류도 효율적으로 수행한다.

위와 같이 차원을 확장시켜서 비선형 분류도 효과적으로 수행할 수 있게 한다.