지도학습 모델 - 커널 서포트 벡터 머신

커널 서포트 벡터 머신(Kernel SVM)

선형적으로 구분되지 않는 데이터셋에 적용하기 위한 모델입니다. 고차원 공간으로 mapping하여 분리 가능한 초평면을 결정합니다. 원본 특징 공간에서 나타낼 경우 비선형 결정 경계(nonlinear decision boundary)가 됩니다.

 

학습 데이터가 선형적으로 분리가 되지 않는 경우, 일반적인 SVM으로는 정상적인 학습이 되지 않습니다. 커널 SVM을 이용할 경우, 비선형 결정 경계를 사용할 수 있어, 다양한 형태의 데이터셋에 적용이 가능합니다.

 

커널 트릭(Kernel Trick)

고차원 공간으로의 매핑을 수학적으로 유리하게 풀어내는 방법입니다. 고차원 공간 매핑을 명시적으로 할 경우, 연산량이 매우 증가하게 됩니다. SVM의 쌍대 형식(dual form)을 이용해 고차원 매핑된 특징간의 내적을 한번에 정의할 수 있습니다.