Un-Bta Departamento de ingenieria de Sistemas

SUPPORT VECTOR MACHINES (SVM)

Contenido

  1. Resumen
  2. Vínculos de interés
  3. Bibliografía
  4. Integrantes

1. Resumen

La máquina de vectores de soporte es un clasificador lineal que emplea la siguiente metodología:
  • Mapear los puntos de entrenamiento a un espacio vectorial mayor.
  • Construir un hiperplano que separe los puntos en sus clases respectivas.
  • Clasificar un punto nuevo de acuerdo a su ubicación con respecto al hiperplano de separación.
De esta manera se construye un hiplano de separación:

Hiperplano de separacion
Dado que varios vectores w pueden generar el mismo hiperplano de separación, entonces, por cuestiones de estandarización, dicho vector debe escalarse de manera que la distancia entre el hiperplano y el patrón má cercano a este sea 1. Esto es lo que ilustra en la próxima figura:
Forma canonica del hiperplano
El propósito del entrenamiento es maximizar la distancia entre los patrones y el hiperplano de separación (para obtener un clasificador más confiable). Pero dado que w es inversamente proporcional a dicha distancia, este mismo problema se puede expresar como la minimización de w. Para esta operación se usan los multiplicadores de Lagrange:
Multiplicadores de Lagrange
El método más usado para entrenar SVM solucionando el problema dual es utilizando SMO (Sequential Minimum Optimization).

Volver al inicio

2. Vínculos de interés

Volver al inicio

3. Bibliografía

  • Learning with Kernels: Support Vector Machines, Regularization, Optimization, and Beyond
    Bernhard Schlkopf and Alexander J. Smola
    The MIT Press
    2005
  • Pattern Classification. Second Edition
    Richard Duda, Peter Hart, David Stork
    Wiley Interscience
    2001
Volver al inicio

4. Integrantes

  • Juan Carlos Caicedo
  • Juan Carlos Mendivelso
Volver al inicio