Interaktiv: Support Vector Machines

Support Vector Machines sind leistungsfähige, überwachte („supervised“) maschinelle Lernverfahren, die in den neunziger Jahren den künstlichen neuronalen Netzwerken große Konkurrenz machten (z. B. bei der Erkennung handgeschriebener Ziffern). Sie helfen dabei, auf Basis von vorhandenen Trainingsdaten (hier: blaue und orangefarbene Punkte) neue Datenpunkte auf Basis ihrer Merkmalsausprägungen (hier: x- und y-Position) einer Kategorie (hier: blau oder orange) zuzuordnen. Dies tun sie besonders effektiv, indem sie bei der Entscheidung nur diejenigen Trainingsdatenpunkte berücksichtigen, die in der Nähe der Entscheidungsgrenze (decision boundary) liegen. Diese Punkte werden Stützvektoren (support vectors) genannt.

Support Vector Machines gibt es in der klassischen linearen Form (geradlinige Entscheidungsgrenze) oder in Verbindung mit so genannten Kernel-Funktionen, die auch kurvenförmige Entscheidungsgrenzen erlauben (hier: RBF Kernel, kurz für Radial Basis Function Kernel).

in Erstellung

Du kannst Datenpunkte mit der Maus verschieben, löschen (nach unten links aus dem Bild ziehen) oder neu hinzufügen (Buttons oben rechts). Beobachte dabei, wie sich die Einfärbung der Fläche ändert: Punkten in blauen Bereichen weist die Support Vector Machine (SVM) die Kategorie „blau“, Punkten in orangefarbenen Gebieten die Kategorie „orange“ zu. Mit dem Schieberegler kannst du zwischen einer linearen SVM („Linear Kernel“) und einer SVM mit einem RBF (Radial Basis Function) Kernel wählen. Im ersten Fall versucht die SVM, eine geradlinige Trennung vorzunehmen (klappt nicht immer), im zweiten Fall ist sie deutlich flexibler und packt Punkte gleicher Farbe zu Gruppen zusammen.