k-nächste-Nachbarn-Verfahren
Definition
Das k-nächste-Nachbarn-Verfahren klassifiziert oder prognostiziert anhand der k ähnlichsten Trainingsbeispiele.
Für eine neue Eingabe werden die nächsten Datenpunkte nach einer Distanzmetrik gesucht; deren Klassen oder Werte bestimmen die Ausgabe. Das Verfahren speichert im Kern die Trainingsdaten statt ein parametrisches Modell zu lernen.
Einfach erklärt
Wie die k ähnlichsten bekannten Fälle zu fragen, was bei ihnen passiert ist.
Warum das im Alltag wichtig ist
Relevant als einfache Baseline und für kleine bis mittlere strukturierte Datensätze.
Beispiel aus dem Mittelstand
Ein Qualitätsfall wird anhand ähnlicher historischer Messprofile einer Fehlerklasse zugeordnet.
Grenzen und Fallstricke
- Features nicht skalieren; k willkürlich wählen; hohe Dimensionen ignorieren; Distanzmetrik ungeprüft übernehmen.
Entstehung & Geschichte
Cover und Hart analysierten 1967 die statistischen Eigenschaften von Nearest-Neighbor-Klassifikation.
Anwendung im Mittelstand
- Mögliche Anwendung im Mittelstand: Als verständliche Baseline für Klassifikation oder Regression einsetzen und gegen komplexere Modelle vergleichen.
Häufige Fragen
Was bedeutet k?
Anzahl der Nachbarn. Lernt das gewöhnliche kNN parametrische Modellgewichte? Nein, es nutzt gespeicherte Trainingsbeispiele. Erweiterungen mit einem gelernten Distanzmaß müssen davon unterschieden werden.
Quellen
- Nearest Neighbor Pattern Classification · Cover & Hart (1967), Nearest Neighbor Pattern Classification
- Nearest Neighbors, Abschnitte 1.6.2–1.6.3 · scikit-learn, Nearest Neighbors, Abschnitte 1.6.2–1.6.3
Quellenprüfung: 10./11.10.2026.
Redaktionell geprüft am: