Klassifikationsverfahren

Klassifikationsverfahren sind Methoden und Kriterien zur Einteilung von Objekten oder Situationen in Klassen, das heißt zur Klassifizierung. Ein solches Verfahren wird auch als Klassifikator bezeichnet. Viele Verfahren lassen sich als Algorithmus implementieren; man spricht dabei auch von Maschineller oder automatischer Klassifikation. Klassifikationsverfahren sind immer anwendungsbezogen, so dass viele verschiedene Methoden existieren.

Klassifikationsverfahren spielen unter anderem bei der Mustererkennung, in der Künstlichen Intelligenz und der Dokumentationswissenschaft beziehungsweise dem Information Retrieval eine Rolle. Zur Beurteilung eines Klassifikators können verschiedene Kenngrößen ermittelt werden.

Arten von Klassifikationsverfahren

Da eine streng hierarchisches Einteilung von Klassifikationsverfahren kaum möglich ist, lassen sie sich am Besten anhand verschiedener Eigenschaften einteilen:

• Manuelle und Automatische Verfahren
• Numerische und nicht-numerische Verfahren
• Statistische und Verteilungsfreie Verfahren
• Überwachte und Nicht-Überwachte Verfahren
• Fest dimensionierte und lernende Verfahren
• Parametrische und nicht-parametrische Verfahren

Manuelle und automatische Verfahren

Siehe zum Beispiel manuelle Indexierung und automatische Indexierung

Bei automatischen Verfahren findet die Klassizifierung mittels eines automatischen Prozesses durch Software statt. Der Prozess der maschinellen Klassifikation kann als formale Methode des Entscheidens in neuen Situationen aufgrund erlernter Strukturen bezeichnet werden. Die maschinelle Klassifikation ist eine Teilgebiet des Maschinellen Lernens.

Genauer ist dies die Erzeugung eines Algorithmus (der lernende Algorithmus), der, angewandt auf bekannte und schon klassifizierte Fälle (die Datenbasis), Strukturen berechnet. Diese neu erlernten Strukturen ermöglichen es einem weiteren Algorithmus (der auswertende Algorithmus), einen neuen und bisher unbekannten Fall aufgrund der beobachteten Attribute und deren Ausprägungen einer der bekannten Ziel-Klassen zuzuordnen.

Statistische und Verteilungsfreie Verfahren

Statistische Verfahren basieren auf Dichteberechnungen und Wahrscheinlichkeiten, während sich bei verteilungsfreien Verfahren klare Trennflächen angeben lassen.

Überwachte und nicht überwachte Verfahren

Das Erzeugen von Strukturen aus vorhandenen Daten wird auch als Mustererkennung, Diskriminierung oder überwachtes Lernen bezeichnet. Dabei werden Klasseneinteilungen vorgegeben (dies kann auch durch Stichproben geschehen). Im Gegensatz dazu existiert nichtüberwachtes Lernen, bei dem die Klassen der Daten nicht vorgegeben sind, sondern auch diese erlernt werden müssen. Dabei können allerdings beim reinforcement learning Informationen hinzukommen, ob eine Klasseneinteilung richtig oder falsch war. Ein Beispiel für unüberwachte Verfahren ist die Clusteranalyse.

Parametrische und nicht-parametrische Verfahren

Parametrische Verfahren beruhen auf parametrischen Wahrscheinlichkeitsdichten, während bei nicht-parametrischen Verfahren (bspw. Nächster Nachbar Klassifikator) die Dichten meist aus einer Stichprobe geschätzt werden.

Beispiele

• Quader-Klassifikator
• Abstandsklassifikator
• Bayes-Klassifikator
• Nächster Nachbar Klassifikator
• Fuzzy-Klassifikator
• Clusterverfahren
• Künstliche Neuronale Netze
• Support-Vector-Maschinen (?)

Falls die Grenzen zwischen den einzelnen Klassen im Merkmalsraum bekannt sind, lassen sie sich durch eine Diskriminanzfunktion angeben.

Siehe auch: Kostenmatrix, Karhunen-Loéve-Transformation, Mahalanobis-Abstand, Sacherschließung

Linguistik

Klassifikatoren gibt es auch in einigen Sprachen wie Thai oder Japanisch. Dort müssen sie gemeinsam mit Zahlen auftauchen, um ein Zahlwort zu bilden und Mengen anzugeben. Genaueres siehe Zähleinheitspartikel.

Literatur

• D. Michie, D.J. Spiegelhalter, C.C. Taylor (ed.): Machine Learning, neural and statistical Classification. Elis Horwood 1994