Das Erkennen unserer Umwelt basiert im Wesentlichen auf Beobachtung, Analyse und Einordnung. Die Elemente unserer Umwelt werden in der Tat durch Vergleich mit ihren ähnlichen hierarchischen relationalen Repräsentationen klassifiziert. Dieser Ansatz ist relativ schwierig zu formalisieren, insbesondere wenn er in einen unbeaufsichtigten Kontext gestellt wird. Das heißt, wenn es darum geht, die in einer Stichprobe vorhandenen Klassen anhand der einzigen Informationen zu identifizieren, die aus den zu klassifizierenden Objekten extrahiert werden können. Im Allgemeinen sind Objekte durch Attribute gekennzeichnet, die bequem durch Punkte in einem mehrdimensionalen Raum dargestellt werden können. In diesem Zusammenhang wurden viele Klassifizierungsmethoden entwickelt. Einige von ihnen basieren auf Distanzkonzepten, während sich andere auf statistische Begriffe beziehen, bei denen explizit auf die Wahrscheinlichkeitsdichtefunktion (pdf) Bezug genommen wird, die der Verteilung von Daten bei der Klassifizierung zugrunde liegt.