A Learning Classifier System Approach to Clustering

A brief history of learning classifier systems: from CS-1 to XCS and its variants

“…Hence the set pressure encourages the evolution of rules which cover many data points and the fitness pressure acts as a limit upon the separation of such data points, i.e., the error. Tammee et al [2006] began by using a slightly simplified version of XCS as the underlying LCS (YCS) [Bull, 2005], but found that XCS's relative accuracy fitness function was more effective than a function directly inversely proportional to error [Tammee et al, 2007]  is set high, e.g., 0.1, in less-separated data the contiguous clusters are covered by the same rules. They therefore developed an adaptive threshold parameter scheme which uses the average error of the current [M]:…”

“…Unsupervised learning describes those tasks under which structure is sought in unlabelled data without further external input. Perhaps somewhat surprisingly, no previous suggestion of the use of LCS for such learning is known in the literature until the work of Tammee et al [2006;2007] on clustering (see Figure 7). Clustering is an important unsupervised learning technique where a set of data are grouped into clusters in such a way that data in the same cluster are similar in some sense and data in different clusters are dissimilar in the same sense (see [Xu & Wunsch, 2009] for an overview).…”

Μανθάνοντα Συστήματα Ταξινομητών Για Εποπτευόμενα Προβλήματα Κατηγοριοποίησης

“…Αξιόλογες είναι και οι θεωρητικές αναλύσεις [BP01, BKLW04, BGL05, BGLS07, DB08, Dru08] που οδήγησαν στην καλύτερη κατανόηση του συστήματος. Τέλος, ο XCS και παρόμοια συστήματα έχουν εφαρμοστεί σε σημαντικές εφαρμογές όπως η εξόρυξη γνώσης [Bul04,BBMH08], η προσέγγιση συναρτήσεων [Wil02a,BLW08], η ενισχυτική μάθηση [Lan99b, Lan02, LLWG05, BGL05], και η ομαδοποίηση [TBP06,TBP07], αναδεικνύοντας την ανταγωνιστικότητα των ΜαΣΤ, και ειδικότερα του XCS, σε σχέση με άλλες τεχνικές μηχανικής μάθησης που βασίζονται σε διαφορετικές προσεγγίσεις, όπως τα δέντρα απόφασης [Qui93] ή τα νευ-ΚΕΦΑΛΑΙΟ 1. ΕΙΣΑΓΩΓΗ ρωνικά δίκτυα [WL90].…”

“…Παράλληλα με τις προαναφερθείσες εφαρμογές του XCS σε διάφορα πεδία, υπήρξαν και προσεγγίσεις στις οποίες η αρχιτεκτονική μάθησης του XCS τροποποιήθηκε για συγκεκριμένους τύπους προβλημάτων [Wil02a,BMGG03,Bul05,TBP06]. Συγκεκριμένα στην περίπτωση της κατηγοριοποίησης δεδομένων, οι Butz et al [BGT03] εντόπισαν ότι ο XCS παρήγαγε μία παραπλανητική πίεση προς τη βέλτιστη λύση σε συγκεκριμένα προβλήματα.…”

“…Μια από τις πιο πολλά υποσχόμενες προσεγγίσεις, η οποία άπτεται και των τριών προαναφερθέντων τύπων προβλημάτων, είναι τα Μανθάνοντα Συστήματα Ταξινομητών [Hol71,Hol76,HR78]. Έχοντας εισαχθεί με στόχο την προσομοίωση της συμπεριφορά των ζώων [HR78], και επομένως εμπίπτοντας αρχικά στην κατηγορία της ενισχυτικής μάθησης, τα ΜαΣΤ σήμερα έχουν επεκταθεί για την αντιμετώπιση και των άλλων τύπων μάθησης, δηλαδή της εποπτευόμενης [BB07, BMGG03, Wil00] και της μη εποπτευόμενης μάθησης [TBP06,TBP07]. Επομένως, τα ΜαΣΤ αντιπροσωπεύουν μία γενική αρχιτεκτονική μάθησης που μπορεί να χρησιμοποιηθεί για διαφορετικά προβλήματα, από την εξαγωγή μοντέλων κατηγοριοποίησης από ροές επισημασμένων δειγμάτων, μέχρι την online ομαδοποίηση, συμπεριλαμβανομένων και των προβλημάτων ενισχυτικής μάθησης.…”