Semantic Concept Classification by Joint Semi-supervised Learning of Feature Subspaces and Support Vector Machines

Abstract

Abstract. The scarcity of labeled training data relative to the highdimensionality multi-modal features is one of the major obstacles for semantic concept classification of images and videos. Semi-supervised learning leverages the large amount of unlabeled data in developing effective classifiers. Feature subspace learning finds optimal feature subspaces for representing data and helping classification. In this paper, we present a novel algorithm, Locality Preserving Semi-supervised Support Vector Machines (LPSSVM), to jointly learn an optimal feature subspace as well as a large margin SVM classifier. Over both labeled and unlabeled data, an optimal feature subspace is learned that can maintain the smoothness of local neighborhoods as well as being discriminative for classification. Simultaneously, an SVM classifier is optimized in the learned feature subspace to have large margin. The resulting classifier can be readily used to handle unseen test data. Additionally, we show that the LPSSVM algorithm can be used in a Reproducing Kernel Hilbert Space for nonlinear classification. We extensively evaluate the proposed algorithm over four types of data sets: a toy problem, two UCI data sets, the Caltech 101 data set for image classification, and the challenging Kodak's consumer video data set for semantic concept detection. Promising results are obtained which clearly confirm the effectiveness of the proposed method.

Σημασιολογική Ανάλυση Σε Πολυμεσικά Δεδομένα Με Μηχανική Μάθηση

“…Έτσι, δημιουργούνται πολλαπλά μοντέλα SVM, για διαφορετικές περιοχές του χώρου των χαρακτηριστικών, οι οποίοι συνδυάζονται γραμμικά ώστε να παραχθεί η τελική έξοδος του ταξινομητή. Στο [94] χρησιμοποιείται μία τεχνική "Τοπικού SVM" η οποία ταξινομεί τα άγνωστα δείγματα εξετάζοντας μόνο τα διανύσματα υποστήριξης στην περιοχή τους, ενώ στο [108] παρουσιάζεται μία ημι-εποπτευόμενη τεχνική εύρεσης υποχώρων του αρχικού χώρου χαρακτηριστικών όπου βελτιώνεται η επίδοση του ταξινομητή. Στα [109,110] χρησιμοποιείται μία τεχνική "Εκμάθησης Πολλαπλών Εμφανίσεων" (Multiple Instance Learning, [111,112]) που οδηγεί σε έναν νέο πυρήνα SVM.…”