Komparasi Ekstraksi Fitur dalam Klasifikasi Teks Multilabel Menggunakan Algoritma Machine Learning

Abstract

Ektraksi fitur dan algoritma klasifikasi teks merupakan bagian penting dari pekerjaan klasifikasi teks, yang memiliki dampak langsung pada efek klasifikasi teks. Algoritma machine learning tradisional seperti Na¨ıve Bayes, Support Vector Machines, Decision Tree, K-Nearest Neighbors, Random Forest, Logistic Regression telah berhasil dalam melakukan klasifikasi teks dengan ektraksi fitur i.e. Bag ofWord (BoW), Term Frequency-Inverse Document Frequency (TF-IDF), Documents to Vector (Doc2Vec), Word to Vector (word2Vec). Namun, bagaimana menggunakan vektor kata untuk merepresentasikan teks pada klasifikasi teks menggunakan algoritma machine learning dengan lebih baik selalumenjadi poin yang sulit dalam pekerjaan Natural Language Processing saat ini. Makalah ini bertujuan untuk membandingkan kinerja dari ekstraksi fitur seperti BoW, TF-IDF, Doc2Vec dan Word2Vec dalam melakukan klasifikasi teks dengan menggunakan algoritma machine learning. Dataset yang digunakan sebanyak 1000 sample yang berasal dari tribunnews.com dengan split data 50:50, 70:30, 80:20 dan 90:10. Hasil dari percobaan menunjukkan bahwa algoritma Na¨ıve Bayes memiliki akurasi tertinggi dengan menggunakan ekstraksi fitur TF-IDF sebesar 87% dan BoW sebesar 83%. Untuk ekstraksi fitur Doc2Vec, akurasi tertinggi pada algoritma SVM sebesar 81%. Sedangkan ekstraksi fitur Word2Vec dengan algoritma machine learning (i.e. i.e. Na¨ıve Bayes, Support Vector Machines, Decision Tree, K-Nearest Neighbors, Random Forest, Logistic Regression) memiliki akurasi model dibawah 50%. Hal ini menyatakan, bahwa Word2Vec kurang optimal digunakan bersama algoritma machine learning, khususnya pada dataset tribunnews.com.

Analisis Sentimen Terhadap Pangan Nasional Pada Media Sosial Twitter Menggunakan Algoritma Naïve Bayes

“…Penelitian ini menggunakan model ekstraksi fitur TF-IDF dan TF-RF, yang dapat memberikan nilai atau bobot pada term di dokumen algoritma pengajaran mesin untuk klasifikasi teks multilabel, yaitu naive bayes. Tujuan dari penelitian ini adalah untuk membandingkan kedua metode pembobotan yang akan dihitung secara terpisah untuk menentukan kombinasi pembobotan kata yang paling akurat.. [4] Banyak platform media sosial saat ini memungkinkan orang untuk mengekspresikan pendapat, pendapat, dan kritik. Setiap hari, banyak orang memposting di media sosial, salah satunya Twitter.…”

Komparasi Algoritma K-Nearest Neighbors dan Naïve Bayes dalam Klasifikasi Penyakit Diabetes Gestasional

“…Preprocessing adalah tahap untuk mengolah data teks mentah menjadi data teks yang siap untuk diolah sehingga dapat masuk ketahap selanjutnya [11]. Tahap ini dapat membantu meningkatkan kualitas data yang digunakan dalam analisis dan memastikan hasil analisis yang lebih akurat [12]. Meskipun data pada penelitian ini bersifat numerik, namun untuk memastikan bahwa seluruh data telah berbentuk numerik, bersih dari noise, bebas dari outliers, dan telah distandarisasi, tahap preprocessing menjadi suatu langkah penting yang dilakukan.…”

Prediksi Keberhasilan Penanganan Stunting Menggunakan Seleksi Fitur PSO Dengan SaaS Cloud Computing

“…Tahap preprosesing diterapkan untuk menghapus noise, missing value, kesalahan, dari jenis data yang tidak dibutuhkan dari data belum terkumpul bertujuan mengganti data mentah agar dapat dianalisis agar dapat menghasilkan pengelompokan data yang dibagi menjadi dua bagian selanjutnya dapat menghasilkan keakuratan prediksi [14]. Data preprocessing merupakan cara preliminary dalam tahapan pemrosesan data Machine Learning.…”