Penerapan Convolutional Long Short-Term Memory untuk Klasifikasi Teks Berita Bahasa Indonesia

Abstract

Klasifikasi teks saat ini telah menjadi sebuah bidang yang banyak diteliti, khususnya terkait Natural Language Processing (NLP). Terdapat banyak metode yang dapat dimanfaatkan untuk melakukan klasifikasi teks, salah satunya adalah metode deep learning. RNN, CNN, dan LSTM merupakan beberapa metode deep learning yang umum digunakan untuk mengklasifikasikan teks. Makalah ini bertujuan menganalisis penerapan kombinasi dua buah metode deep learning, yaitu CNN dan LSTM (C-LSTM). Kombinasi kedua metode tersebut dimanfaatkan untuk melakukan klasifikasi teks berita bahasa Indonesia. Data yang digunakan adalah teks berita bahasa Indonesia yang dikumpulkan dari portal-portal berita berbahasa Indonesia. Data yang dikumpulkan dikelompokkan menjadi tiga kategori berita berdasarkan lingkupnya, yaitu “Nasional”, “Internasional”, dan “Regional”. Dalam makalah ini dilakukan eksperimen pada tiga buah variabel penelitian, yaitu jumlah dokumen, ukuran batch, dan nilai learning rate dari C-LSTM yang dibangun. Hasil eksperimen menunjukkan bahwa nilai F1-score yang diperoleh dari hasil klasifikasi menggunakan metode C-LSTM adalah sebesar 93,27%. Nilai F1-score yang dihasilkan oleh metode C-LSTM lebih besar dibandingkan dengan CNN, dengan nilai 89,85%, dan LSTM, dengan nilai 90,87%. Dengan demikian, dapat disimpulkan bahwa kombinasi dua metode deep learning, yaitu CNN dan LSTM (C-LSTM),memiliki kinerja yang lebih baik dibandingkan dengan CNN dan LSTM.

Automatic Leukocytes Classification using Deep Convolutional Neural Network

“…The model in this study was simulated in Google Colaboratory with Python, as seen in Figure 2. The convolutional layer extracts features, while the pooling layer builds new filters using rules (Widhiyasana et al, 2021). In the meantime, a fully linked layer at the output stage contains many neurons that act as decision-makers.…”

Klasifikasi Teks Berita Berbahasa Indonesia Menggunakan Machine Learning Dan Deep Learning: Studi Literatur

“…Dalam dataset berita yang diuji, C-LSTM mampu mencapai nilai F1-score sebesar 0,9327 atau 93,27%, yang lebih baik 2,4% dibandingkan dengan model LSTM dan 3,42% dibandingkan dengan model CNN yang telah diuji sebelumnya. [7] Nilai F1-score dari pengklasifikasian berita dipengaruhi oleh ukuran batch dan learning rate. Hasilnya menunjukkan bahwa ukuran batch yang lebih kecil menghasilkan nilai F1-score yang lebih tinggi daripada ukuran batch yang besar.…”

Implementasi Jaringan Hierarki Attention Untuk Klasifikasi Basis Data Multimodal Biometrik

“…Telah dinyatakan bahwa convolutional layer pada CNN dapat mengurangi beban komputasi dari neural network. Hal ini terjadi karena convolutional layer pada dasarnya adalahsebuah sparse matrix yang dimensinya lebih kecil dari dimensidata yang diolah [13].…”

“…LSTM memungkinkanarsitektur machine learning menyimpan bobot (weight) darisuatu perhitungan lebih lama dari RNN. Hal ini disebabkanLSTM memiliki sel-sel LSTM, yaitu sebuah node yangmemiliki self-recurrent [13]. Hal ini menyebabkan LSTM dapatbekerja lebih baik daripada RNN pada data dengan sekuens yang lebih panjang.…”