Sentiment Analysis Algorithm Based on BERT and Convolutional Neural Network

Man, Rui; Lin, Kae‐Long

doi:10.1109/ipec51340.2021.9421110

Cited by 26 publications

(6 citation statements)

References 2 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…Fimoza et al (2021) juga menerapkan BERT untuk menganalisis sentimen dalam bahasa Indonesia terhadap ulasan film, menyoroti keunggulan pendekatan transfer learning [11]. Man dan Lin (2021) mencoba menggabungkan BERT dengan Convolutional Neural Network (CNN) untuk meningkatkan kinerja analisis sentimen pada data set public [12]. Selain itu, penelitian oleh [15].…”

Section: Latar Belakangunclassified

Analisis Sentimen Film Dirty Vote Menggunakan BERT (Bidirectional Encoder Representations from Transformers)

Sjoraida,

Guna,

Yudhakusuma

2024

jtik

View full text Add to dashboard Cite

Penelitian ini bertujuan untuk melakukan analisis sentimen terhadap ulasan film "Dirty Vote" dari berbagai sumber, seperti media sosial, situs web ulasan film, dan forum online, dengan menggunakan model BERT yang telah di-fine-tuning. Pendekatan ini melibatkan pengumpulan data ulasan, pre-processing data, fine-tuning model BERT, dan evaluasi kinerja model. Hasil penelitian menunjukkan bahwa model BERT mencapai tingkat kinerja yang tinggi dengan akurasi, presisi, recall, dan F1-score yang melebihi ambang batas 0.8 pada dataset validasi. Analisis sentimen dari berbagai sumber mengungkapkan variasi dalam opini publik terhadap film "Dirty Vote", dengan perbedaan yang signifikan dalam sentimen yang diekspresikan melalui media sosial seperti Twitter dan Facebook dibandingkan dengan ulasan dari situs web khusus atau forum online. Selain itu, diskusi temuan analisis sentimen mengungkapkan preferensi masyarakat terhadap aspek-aspek tertentu dari film, seperti efek visual dan musik. Temuan analisis sentimen mengungkapkan bahwa efek visual dan musik mendapat penilaian tertinggi dari masyarakat, sementara pemeran dan sutradara mendapat penilaian yang lebih rendah. Informasi ini dapat digunakan oleh para pembuat film untuk memperbaiki aspek-aspek yang kurang memuaskan dalam produksi film selanjutnya.

show abstract

Section: Latar Belakangunclassified

Analisis Sentimen Film Dirty Vote Menggunakan BERT (Bidirectional Encoder Representations from Transformers)

Sjoraida,

Guna,

Yudhakusuma

2024

jtik

View full text Add to dashboard Cite

show abstract

“…Bidirectional Encoder Representation from Transformers (BERT) merupakan bagian encoder-decoder transformer model [24], [25] yang telah dilatih untuk mengerti suatu bahasa dengan kumpulan data teks yang sangat besar atau yang sering disebut korpus [17]. Pre-train BERT menggunakan 2 tasks unsupervised yaitu Masked Language Modeling (MLM) dan Next Sentence Prediction (NSP) [26].…”

Section: Bert Dan Robertaunclassified

Analisis Sentimen Terhadap Kemajuan Kecerdasan Buatan di Indonesia Menggunakan BERT dan RoBERTa

Putri,

Ardiansyah

2023

JSI

View full text Add to dashboard Cite

Kemajuan dalam bidang kecerdasaan buatan (AI) dalam beberapa tahun belakang menjadi sesuatu yang sering dibahas dikalangan masyarakat di Indonesia. Berbagai prespektif muncul hampir disemua platfom sosial media untuk menyampaikan tanggapan terhadap suatu topik. Pada penelitian yang dilakukan memanfaatkan analisis sentimen sehingga dapat mengintepretasi sentimen pada masyarakat dengan manfaatkan komentar masyarakat di kolom komentar YouTube sebagai objek penelitian dikarekan relevansi dengan topik sebesar 60-80%. Selain itu, peneliti menggunakan fine-tuning BERT dan RoBERTa sebagai labeling sentimen negatif, netral ataupun positif pada setiap komentar yang telah dikumpulkan menggunakan Python serta library Beautifulsoup dan selenium. Dataset yang dikumpulkan sebanyak 5796. Namun, setelah dilakukan preprosesing dataset menjadi 5788 yang terbagi menjadi 3028, 1435, 1333 dari sentimen negatif, positif, dan netral untuk labeling menggunakan RoBERTa. Sedangkan, BERT yaitu 3106, 1422, 1268 dari sentimen negatif, positif, dan netral. Pada penelitian ini juga mendapatkan hasil bahwa model indobenchmark/indobert-base-p1 dapat digunakan untuk labeling dataset berbahasa Indonesia. Selain itu, training model dengan skema 1 persebaran dataset 70:30:30 dan skema 2 adalah 80:20:20, menjadi model yang memiliki kinerja sebesar 84% untuk akurasi validation dan 83% akurasi testing pada skema 1. 83% akurasi validasi 84% akurasi tesing pada skema 2. Selanjutnya, peneliti menyarankan untuk adanya keterlibatan stackholder terkait penggunaan AI di Indonesia.

show abstract

“…Further, Barsever [40] proposed a model with the new generative adversarial network to detect lies. In Man's research paper [41], he proposed a sentiment analysis algorithm based on BERT and Convolutional Neural Network with an accuracy rate of 90.5% and 85.2%, respectively.…”

Section: Combine Based / Other Approachesmentioning

confidence: 99%

Universal Spam Detection using Transfer Learning of BERT Model

Tida¹,

Hsu²

2022

Proceedings of the Annual Hawaii International Conference on System Sciences

View full text Add to dashboard Cite

Deep learning transformer models become important by training on text data based on self-attention mechanisms. This manuscript demonstrated a novel universal spam detection model using pre-trained Google's Bidirectional Encoder Representations from Transformers (BERT) base uncased models with four datasets by efficiently classifying ham or spam emails in real-time scenarios. Different methods for Enron, Spamassain, Lingspam, and Spamtext message classification datasets, were used to train models individually in which a single model was obtained with acceptable performance on four datasets. The Universal Spam Detection Model (USDM) was trained with four datasets and leveraged hyperparameters from each model. The combined model was finetuned with the same hyperparameters from these four models separately. When each model using its corresponding dataset, an F1-score is at and above 0.9 in individual models. An overall accuracy reached 97%, with an F1 score of 0.96. Research results and implications were discussed.

show abstract

Sentiment Analysis Algorithm Based on BERT and Convolutional Neural Network

Cited by 26 publications

References 2 publications

Analisis Sentimen Film Dirty Vote Menggunakan BERT (Bidirectional Encoder Representations from Transformers)

Analisis Sentimen Film Dirty Vote Menggunakan BERT (Bidirectional Encoder Representations from Transformers)

Analisis Sentimen Terhadap Kemajuan Kecerdasan Buatan di Indonesia Menggunakan BERT dan RoBERTa

Universal Spam Detection using Transfer Learning of BERT Model

Contact Info

Product

Resources

About