Experiments on Fine Tuning Deep Learning Models With News Data For Tweet Classification

Hallac, Ibrahim Riza; Ay, Betül; Aydın, Galip

doi:10.1109/idap.2018.8620869

Cited by 5 publications

(3 citation statements)

References 5 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…Her kategoriden 100.000 adet olmak üzere Ekonomi, Spor, Siyaset ve Kültür haberlerinden oluşan toplam 400.000 doküman bulunmaktadır. Bu veri seti Bigailab-5news-500K'nın bir alt kümesidir [12].…”

Section: Veri Seti Yöntem Ve Hesaplama Ortamıunclassified

Türkçe Metinlerde Otomatik Konu Tespiti

Aydın

Hallac

2021

Fırat Üniversitesi Mühendislik Bilimleri Dergisi

Self Cite

View full text Add to dashboard Cite

Bu çalışmada çevrimiçi kullanılabilecek bir konu tespit sistemi önerilmiştir. Gizli Dirichlet Ayırımı ile 4 farklı kategoriye ait toplam 400.000 haber dokümandan oluşan bir Türkçe derlem eğitilmiştir. Model, eğitim verisinde yer almayan, yeni gelen dokümanların konu tespitini yüksek başarı ile gerçekleştirebilmektedir. Konu modellerinin başarı değerlendirmesinde tutarlılık (coherence) değerine ek olarak sınıflandırma yöntemleri için geçerli olan kesinlik (precision), hassasiyet (recall), F-ölçümü gibi skorların elde edilmesine yönelik 2 farklı yaklaşım geliştirilmiştir. Bu yaklaşımlarda, konular ile dokümanların ait olduğu sınıfların eşleştirilmesinden yararlanılmıştır. İlk yaklaşımda, dokümanın ait olduğu sınıfa karşılık gelen konunun mevcut olup olmadığı üzerinden genel bir başarı ölçütü sunulmuştur. İkinci yaklaşımda ise modelin yüksek güven (confidence) ile gerçekleştirmediği tahminleri eleyen, "dokümanın en belirgin konusu, ait olduğu sınıftır" kabulüne göre bir eşik (threshold) değeri üzerinden değerlendirme yapılan bir ölçüt sunulmuştur. Önerilen başarı değerlendirme yöntemlerine göre sırasıyla %94.2 ve %90.9 doğrulukta konu tespiti başarısı elde edilmiştir.

show abstract

Section: Veri Seti Yöntem Ve Hesaplama Ortamıunclassified

Türkçe Metinlerde Otomatik Konu Tespiti

Aydın

Hallac

2021

Fırat Üniversitesi Mühendislik Bilimleri Dergisi

Self Cite

View full text Add to dashboard Cite

show abstract

“…While there is no rule that defines which model is the right one for a specific task, the task objective and the input characteristics play an important role in narrowing the set of models candidates. For example, the RNN has two limitations which are exploding gradient and vanishing gradient [24]. The vanishing gradient could accrue with a long sequence input, which is the case in document classification.…”

Section: The Deep Learning Approachmentioning

confidence: 99%

“…Our model, shown in Figure 4, consists of four layers: an embedding layer, a 1D CNN layer, an LSTM layer, and a softmax layer. The model starts with feeding the document as raw input features into the embedding layer, which passes its embeddings to the CNN layer; the CNN layer derives important features and passes them to the LSTM layer [24]. Finally, the output of the LSTM layer is fed to the softmax layer that determines the class of the input document.…”

Section: The Deep Learning Approachmentioning

confidence: 99%

A Study into Math Document Classification using Deep Learning

Alshamari¹,

Youssef²

2020

Computer Science &Amp; Information Technology (CS &Amp; IT)

View full text Add to dashboard Cite

Document classification is a fundamental task for many applications, including document annotation, document understanding, and knowledge discovery. This is especially true in STEM fields where the growth rate of scientific publications is exponential, and where the need for document processing and understanding is essential to technological advancement. Classifying a new publication into a specific domain based on the content of the document is an expensive process in terms of cost and time. Therefore, there is a high demand for a reliable document classification system. In this paper, we focus on classification of mathematics documents, which consist of English text and mathematics formulas and symbols. The paper addresses two key questions. The first question is whether math-document classification performance is impacted by math expressions and symbols, either alone or in conjunction with the text contents of documents. Our investigations show that Text-Only embedding produces better classification results. The second question we address is the optimization of a deep learning (DL) model, the LSTM combined with one dimension CNN, for math document classification. We examine the model with several input representations, key design parameters and decision choices, and choices of the best input representation for math documents classification.

show abstract