A Quantum Language-Inspired Tree Structural Text Representation for Semantic Analysis

Abstract

Text representation is an important topic in the field of natural language processing, which can effectively transfer knowledge to downstream tasks. To extract effective semantic information from text with unsupervised methods, this paper proposes a quantum language-inspired tree structural text representation model to study the correlations between words with variable distance for semantic analysis. Combining the different semantic contributions of associated words in different syntax trees, a syntax tree-based attention mechanism is established to highlight the semantic contributions of non-adjacent associated words and weaken the semantic weight of adjacent non-associated words. Moreover, the tree-based attention mechanism includes not only the overall information of entangled words in the dictionary but also the local grammatical structure of word combinations in different sentences. Experimental results on semantic textual similarity tasks show that the proposed method obtains significant performances over the state-of-the-art sentence embeddings.

Метод Комп’ютеризованого Модифікування Англомовного Тексту На Основі Психосемантичних Властивостей

“…Аналіз літератури показав наявність значної кількості методів генерації текстів [3][4][5], однак недостатню кількість методів модифікації вже існуючих текстів [6][7], що зумов-лює потребу в подібних методах. Крім того, базові підходи, застосовані в існуючих методах генерації тексту хоч і можуть бути використані для вирішення окремих завдань модифікації тексту, однак повною мірою не можуть задовольнити усі потреби в методологічному апараті.…”