Real-time Detection of Content Polluters in Partially Observable Twitter Networks

Abstract

Content polluters, or bots that hijack a conversation for political or advertising purposes are a known problem for event prediction, election forecasting and when distinguishing real news from fake news in social media data. Identifying this type of bot is particularly challenging, with state-of-the-art methods utilising large volumes of network data as features for machine learning models. Such datasets are generally not readily available in typical applications which stream social media data for real-time event prediction. In this work we develop a methodology to detect content polluters in social media datasets that are streamed in real-time. Applying our method to the problem of civil unrest event prediction in Australia, we identify content polluters from individual tweets, without collecting social network or historical data from individual accounts. We identify some peculiar characteristics of these bots in our dataset and propose metrics for identification of such accounts. We then pose some research questions around this type of bot detection, including: how good Twitter is at detecting content polluters and how well state-of-the-art methods perform in detecting bots in our dataset. CCS CONCEPTS• Information systems → Social networking sites; • Security and privacy → Social network security and privacy; KEYWORDSCivil unrest, Social bots, Content polluters, Missing links, Twitter * Currently works at Tyto.ai † D2D CRC Stream Lead This paper is published under the Creative Commons Attribution 4.0 International (CC BY 4.0) license. Authors reserve their rights to disseminate the work on their personal and corporate Web sites with the appropriate attribution.

SMERC: Social media event response clustering using textual and temporal information

“…Our clustering and time estimation approaches could potentially by improved by automated removal of noise on the input Twitter data [28], as done for other purposes [1]. Spam and advertisements tend to repeat identical or very similar tweets, which have high pairwise text similarity.…”

Combate Automático às Fake News nos Meios Digitais

“…• Detecção de Bots (Bot Detection) -procura identificar o envio automático de informações nas redes sociais por meio de robôs [Braz and Goldschmidt 2017]. Esses envios podem potencializar tanto a publicação quanto a respectiva propagação da Fake News [Wang et al 2018a, Nasim et al 2018, Ferrara et al 2016];…”

Uma Introdução ao Combate Automático às Fake News em Redes Sociais Virtuais

“…• Detecção de Bots (Bot Detection) -procura identificar o envio automático de informações nas redes sociais por meio de robôs [Braz and Goldschmidt 2017]. Estes envios podem potencializar tanto a publicação quanto a respectiva propagação da Fake News [Wang et al 2018a] [Nasim et al 2018] [Ferrara et al 2016];…”

“…A solução do artigo é criada a partir de uma rede neural Multi-Layer Perceptron. Os resultados foram comparados com as demais ferramentas participantes do referido desafio; T20) Real-time Detection of Content Polluters in Partially Observable Twitter Networks [Nasim et al 2018]: Esta pesquisa procura encontrar um tipo específico de bots, chamados de poluidores de conteúdo, para poder distinguir notícias verdadeiras de Fake News. Segundo o artigo, o estado da arte de detecção de bots, normalmente, necessita de um histórico completo da rede.…”

“…D28) Twitter para Automatically Identifying Fake News [Buntain and Golbeck 2017]: Base de dados que utilizou os datasets PHEME (rumor no Twitter), CredBank (credibilidade no Twitter) e BuzzFeed News Fact-Checking Dataset (Checagem de fatos no Facebook). Os três datasets precisaram ser alinhados com as mesmas características e rótulos; D29) Twitter para Content Polluters [Nasim et al 2018]: Repositório de dados criado para detecção de bots. Este dataset, obtido a partir do Twitter, foi rotulado manualmente como "Bot"ou "Não Bot"; D30) Twitter para Mitigation via Point Process [Farajtabar et al 2017]: Este trabalho realizou experimentos com contas reais no Twitter e com uma base de dados sintética onde, entre N nós, foi assumido que 20 nós criaram Fake News e outros 20 nós divulgaram notícias verdadeiras; D31) Twitter para TraceMiner [Wu and Liu 2018]: Conjunto de dados gerado pela coleta de informações do Twitter com rotulação a partir do site de checagem de fatos Snopes 15 .…”