Social Bots and the Spread of Disinformation in Social Media: The Challenges of Artificial Intelligence

Abstract

Artificial intelligence (AI) is creating a revolution in business and society at large, as well as challenges for organizations. AI‐powered social bots can sense, think and act on social media platforms in ways similar to humans. The challenge is that social bots can perform many harmful actions, such as providing wrong information to people, escalating arguments, perpetrating scams and exploiting the stock market. As such, an understanding of different kinds of social bots and their authors’ intentions is vital from the management perspective. Drawing from the actor‐network theory (ANT), this study investigates human and non‐human actors’ roles in social media, particularly Twitter. We use text mining and machine learning techniques, and after applying different pre‐processing techniques, we applied the bag of words model to a dataset of 30,000 English‐language tweets. The present research is among the few studies to use a theory‐based focus to look, through experimental research, at the role of social bots and the spread of disinformation in social media. Firms can use our tool for the early detection of harmful social bots before they can spread misinformation on social media about their organizations.

Technologies of truth on the web

“…Последние часто используются для создания определенных настроений, распространяя соответствующие сообщения, в частности, в рамка политической борьбы. Для их определения используется многофакторный анализ профилей на основе ИИ [30], а также анализ коммуникативного стиля сообщений (например, более частое по сравнению с людьми распространение ссылок, медиаконтента и репостов, также могут иметь значение такие показатели, как среднее количество слов, предложений, символов #, @ и частота уникальных слов [14]).…”

Democracia algorítmica: ¿un nuevo cambio estructural de la opinión pública?

“…Estos son capaces de interactuar con personas y máquinas e, incluso, generar contenidos específicos para satisfacer algún tipo de objetivo estratégico (Yang et al, 2019;Hajli et al, 2021;Ferrara et al, 2016). Per se, estos bots sociales inteligentes no son maliciosos.…”

“…No obstante, estos actores sociales artificiales también pueden llevar a cabo muchas acciones perjudiciales, como proporcionar información errónea a la gente, aumentar las discusiones, perpetrar estafas y explotar el mercado de valores (Ferrara et al, 2016;O'Neal, 2016). Es decir, si el malware tradicional -como virus informáticos, gusanos, troyanos, software de rescate, spyware, adware, software de miedo, etc.-atacan los puntos débiles del hardware y del software, los bots sociales explotan las vulnerabilidades humanas para alcanzar un objetivo dado, como, por ejemplo, su incapacidad para distinguir entre lo humano y lo no humano cuando interactúan en el ciberespacio, su exceso de confianza hacia aquellas relaciones sociales que ocurren en la red, su mayor atención a todo aquello que parece envuelto de un aura de popularidad o su manifiesta ingenuidad cuando la manipulación de la opinión pública se realiza a través de las redes sociales (Hajli et al, 2021).…”

“…Pero otros son ciertamente sofisticados y adoptan varias estrategias para hacerse pasar por humanos, lo cual complica su rastreo. En cuanto a los sofisticados (Hajli et al, 2021), algunos modelos utilizan machine learning de última generación para aprender a comunicarse como los seres humanos y pasar inadvertidos; otros adoptan nombres, identidades y perfiles de usuarios reales para evitar ser descubiertos y seguir trabajando en la satisfacción de unos objetivos dados; otros imitan temporalmente patrones humanos de consumo y publicación de contenidos para aparentar ser reales; y otros incluso intervienen en conversaciones, responden a preguntas e intercambiar opiniones con otros usuarios para hacerse más escurridizos y evitar ser descubiertos.…”

Rise of the Androids: The Reflection of Developers’ Characteristics in Computerized Systems

“…Therefore, computerized decision-making and analysis systems have been perceived to be closer to the ideal of unbounded rationality (Lindebaum and den Hond, 2020). The capabilities of modern computers have led to their use in many industries, including finance (Chaboud et al, 2014;MacKenzie, 2018a), healthcare (El-Bouri, Gue and Lip, 2021; Wang et al, 2019), and business management (Hajli et al, 2022;Nguyen and Malik, 2022). But are computerized systems indeed close to the ideal of bounded rationality?…”