Hacia una teoría crítica de la razón algorítmica

Abstract

El artículo parte de la revisión teórica de la literatura sobre los algoritmos para trazar los ejes clave de una teoría crítica. En la dicotomía entre la descripción del mundo, por medio de los macrodatos, y la prescripción de comportamientos preestablecidos una vez analizados los big data, la razón algorítmica puede dar lugar a sistemas cerrados de comunicación que simplifiquen y estandaricen nuestras prácticas. Conforme a una metodología ensayística y filosófica que vincula forma y contenido de la crítica, las dimensiones para una teoría reflexiva sobre los algoritmos se corresponden con tres vertientes fundamentales: a) la abstracción, el cifrado matemático y el cálculo, b) la pasividad inducida ante algoritmos performativos y c) el poder invisible e impersonal. En consecuencia, la principal aportación del artículo radica en la discusión de las constricciones que nacen al abrigo de las tecnologías algorítmicas. El énfasis en una teoría crítica de la tecnología se hace tanto más pertinente a medida que los dispositivos digitales se normalizan como intermediadores en diferentes campos de la actividad humana. Se trata, pues, de problematizar la tecnología como base de comportamientos cotidianos y decisiones, desde una perspectiva teórica. En este sentido, el artículo pretende continuar el enjuiciamiento de la tecnología de autores tales como los pertenecientes a la Escuela de Frankfurt o, en el campo específico de la tecnología, Lewis Mumford y Jacques Ellul, así como críticos actuales del digitalismo, tales como Cathy O’neil, Evgeny Morozov o Nicholas Carr.

Aproximación a una teoría crítica del digitalismo

“…La premisa de una vida más fácil, o por utilizar los términos caros a la industria digital, user iendly, viene aparejada con la tendencia a la automatización de las elecciones. La lógica de los algoritmos, como recetas o fórmulas que deciden por nosotros, supone un gobierno invisible de las praxis (Fernández Vicente, 2020). La hipermediación se ofrece así no solo como un suministrador de estímulos continuos y una sensación de ubicuidad e interconexión constante, sino como la instancia que ahorra el esfuerzo de tener que elegir.…”

Democracia y digitalización: implicaciones éticas de la IA en la personalización de contenidos a través de interfaces de voz

“…Esto supone la identificación de rutinas que se codifican en algoritmos usados para ofrecer a cada usuario una dieta mediática e informativa personalizada (Túñez-López, Toural-Bran y Cacheiro-Requeijo, 2018). Las herramientas de personalización se han erigido en recetas y series finitas de pasos encaminadas a obtener un resultado, una especie de automatización del pensamiento como en su día fue la calculadora de Pascal o la máquina universal de Turing (Fernández-Vicente, 2020). Sus defensores razonan que los algoritmos muestran la visión de un mundo a medida del usuario y advierten que se han asentado de forma irreversible en nuestra interacción con Internet.…”

“…Se necesita, por tanto, que los medios se impliquen decididamente para una aplicación de la IA transparente, confiable, abierta, imparcial, plural y sin prejuicios, que respete la privacidad y se dirija al beneficio de la sociedad y de los individuos, que contribuya a que las decisiones informativas sean conscientes, alejadas de los sesgos, dotadas de creatividad, capacidad de empatía y memoria (Salazar, 2018). Como ha mostrado la literatura reciente (Broussard, 2018;Fernández-Vicente, 2020;Newman, 2019), es hora de concebir sistemas capaces de personalizar la selección de noticias coherentes con los principios que ya marcan las buenas prácticas en IA.…”