Alfabetización moral digital para la detección de deepfakes y fakes audiovisuales

Abstract

Los deepfakes son vídeos manipulados donde se suplanta la cara de una persona por la de otra a través de Inteligencia Artificial. Estos contenidos fotorrealistas pueden convertirse en armas de acoso, propaganda o conflicto social. Esta investigación de innovación teórica ahonda en la incipiente literatura científica sobre el deepfake en Ciencias Sociales, poniendo sus bases en los trabajos de Wenceslao Castañares. Sus objetivos son analizar el fenómeno, buscar herramientas para detectarlo y combatirlo, e inaugurar una nueva vía de alfabetización moral digital de especial interés en el campo de la comunicación, por su importancia social y política. Se emplea una metodología diacrónica en dos pasos. En primer lugar, se realiza una investigación bibliográfica longitudinal y se ofrece una descripción histórica, sistémica y descriptiva, con los rasgos más importantes del fenómeno, naturaleza, funcionamiento y posibles usos. En segundo lugar, se realiza una observación científica consciente de más de medio centenar de vídeos deepfake, para percibir el fenómeno, conseguir una mayor generalización y garantizar la validez de los resultados. Los resultados muestran que aunque se han creado softwares de detección de este tipo de fakes, aún no son de acceso libre y gratuito. La única manera de reconocer el deepfake es a través de una educación moral digital, que pueda detectar una serie de parámetros visuales hiperrealistas: frecuencia del parpadeo, efecto intermitente de las caras o transiciones entre cabeza y cuello.

Democracia y digitalización: implicaciones éticas de la IA en la personalización de contenidos a través de interfaces de voz

“…La exigencia se incrementa ante los sorprendentes avances en la síntesis de voz, que ya permiten generar simulaciones o deepfakes de audio de cualquier persona con facilidad y enorme verosimilitud: gracias a las tecnologías de machine learning, y con no más de seis horas de grabaciones originales, el algoritmo replica con exactitud las características vocales de un personaje, lo que impone aún mayores retos tanto de la ética de la IA como de la alfabetización moral digital (un término apuntado por Cerdán Martínez, García Guardia y Padilla Castillo, 2020).…”

Capítulo 8. Integración de la inteligencia artificial en las redacciones: la experiencia de los medios de comunicación en España

“…La crisis financiera y económica de 2007-2008 tuvo un impacto aún mayor en los medios de comunicación españoles, que, además, habían mostrado una evolución técnica hacia lo digital más lenta que en otros países y una mayor resistencia a la convergencia periodística (Salaverría, 2010). En cualquier caso, desde hace años disponemos de un buen número de trabajos académicos que abordan estudios de caso (entre otros, en el ámbito español, Sánchez-Gonzales; Sánchez-González, 2017;Varona, 2018;Toural 2019;Segarra-Saavedra;Cristófol;Martínez-Sala, 2019;Manfredi-Sánchez, 2019;Cerdán-Martínez;García-Guardia;Padilla-Castillo, 2020;Flores-Vivar, 2020;Bazán-Gil;Pérez-Cernuda;Marroyo-Núñez;Sampedro-Canet;ISSN: 2660-4213 Periodismo e inteligencia artificial. Aplicaciones y desafíos profesionales ISBN: 978-84-10176-02-7…”

Uso periodístico de la IA en medios de comunicación españoles: mapa actual y perspectivas para un futuro inmediato

“…Según una encuesta realizada a profesionales de 30 países en Europa, Estados Unidos, Sudamérica y Asia, los periodistas tienden a rechazar la IA porque temen perder sus puestos de trabajo, pero también por los cambios en las rutinas laborales (Beckett, 2019). Sin dejar de lado la percepción de la IA en ámbitos profesionales o docentes (Calvo & Ufarte, 2020), en España la literatura académica se ha centrado hasta ahora estudios de caso (entre otros, Sánchez Gonzales & Sánchez González, 2017;Herrero & Varona, 2018;Rojas Torrijos, 2019;Rojas Torrijos & Toural 2019;Segarra et al, 2019;Ufarte & Manfredi, 2019;Cerdán et al, 2020;Flores Vivar, 2020;Gómez de Ágreda et al, 2021;Bazán et al, 2021) tanto de los medios periodísticos como de las empresas tecnológicas que ofrecen este tipo de servicios. Sin embargo, aún no se dispone de una visión global sobre el grado de implantación de la IA en los medios de comunicación españoles, ni siquiera con las restricciones temáticas que algunos autores han establecido en otros países (Canavilhas, 2022;Fieiras et al, 2022).…”