Ética y transparencia para la detección de sesgos algorítmicos de género

Abstract

La creciente importancia de los algoritmos pone en evidencia la discriminación que se registra, especialmente en género y minorías, así como la necesidad de transparencia en la aplicación de estas fórmulas frente a la opacidad de las corporaciones. A pesar de estos sesgos, en los algoritmos se apoya la toma de decisiones de casi todos los campos del conocimiento y de las actividades sociales, políticas y económicas a causa de una confianza casi ciega en los procesamientos informáticos, de un imaginario tecnológico sobre su capacidad para eliminar el error y el sesgo. El Efecto Manipulador del Motor de Búsqueda o Search Engine Manipulation Effect (SEME) (Epstein y Robertson, 2015) muestra efectos muy claros sobre el comportamiento del voto. También Caliskan y Bryson (2017) han detectado la reproducción de sesgos de género y étnicos, a partir de datos ya sesgados que conducen a desviaciones estadísticas muy importantes en el Big Data.

Perspectiva de género en Inteligencia Artificial, una necesidad

“…La inteligencia artificial y el Big Data pueden ser utilizados para el diagnóstico y el tratamiento de enfermedades, mejorar la eficiencia de los servicios públicos, prevenir desastres naturales, analizar hábitos de compra, o la concesión de créditos por parte de las entidades financieras, entre otras muchas aplicaciones. Pero también generan preocupación, ya que con la excusa de que más datos producen mejores algoritmos y servicios, las personas usuarias se han convertido en el producto con el que se comercia (Benítez, 2019). A ello contribuye la externalización de la intimidad en las redes sociales, probablemente rentabilizada por el poder económico "que encuentra la materia prima para gestionar y predecir a las personas desde la tecnología" (Zafra, 2021).…”

Retos 4.0: un manifiesto a considerar para la 4RI

“…En cuanto a las ciencias del comportamiento, el desarrollo de la 4RI implica ciertos desafíos que ameritan precisar. A nivel cognitivo los individuos presentan sesgos y atajos heurísticos en el procesamiento de la información de su entorno (Kahneman, 2012), por ende, las posibilidades de omitir, distorsionar o manipular la información aumentan (Benítez, 2019;Gómez, 2018;Mendoza, 2020).Asimismo, la capacidad predictiva de los algoritmos cognitivos en las decisiones de masas homogéneas dedicadas al consumo excesivo genera la capitalización de la atención mediante resultados de búsqueda que apartan al usuario de una Psicólogo por la Universidad San Ignacio de Loyola. Cuenta con estudios de maestría en Educación con mención en Psicología educativa.…”

Debates emergentes en materia laboral y de privacidad: sistemas de videovigilancia, algoritmos digitales e identificación biométrica de la persona trabajadora

“…La solidez de la formulación de un algoritmo dependerá de que sea sistemático y consistente, pero también de que sea no ambiguo, es decir que no deje abierta la solución a interpretaciones. La misión de un algoritmo no es el cálculo de una solución exacta o precisa, sobre todo porque como objetivo se convierte en inalcanzable en muchos casos; su misión está más próxima a facilitar una respuesta (Benítez Eyzaguirre, 2019, p. 1308.…”

“…Entonces también incluyó la herramienta de código abierto TensorFlow, que aplica el modelo matemático Word2Vec, con el que se inicia el aprendizaje de conceptos a partir de las lecturas de artículos y sin supervisión humana. Usa representaciones distribuidas del texto para detectar similitudes entre conceptos, de forma que se hace útil para representar y extraer conocimiento, la traducción automática, la formulación de preguntas y respuestas (Benítez Eyzaguirre, 2019, p. 1310.…”