Algoritmos racistas: a hiper-ritualização da solidão da mulher negra em bancos de imagens digitais

Abstract

Resumo Reconhecendo a importância das discussões a respeito dos algoritmos em mecanismos de busca e seus vieses possivelmente discriminatórios e racistas, este trabalho analisa três bancos de imagens digitais e seus resultados para as palavras-chave “family”, “black family” e “white family”. Com base no conceito de “hiper-ritualização” de gênero de Erving Goffman (1979), estuda-se aqui se a perspectiva imagética de família (mulher, homem, filho e filha) se aplica para o contexto negro ou, ao contrário, corrobora para a “solidão da mulher negra”. Analisando comparativamente mais de 2.500 imagens, percebeu-se que as mulheres negras são mais representadas sozinhas com seus filhos do que as mulheres brancas; a palavra-chave “family” resulta em maioria expressiva de famílias brancas; e a pesquisa por “white family” apresenta mais resultados “infiltrados” de famílias negras como indício de racialização da pesquisa para o algoritmo de busca, que considera a branquitude como normativa e neutralidade.

A raça e o gênero da estética e dos afetos: algoritmização do racismo e do sexismo em bancos contemporâneos de imagens digitais

“…These results, in addition to quantitative data, drawn attention to modes of representation and tagging processes, which often associate identical image contexts (in addition to race and gender of the subjects leading the scene) with opposing keywords such as boss and secretary or wealth and poverty (Carrera, 2020). Furthermore, they corroborate for the perception of the loneliness of black women, presenting them in a more solitary way than any other social group when researching the keyword "family" (Carrera & Carvalho, 2019).…”

La representación de indígenas y afrodescendientes en la fotografía antropológica en Brasil

“…5 . Traducción libre de la autora de: as dinâmicas de poder existentes são reproduzidas em ferramentas digitais que se propõem "disruptivas" (Adner, 2002) perpetuando antigas ideologias e representações, além de negligenciar novas narrativas e demandas sociais contemporâneas, como se fosse possível posicionar o ciberespaço como um espaço para a transcendência da raça, da classe e do gênero (Carrera & Carvalho, 2020).…”

Algoritmização de estereótipos raciais em bancos de imagens: a persistência dos padrões coloniais Jezebel, Mammy e Sapphire para mulheres negras

“…Pesquisas, portanto, buscaram compreender de que forma artifícios tecnológicos contemporâneos, como chatbots, mecanismos de busca e sistemas de reconhecimento facial baseados em inteligência artificial, podem ser geodiscriminatórios (Cesar Guimarães, 2019), racistas (Silva, 2020;Carrera e Carvalho, 2020;Noble, 2018;Birhane, 2020) e sexistas (Aiello e Woodhouse, 2016;Buolamwini e Gebru, 2018). Este trabalho, então, faz parte desse grupo de estudos, tentando identificar os vieses discriminatórios quanto a mulheres negras em fotografias de bancos de imagens.…”