Viés algorítmico – um balanço provisório

Abstract

Este artigo se insere no campo da Sociologia Digital e objetiva realizar um balanço bibliográfico sobre viés algorítmico (algorithmic bias) nas Humanidades, observando quais definições, causas, diagnósticos e perspectivas são apresentadas para o fenômeno. Tomando por base artigos presentes nos principais portais de periódicos nas línguas inglesa, espanhola e portuguesa, foram encontrados majoritariamente artigos de cunho ensaístico, produzidos no Norte Global, com baixa penetração da temática nas literaturas em espanhol e português. Percebe-se certa indefinição sobre o termo, ora tratado como sinônimo de discriminação, ora como sua causa. Como principais fontes de viés, foram identificadas a construção de ferramentas e os dados de treinamento. Esses fatores ressaltam a necessidade de aumentar a transparência no desenvolvimento de algoritmos; ademais, sugerem tendência analítica de enfatizar o caráter subjetivo do viés algorítmico. Esses achados salientam a importância de integrar à análise elementos que transcendem a subjetividade desses atores.

Desafios para o Design na era da Inteligência Artificial: reflexões e proposições para favorecer a ética no projeto

“…Assim, o modelo é treinado para que ele aprenda qual o melhor caminho, visando o resultado que se espera. Neste processo, dependendo de como o modelo de IA foi treinado e a partir de quais dados, é possível verificar o surgimento de vieses algorítmicos, os quais refletem nos resultados de interpretação dos dados os preconceitos existentes na sociedade(Cozman;Silva, 2022;Simões-Gomes;Mendonça, 2020).…”