Ética Algorítmica: questões e desafios éticos do avanço tecnológico da sociedade da informação

Abstract

Resumo A Quarta Revolução Industrial inseriu na vida cotidiana a Inteligência Artificial (IA) e seus algoritmos. Essa nova realidade tecnológica requer uma profunda reflexão ética e enseja a necessidade de pensar sobre uma Ética Algorítmica. Partindo de uma pesquisa bibliográfica, este artigo propõe uma definição do termo e desenvolve uma reflexão sobre as principais questões suscitadas pela presença dos algoritmos nas mediações da vida humana contemporânea, referentes à falibilidade, opacidade, viés, discriminação, autonomia, privacidade e responsabilidade. Situando-a no domínio de uma ética aplicada, pondera-se sobre a conjunção das camadas humanas e computacionais na tomada de consciência diante dos dilemas.

Direitos fundamentais no uso de inteligência artificial no poder judiciário brasileiro

“…A base de dados pode ter proteção jurídica ao ser considerada obra intelectual. Para Rossetti e Angeluci, "O algoritmo é uma construção matemática antiga usada para processar dados que produzem evidências e motivam ações específicas em direção à solução de determinado problema" (Rossetti, Angeluci, 2021). Nesse sentido, um algoritmo vai além de uma sequência de passos precisos para a efetivação de uma tarefa, porque envolve atores autômatos ou humanos na tomada de decisão automatizadas ou na repetição de ações com o objetivo de processar um volume enorme de dados como se fosse uma receita de um bolo.…”

Da “caixa-preta” à “caixa de vidro”: o uso da explainable artificial intelligence (XAI) para reduzir a opacidade e enfrentar o enviesamento em modelos algorítmicos

“…A falibilidade ocorre quando um sistema fracassa ao correlacionar os dados de modo causal, gerando evidências inconclusivas e ações injustificadas (Rossetti;Angeluci, 2021, p. 8). Um exemplo de falibilidade é a confusão feita por algoritmos classificadores de imagens ao tentarem distinguir entre lobos e cães da raça Husky, principalmente quando há presença de neve na imagem.…”

“…Os vieses algorítmicos são tendências eventualmente produzidas por um sistema de IA, refletindo, em geral, a predileção humana por determinados valores, devido a fatores sociais e culturais preexistentes à programação e que circundam os projetistas (Rossetti;Angeluci, 2021). A incorporação dessas tendências em um sistema de IA geralmente não se dá deliberadamente pelos programadores, mas pelo treinamento incorreto do algoritmo ou por desdobramentos inesperados do aprendizado de máquina, resultando no comprometimento da neutralidade do sistema.…”

“…Não seria o caso, contudo, de afastar os algoritmos de toda e qualquer tomada de decisão, mas sim de abordar a inteligência artificial de forma a incentivar e viabilizar sua explicação, em maior ou menor grau, a depender da sua aplicação final. Essa abordagem deve ter por objetivo a compatibilização da IA com valores sociais, levando-se em conta uma série de questões éticas, entre as quais se destacam a falibilidade, a opacidade, o viés, a discriminação, a autonomia, a responsabilidade e a privacidade de informações (Rossetti;Angeluci, 2021, p. 7). Diante de tais reflexões, entendemos que o desenvolvimento de funcionalidades que habilitem a IA a fornecer explicações satisfatórias para seus atos poderia resolver, em parte, o problema da opacidade algorítmica.…”