Tecnopolíticas da falha: dispositivos de crítica e resistência a novas ferramentas punitivas

Abstract

Resumo: Forças policiais brasileiras têm sido equipadas com tecnologias de segurança que incluem câmeras corporais, sistemas biométricos e algoritmos preditivos. Gestores públicos justificam os investimentos nesse setor alegando ganhos de eficiência, transparência e accountability. No entanto, movimentos sociais e pesquisadores da área de segurança pública argumentam que muitos dos sistemas implementados falham em aprimorar a atividade policial. Multiplicam-se denúncias de que erros na identificação de suspeitos e vieses na definição de áreas prioritárias de patrulhamento ampliam padrões de violência estrutural e automatizam mecanismos de exclusão. Este artigo busca mapear o uso da “falha” enquanto dispositivo de crítica e resistência às novas tecnologias de segurança, refletindo sobre suas consequências analíticas e políticas. Em que pesem as contribuições para os debates sobre discriminação algorítmica, o artigo indica que muitas das críticas têm sido incorporadas por desenvolvedores em processos de otimização de seus sistemas. Desse modo, as denúncias podem operar, paradoxalmente, enquanto motor da inovação, legitimando a disseminação de ferramentas punitivas. Mais do que uma demanda por precisão e eliminação de vieses, a crítica a partir da falha deve funcionar como uma forma de explicitar os múltiplos atores e interesses inerentes ao processo de desenvolvimento tecnocientífico. Para isso, é preciso, contudo, repolitizar a falha.