Accountability for the use of algorithms in a big data environment

Abstract

Center for IT and IP LawAccountability is the ability to provide good reasons in order to explain and to justify actions, decisions, and policies for a (hypothetical) forum of persons or organizations. Since decision-makers, both in the private and in the public sphere, increasingly rely on algorithms operating on Big Data for their decision-making, special mechanisms of accountability concerning the making and deployment of algorithms in that setting become gradually more urgent. In the upcoming General Data Protection Regulation, the importance of accountability and closely related concepts, such as transparency, as guiding protection principles, is emphasized. Yet, the accountability mechanisms inherent in the regulation cannot be appropriately applied to algorithms operating on Big Data and their societal impact. First, algorithms are complex. Second, algorithms often operate on a random group-level, which may pose additional difficulties when interpreting and articulating the risks of algorithmic decision-making processes. In light of the possible significance of the impact on human beings, the complexities and the broader scope of algorithms in a big data setting call for accountability mechanisms that transcend the mechanisms that are now inherent in the regulation.

Regulação by Design, Lex Informati-Ca E O Direito Como Metatecnologia Para Os Resultados Tendenciosos Sob O Sistema De Recomendação De Bens Culturais Imateriais

“…A auditabilidade social para garantir o accountability algorítmico precisa de uma audiência crítica, ou seja, não adianta somente apontar a transparẽncia dos algoritmos como algo formalmente requerido, mas, no sentido do texto de Kemper e Kolkman (2018, p. 2092-2093, essa transparência não traz accountability verificável se os objetos discutidos são alheios ou não interessam aos usuários, é preciso incorporar os aspectos sociais como prioridade de uma audiência crítica às decisões tomadas pelas máquinas e que consiga verificar os aspectos da dita autonomia dos algoritmos -portanto, é preciso uma auditabilidade ativa dos algoritmos, não apenas de consenso passivo e autorização das práticas das empresas. 19 O elemento principal para uma arquitetura auditável e um accountability eficiente é o da transparência, que já é conhecido pela Lei Geral de Proteção de Dados (LGPD), 20 por exemplo, ao expor os papéis de cada ator no gerenciamento de dados, entretanto, é preciso mais, que o campo técnico da programação também promova a integração de suas atividades com o usuário, esclarecendo como as atividades de processamento são feitas e como são armazenadas -de forma clara e com linguagem acessível (VEDDER;NAUDSTS, 2017, p. 214).…”

Risk mitigation in algorithmic accountability: The role of machine learning copies

“…Accountability refers to a set of protocols to evaluate the conduct of an individual or entity, as well as an obligation to report or justify one’s actions, specially if these may result in any wrong doing [ 42 , 43 ]. Accountability is the instrument through which agents are held accountable.…”

From Agency-Enhancement Intentions to Profile-Based Optimisation Tools: What Is Lost in Translation

“…Transparency falls short for another reason. Although the opacity due to technical and contextual dimensions is a basic problem for the solution of ethical and legal problems concerning MLBD (Vedder, Naudts 2017;Kroll et al 2017), transparency can only play a role at the very first start of the deliberations. For the actual observation, articulation and solution of possible problems a broader normative framework (ethical or legal) is needed.…”