Algorithmic unconscious: why psychoanalysis helps in understanding AI

Abstract

The central hypothesis of this paper is that the concepts and methods of psychoanalysis can be applied to the study of AI and human/AI interaction. The paper connects three research fields: machine behavior approach, psychoanalysis and anthropology of science. In the "Machine behavior: research perspectives" section, I argue that the behavior of AI systems cannot be studied only in a logical-mathematical or engineering perspective. We need to study AI systems not merely as engineering artifacts, but as a class of social actors with particular behavioral patterns and ecology. Hence, AI behavior cannot be fully understood without human and social sciences. In the "Why an unconscious for AI? What this paper is about" section, I give some clarifications about the aims of the paper. In the "Unconscious and technology. Lacan and Latour" section, I introduce the central thesis. I propose a re-interpretation of Lacan's psychoanalysis through Latour's anthropology of sciences. The aim of this re-interpretation is to show that the concept of unconscious is not so far from technique and technology. In the "The difficulty of being an AI" section, I argue that AI is a new stage in the human identification process, namely, a new development of the unconscious identification. After the imaginary and symbolic registers, AI is the third register of identification. Therefore, AI extends the movement that is at work in the Lacanian interpretation of the mirror stage and Oedipus complex and which Latour's reading helps us to clarify. From this point of view, I describe an AI system as a set of three contrasting forces: the human desire for identification, logic and machinery. In the "Miscomputation and information" section, I show how this interpretative model improves our understanding of AI.

The dark sides of people analytics: reviewing the perils for organisations and employees

“…Ultimately, learning algorithms can become too complex to be fully understood even by those programming them (Dourish, 2016;Gal et al, 2017;Possati, 2020). For example, in the context of people analytics, this implies that pivotal decisions such as on staff layoffs, could be made even without the responsible manager exactly knowing why and how the algorithm decided to do so.…”

Inteligência artificial e psicanálise: uma articulação possível / Artificial intelligence and psychoanalysis: a possible articulation

“…Para entender a interação entre humanos e máquina utiliza-se a teoria de um "algoritmo inconsciente", que é diferente de atribuir uma consciência a uma inteligência artificial. Essa noção de "inconsciente" é da noção Freudiana com a interpretação de Lacan de inconsciente como uma linguagem, sendo, Brazilian Journal of Development, Curitiba, v.7, n.9, p. 90259-90266 sep. 2021 portanto, a interação entre máquina e humano mediada por uma linguagem específica entre ambos (POSSATI, 2020).…”

“…Incorporando essas noções na Inteligência Artificial, Possati (2020) afirma que a IA é a nova etapa do processo de identificação humana, o novo desenvolvimento de inconsciente. Tudo que for produzido pela máquina está sujeito a interpretação humana sobre seu comportamento e não é arbitrária sendo, portanto, somente um objeto de identificação humana.…”

“…É possível interpretar que o programador ao mesmo tempo transfere seu desejo consciente e seu recalque inconsciente impossibilitando a criação de máquinas sem erros e sempre precisa ser reparada e supervisionada por um humano pois os erros de programação podem ser vistos Brazilian Journal of Development, Curitiba, v.7, n.9, p. 90259-90266 sep. 2021 como atos falhos provenientes da tensão entre desejo humano, lógica e maquinaria que não pode ser controlado e tende a retornar (o retorno do recalcado). Possati (2020) conclui que a Inteligência Artificial abre um novo campo de estudos para a Psicanálise, o da Psicanálise de artefatos. O artigo também inaugura estudos que interligam pesquisas que serão realizadas para verificar se a IA consegue ajudar a entender e diagnosticar transtornos mentais, se é possível fazer com que sistemas de IA reproduzam e assimilem estes transtornos e quais são as possíveis contribuições dessa área da ciência em conjunto com a Psicanálise.…”

“…Para Possati (2020) a teoria do Estádio Espelho de Lacan possibilita a teorização sobre a máquina representar o desejo humano de identificação. Além disso o conceito de inconsciente de Freud interpretado por Lacan é usado para analisar a interação entre máquinas e humanos e para criar o termo "algoritmo inconsciente" para explicar a instabilidade da IA.…”