Uso del algoritmo COMPAS en el proceso penal y los riesgos a los derechos humanos

Abstract

En la actividad policial, administración de justicia y procesos penales, se han empezado a utilizar diversos algoritmos predictivos de riesgo, los cuales aportan celeridad en la toma de decisiones. Han surgido controversias acerca de su aplicación, debido a ciertas variables subjetivas ponderadas, lo que implicaría una posible vulneración para los derechos humanos. En el presente artículo se describen los principales algoritmos predictivos de riesgo, haciendo énfasis en el algoritmo COMPAS y se determinan los impactos a los derechos humanos derivados de su uso. El método utilizado es deductivo-inductivo, partiendo de un análisis documental para describir el funcionamiento de los algoritmos y un proceso inductivo para determinar si se garantizan los derechos humanos con su utilización. Los resultados indican que en efecto sí hay riesgos cuando se utilizan estos sistemas inteligentes predictivos, los cuales son derivados de la falta de transparencia de la arquitectura del algoritmo y de la presencia de sesgos. Lo anterior impediría identificar el proceso por el cual se llega a la calificación de nivel de riesgo, de un lado, y de otro, una aplicación objetiva de la evaluación; lo que pondría en riesgo derechos como el debido proceso, la libertad personal y no discriminación, entre otros.

Explorando la Intersección Entre Derechos Humanos e Inteligencia Artificial

“…Fuente: Elaborado por los autores Caso 2: Ilustra las preocupaciones sobre el sesgo algorítmico en sistemas de justicia penal con el uso del algoritmo COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) en los Estados Unidos. COMPAS es un sistema utilizado para predecir la probabilidad de reincidencia de un individuo y ayudar en la toma de decisiones judiciales sobre la libertad condicional, la fianza y otras cuestiones penales (Roa et al, 2022).…”

Repercusiones de la inteligencia artificialen la legitimidad del sistema penal

“…Este tipo de algoritmos podrían ser utilizados por los abogados para formular una estrategia previa al litigio y podrían facilitar el proceso de toma de decisiones por parte del juez haciéndolo más efectivo y ágil, ya que la lentitud de los procesos hace que la gente pierda la fe en la justicia 24 . También es relevante mencionar en este punto los algoritmos de predicción del riesgo de reincidencia que, basándose en factores como el historial delictivo, la edad o la historia familiar, entre otros, clasifican a un individuo en función del riesgo de reincidir en el futuro 25 .…”