Cuando un algoritmo opaco decide si un prisionero está listo para la reintegración

El uso de herramientas algorítmicas en el entorno penitenciario español plantea cuestiones jurídicas relevantes. Una investigación periodística reveló que las prisiones españolas todavía utilizan un instrumento diseñado a principios de los años 90 y que no ha sido actualizado significativamente desde entonces para decidir cuándo conceder la libertad. El hecho no es insignificante: es una herramienta que influye directamente en decisiones con impacto directo en los derechos fundamentales de las personas privadas de libertad.

Pero el problema va más allá de la obsolescencia tecnológica. Incluso cuando estos instrumentos han sido revisados ​​o reemplazados por modelos más nuevos, todavía existen déficits estructurales de gran importancia jurídica. Se mantienen constantes la opacidad del funcionamiento interno, la falta de explicación de los criterios utilizados y la dificultad de someter los resultados a un control jurisdiccional efectivo.

El cambio del arroz en Cataluña

El caso del RisCanvi, que se utiliza en el sistema penitenciario catalán, es especialmente ilustrativo.

Es una herramienta técnica para apoyar la decisión penitenciaria: es un algoritmo. Desde su creación, hasta 2021, se ha aplicado en más de 89.000 casos y se ha utilizado para decidir cuándo a una persona encarcelada en Cataluña se le podía conceder permiso para salir o avanzar en el proceso de reinserción. Todo ello a partir de una pregunta aparentemente sencilla: ¿qué riesgo supone para esta persona salir a la calle?

La pregunta que hoy se plantea no es si la evaluación del riesgo de reincidencia es legítima, sino cómo se hace, con qué datos y bajo qué garantías. Porque cuando la respuesta es un algoritmo, la ley exige algo más que eficiencia: exige legalidad, transparencia y no discriminación.

Un sistema determinado que casi nadie puede examinar

El funcionamiento interno de RisCanvi es profundamente opaco. Se desconoce cómo se combinaron las variables, qué peso se le dio a cada factor o cómo se corrigieron los posibles sesgos. Esta falta de explicabilidad entra en tensión directa con el principio de transparencia algorítmica que el Tribunal Supremo reconoció recientemente para los instrumentos utilizados por la Administración.

Esto no es sólo un defecto técnico. Dada la escala del sistema, la opacidad complica gravemente el control de sus resultados y, en la práctica, quita el derecho a defender a los afectados, que no pueden conocer ni cuestionar los criterios que condicionaron la decisión.

De hecho, el único aspecto del sistema al que se accede es la lista de variables que analiza. En su versión “full”, que se utiliza cuando el riesgo se considera alto, RisCanvi se basa en 43 variables, todas ellas tratadas como factores de riesgo. Su mera presencia empeora la evaluación final y aumenta la probabilidad de una decisión que restrinja el derecho a la libertad.

RisCanvi evalúa un amplio conjunto de factores que incluyen tanto variables de comportamiento como información especialmente sensible. Entre ellos se incluyen la presencia de trastornos mentales, consumo de alcohol u otras drogas, intentos de autolesión, comportamiento sexual, determinados valores personales, falta de recursos económicos, falta de apoyo familiar o la existencia de antecedentes penales en la familia de origen.

Junto a estas variables, el propio manual de protocolo reconoce la influencia de cuatro elementos adicionales –género, edad, nacionalidad y situación penal– en el cálculo final del nivel de riesgo. Es decir, el algoritmo no se limita a evaluar lo que ha hecho una persona, sino que incluye quién es, de dónde viene y en qué condiciones vive.

¿Un algoritmo que discrimine?

La identificación de estas variables tiene su origen en la investigación psicológica y es coherente desde esa perspectiva. Sin embargo, cuando tales variables se trasladan al ámbito jurídico -y en particular condicionan la limitación de derechos fundamentales- dejan de ser una mera cuestión técnica.

En este contexto, la aplicación de estos instrumentos debe estar sujeta a los principios y garantías establecidos por el ordenamiento jurídico, como la legalidad, la igualdad y la prohibición de discriminación. En este punto surgen las principales tensiones.

Muchos de estos datos entran en categorías específicamente protegidas por las leyes españolas y europeas, precisamente porque su uso puede provocar estigmatización y trato desigual. La normativa penal española y de la Unión Europea en materia de protección de datos no sólo limita su tratamiento, sino que prohíbe expresamente la creación de perfiles que causen discriminación.

Sin embargo, en RisCanvi estos elementos funcionan como agravantes automáticos: una persona con un trastorno mental, joven, extranjera, con determinado comportamiento sexual o una situación económica precaria, puede recibir un peor pronóstico que otra persona en situación comparable que no presente estas características. Y eso aumenta la posibilidad de restringir su derecho a la libertad.

El derecho de la Unión Europea es claro en este punto: no es lícito establecer un trato desfavorable por estos motivos, incluso cuando se invocan datos estadísticos. El Tribunal de Justicia de la Unión Europea ya ha rechazado este tipo de razonamientos en ámbitos como el de los seguros, donde se buscaban datos actuariales para justificar las diferencias de género.

En este sentido, el Tribunal Europeo de Derechos Humanos ha insistido en que las decisiones sobre el encarcelamiento deben basarse en valoraciones individualizadas y no en atribuciones automáticas derivadas de la pertenencia a un grupo.

En un fallo reciente, la Corte cuestionó si las diferencias basadas en el género, incluso si estuvieran respaldadas por datos empíricos, podrían justificar restricciones al acceso a las licencias penitenciarias. La razón es estructural: el principio de resocialización es universal y no permite modulaciones basadas en características personales protegidas.

Más que tecnología: una cuestión democrática

El debate de RisCanvi no es técnico ni exclusivo de expertos: es un tema democrático.

Aceptar que un algoritmo penalice automáticamente determinadas características personales equivale a la normalización de la discriminación institucional, vestida de neutralidad científica.

Cuando una herramienta informática determina quién puede salir de prisión o encaminarse hacia la reintegración, la cuestión decisiva no es si el algoritmo es eficaz, sino si es legítimo.