Un algoritmo dificulta la reinsercion de los presos vulnerables en Catalunya – Pitirre

*Omar es un nombre ficticio. Su nombre se ha cambiado en este reportaje para proteger su identidad real.

En junio de 2025 la junta de tratamiento de la carcel en la que Omar cumple su condena pidio al juez de vigilancia penitenciaria que le concediera el tercer grado. Lo hizo a traves de un informe con informacion desactualizada. Pero con el convencimiento de que Omar, en prision desde 2011 y una evolucion positiva entre rejas, estaba listo para pasar buena parte de su tiempo en libertad. 

En el escrito los funcionarios incluyeron una palabra, RisCanvi, junto a un adverbio: alto. Una señal, segun los codigos establecidos en el mundo penitenciario catalan, de que existia un riesgo plausible en torno a Omar. Un riesgo de que al pisar la calle cometiera un nuevo delito o huyese sin haber completado su condena.

Este pronostico no provenia de una persona, sino de una maquina. RisCanvi es un programa informatico que la Generalitat introdujo en sus prisiones en 2010 y que desde entonces evalua de forma periodica a todas las personas privadas de libertad en Catalunya. La version actual de este software mide cinco tipos de riesgos, a traves del mismo numero de algoritmos: reincidencia general, reincidencia violenta, quebrantamiento de condena, violencia autodirigida y violencia contra otros dentro de prision. 

Diseñado originalmente como parte de un protocolo para la gestion interna en los centros, hoy los resultados de RisCanvi son utilizados de forma intensiva tambien en el ambito judicial. Por parte de los jueces y los fiscales que deciden si presos como Omar pueden acceder a beneficios penitenciarios en la fase final de la condena, una parte fundamental en su proceso de rehabilitacion social. 

Este tipo de uso, documentado por Publico en esta investigacion a traves de informacion y testimonios ineditos, careceria de las garantias que la nueva ley europea exige para algoritmos e inteligencia artificial (IA) en areas sensibles, como las prisiones y la justicia. Tambien iria en contra del consenso cientifico sobre como usar este tipo de sistemas de apoyo a una decision humana. 

El protocolo RisCanvi, actualmente en proceso de actualizacion por el Departament de Justicia del Ejecutivo catalan, lleva años en el punto de mira de organizaciones de defensa de los derechos de los presos y de actores de la sociedad civil que promueven un uso responsable de la tecnologia. Hasta ahora, el debate se habia centrado en la idoneidad o no de usar un algoritmo predictivo con una alta tasa de errores en un area tan delicada. Tambien en la opacidad que este sistema ha arrastrado durante años. 

Los hallazgos de esta investigacion muestran sin embargo otra linea preocupante. La forma en la que jueces y fiscales usan los resultados de RisCanvi estaria impactando negativamente en los derechos de los presos mas vulnerables que hoy cumplen condena en Catalunya.

«En la carcel si quieres avanzar no te dejan»

El juez de Barcelona que en agosto recibio la peticion de tercer grado para Omar dio su visto bueno en noviembre. Sin embargo, cinco dias despues el fiscal se opuso al ver que el RisCanvi del interno reflejaba un riesgo alto. Una postura a la que finalmente se acogio el magistrado encargado de su expediente, que rechazo la solicitud. 

«¡Ya empezamos con lo mismo!». Omar recuerda hoy como reacciono al enterarse de que el riesgo asignado por este sistema de nuevo le complicaba las cosas. Ese mismo argumento en contra, un RisCanvi alto, lo habia usado dos años atras tambien para oponerse el juez que recibio su primera solicitud de permiso de mas de 72 horas.

«En la carcel si quieres avanzar no te dejan, la verdad», se lamenta este hombre de sonrisa facil en una sala de la Fundacio Marianao, una entidad de Sant Boi de Llobregat (Barcelona) que apoya a internos con pocos recursos. Una jurista y una educadora de esta fundacion, tambien presentes en la sala, acompañan a Omar desde hace años. Con la ayuda de ambas, Omar ha presentado un recurso de apelacion ante la Audiencia Provincial de Barcelona todavia pendiente de resolucion. 

El caso de este recluso en prision desde 2011 y con una evolucion ejemplar entre rejas ejemplifica la forma en que algunos actores judiciales en Catalunya usan hoy los niveles de riesgo asignados por RisCanvi. Y como esta utilizacion condiciona que los internos accedan a una libertad condicional, una progresion de grado o a permisos de varios dias una vez han cumplido una cuarta parte de su condena, tal y como establece la ley penitenciaria. 

RisCanvi, igual que otros sistemas predictivos parecidos –el algoritmo de VioGen para combatir la violencia machista es el caso mas conocido en España-, se creo hace una decada y media con un protocolo asociado. En las carceles catalanes este software esta integrado en el dia a dia de los funcionarios y sus resultados les ayudan, por ejemplo, a decidir que programas de rehabilitacion han de seguir los internos o cuando es adecuado que salgan de permiso. Estos profesionales reciben ademas una formacion especifica antes de empezar a utilizar el programa, segun establece el manual de aplicacion del protocolo de la propia Generalitat. 

«La administracion penitenciaria en Catalunya ha hecho un esfuerzo muy grande por que esto tenga una coherencia y este dentro de un sistema, para que tenga un sentido», señala a Publico Lorena Aleman Arostegui. Esta jurista y doctora en Derecho penal por la Universidad Publica de Navarra, que ejercio como letrada en Catalunya durante varios años, es autora del unico trabajo independiente sobre como RisCanvi influye en las decisiones judiciales. 

Su interes en el tema empezo en 2021 a partir de una experiencia personal. Un juez de Lleida denego entonces un permiso de salida, que contaba con la aprobacion de la junta de tratamiento, a un cliente que cumplia condena en la prision de Mas d’Enric. Aleman Arostegui elevo entonces el caso a la Audiencia Provincial de Tarragona a traves de un recurso. De poco sirvio. El magistrado valido la posicion del juez de vigilancia “porque habia resultados de riesgo alto y medio en RisCanvi; algo que ya habia alegado el ministerio fiscal”, rememora.

«RisCanvi es un instrumento interno de la administracion», explica hoy esta jurista que dedico su tesis doctoral a profundizar en este espinoso asunto. «En el ambito administrativo [los funcionarios] estan condicionados por el articulo 6 del reglamento penitenciario”, que prohibe la toma de decisiones basadas en herramientas automatizadas. “Pero es que en el ambito judicial no hay nada, faltan normas. Hay muchisima discrecionalidad en la toma de decisiones», esgrime Aleman Arostegui en conversacion con Publico. Tambien hay “mucho margen para que se prueben cosas”, añade.

El RisCanvi en sede judicial   

Las mas de quince entrevistas a letrados y otros actores judiciales hechas para esta investigacion corroboran las tesis de Aleman Arostegui. Y ofrecen ademas otras claves relevantes. «El RisCanvi tiene mucha importancia a nivel interno y esto nosotros si que lo consideramos como una herramienta muy potente», analiza Montse Pijoan, letrada del despacho barcelones de Bataller Abogados. «Pero cuando pasamos al expediente judicial vemos mucha disparidad respecto a cual es la concepcion de RisCanvi o cual es su alcance», apunta.

Aunque la postura oficial de la Generalitat es que los resultados de estos algoritmos son usados solo por los profesionales de prisiones, la realidad es diferente. Cuando el propio interno o la junta de tratamiento solicita un beneficio penitenciario, el responsable de este organo colegiado envia a los juzgados un informe que en casi todos los casos incluye los riesgos asignados por RisCanvi. Una informacion que a diferencia de lo que ocurre con los tecnicos de la junta llega sin el debido contexto a sede judicial, explican las fuentes consultadas.

«En algunos juzgados vemos que la relevancia del RisCanvi es practicamente determinante. Si ven un RisCanvi alto [en el expediente], ya es una barrera muy dificil de superar. Lo mismo ocurre con los fiscales», apunta la letrada Pijoan. “Si el riesgo es medio o alto, mi experiencia es que la Fiscalia te tumba el permiso”, corrobora Eva Maria Vivo, presidenta de la comision de penitenciario del ICAB, el colegio de la abogacia de Barcelona. 

Las resoluciones judiciales a las que Publico ha tenido acceso y los letrados entrevistados dibujan ademas un uso variable por parte de los diferentes actores judiciales involucrados. Mientras que para algunos jueces de vigilancia y los fiscales que los asesoran RisCanvi tiene un peso decisivo, las audiencias provinciales «cada vez hacen una lectura mas matizable de sus resultados del RisCanvi», resume Pijoan.  

«Recurrir al RisCanvi es una herramienta facil. Si a mi me dan riesgos altos o medios, deniego permisos, deniego tercer grado, no me hace falta decir nada mas. Es una solucion mas facil», reflexiona un juez de la jurisdiccion de penitenciario en Catalunya en ejercicio que ha hablado con Publico bajo condicion de anonimato. 

Este magistrado con amplia experiencia critica la falta de directrices claras y señala tambien como las evaluaciones de RisCanvi condicionan casi siempre la postura del ministerio fiscal. Si estas no se incluyen en el expediente del interno, los fiscales las solicitan a la prision, explica. «Pero si le sale bajo, no lo va a decir. Siempre se lo calla», añade.

Una prediccion falible   

Los algoritmos integrados en RisCanvi realizan sus calculos a partir de 43 factores considerados de riesgo. Algunos son estaticos, es decir tienen que ver con la biografia del interno. Por ejemplo, el tipo de delito, la edad con la que delinquio por primera vez, los antecedentes delictivos familiares o la nacionalidad. Mientras que otros son dinamicos y sobre el papel pueden variar con el tiempo. 

Aqui aparecen cuestiones como su grado de impulsividad y hostilidad, su respuesta al tratamiento en la carcel o si ha tenido conflictos con otros presos, entre otros. Cada escala de riesgo en RisCanvi tiene una combinacion diferente de variables. Esta informacion, tanto los factores estaticos como dinamicos, la recogen, valoran e introducen en el software los integrantes de la junta de tratamiento, formada por juristas, psicologos, trabajadores sociales, pedagogos y educadores.

Saber con exactitud por que los niveles de riesgo de Omar se han mantenido altos estos años es una tarea compleja. Su buen comportamiento en prision, la ausencia de partes desde 2014 o las sucesivas salidas, tanto programadas como judiciales, llevarian a pensar en unos riesgos tendentes a cero. Sin embargo, sus niveles de RisCanvi no se han movido. 

Anneris Álava, educadora de la Fundacio Marianao que le acompaña desde hace años, apunta una hipotesis. Que el tipo de delito por el que entro en prision en 2011 -calificado como violento por el juez que le condeno- y su estado de intoxicacion por alcohol al cometerlo continuen hasta hoy penalizando a Omar. Ambas variables tienen un peso especialmente importante en la cocina algoritmica de RisCanvi.

A esto se podria añadir un tercer factor. Durante varios momentos de su cadena permisiva, el RisCanvi de Omar no se ha actualizado como establece el protocolo, es decir al menos cada medio año, advierte Monica Pons, jurista y compañera de Álava en el equipo que le acompaña. “Los informes que le llegaban al juez reflejaban una situacion que no era en la que se encontraba realmente”, apunta sobre las primeras denegaciones de permiso que enfrentaron.

Una mala praxis que de acuerdo a varios letrados entrevistados es hoy relativamente frecuente en las carceles catalanas, con problemas de personal y recursos desde hace tiempo. «Nos cuesta mucho que actualicen el RisCanvi. En teoria lo tienen que hacer cada seis meses, cuando tiene revision del grado, pero nos encontramos con que no ocurre», dice la letrada Pijoan. 

Carlos Castillo es cientifico de datos y profesor titular en la Universitat Pompeu Fabra (UPF) de Barcelona. Castillo y su equipo llevan años investigando los algoritmos de este sistema. Varios de estos estudios los han hecho ademas en colaboracion con el Departament de Justicia y con datos reales de reincidencia de presos previamente analizados por RisCanvi. 

Castillo explica que la precision de estos modelos predictivos es muy parecida a la de otras herramientas similares que se usan, tambien desde hace años, en paises como Canada, Estados Unidos y Reino Unido. «Si uno toma un par de internos, uno de los cuales ha reincidido y otro no, en algo mas del 70% de los casos RisCanvi le habra dado una puntuacion mas alta al interno que reincidio respecto al que no lo hizo. Pero en un 30% de los casos RisCanvi habra puntuado mas alto al que no cometio la reincidencia respecto al que si la cometio», resume Castillo. 

Esta metrica habitual para medir la fiabilidad de modelos predictivos -conocida como Área bajo la curva (AUC)-, explica este cientifico, se ha de interpretar como que el acierto del Riscanvi en un poco mas de siete de cada diez casos «permite ordenar internos desde el que tiene mas riesgo al que tiene menos». 

El restante 30% «entra dentro de incertezas que provienen del hecho de que no conocemos todos los antecedentes de la persona», ni lo que le ocurrira durante el resto de su vida. Como cualquier intento de adivinar lo que pasara en el futuro, concluye Castillo, «esa prediccion nunca es perfecta». 

«Vacio de garantias»

RisCanvi se creo hace decada y media a partir de la evidencia cientifica existente sobre que factores disparan o reducen el riesgo de que un interno reincida. La Generalitat se apoyo para esta tarea en un equipo universitario experto en la prediccion de la violencia. Desde entonces sus responsables de prisiones defienden que solo es un elemento informativo mas para los profesionales de los centros. RisCanvi, insisten en publico y en privado, sirve para «orientar» y «complementar» sus decisiones.

Los funcionarios encargados de validar los resultados del software, al hacer esta tarea ven en la pantalla de su ordenador un mensaje de advertencia que coincide con este enfoque. En el se lee que los niveles de riesgo de RisCanvi han de interpretarse «teniendo en cuenta el motivo y el contexto» y en ningun caso han de «condicionar las decisiones», segun una imagen a la que ha accedido Publico.

Las precauciones dentro de las prisiones catalanas contrastan con como los resultados de RisCanvi intervienen en sede judicial. Fuentes proximas al Tribunal Superior de Justicia de Catalunya, responsable de los jueces de vigilancia y las audiencias provinciales, confirman que no existe un criterio establecido entre los magistrados sobre como usar esta informacion. Y admiten que la formacion en torno a esta herramienta ha sido muy escasa, proviniendo principalmente del ICAB. 

El juez entrevistado menciona tambien un curso organizado antes de la pandemia por el Centre d’Estudis Juridics i Formacio Especialitzada, CEJFE, dependiente de Justicia, como la unica ocasion en la que han podido intercambiar impresiones con funcionarios de prisiones sobre este tema.

Este juez señala ademas la importancia de conocer que factores de riesgo valora el software para poder ponerlo en su verdadero contexto. «Si tu sabes el peso que tiene el ser inmigrante o tener una familia desestructurada, por ejemplo, tu grado de credibilidad o de fe ciega en el RisCanvi va a ser distinto», apunta. 

Durante varios meses, Publico ha tratado de entrevistar a un portavoz de la Fiscalia Superior de Catalunya, que declino inicialmente la peticion. Posteriormente, el fiscal coordinador de vigilancia penitenciaria Francisco J. Faus, en conversacion telefonica con este medio, defendio el uso que los fiscales hacen de los niveles de riesgo asignados por RisCanvi. Tambien su conocimiento sobre las limitaciones y fortalezas de este sistema para evaluar el riesgo de los internos. 

En 2024 la Union Europa aprobo un nuevo reglamento de inteligencia artificial que pone el foco en el uso de algoritmos en areas especialmente sensibles o de «alto riesgo». A estas aplicaciones se les exige unos requisitos de seguridad, control y transparencia especialmente exigentes. 

«Desde el punto de vista regulatorio, el uso de un sistema de IA debe ajustarse a la finalidad prevista por quien lo desarrolla y valida. Extender su utilizacion sin una evaluacion especifica puede generar un vacio de garantias», señala Judith Membrives i Llorens, responsable de Tecnologia y Derechos Humanos en Lafede, la principal federacion de ONG de Catalunya. Esta investigadora, que junto a otros actores de la sociedad civil europea lleva meses implicada en la defensa de una aplicacion garantista de la nueva regulacion, califica este uso como «desplazamiento de finalidad».

«Cuando herramientas diseñadas para orientar decisiones tecnicas se convierten en argumentos de autoridad en sede judicial, se diluye la frontera entre apoyo tecnico y delegacion de juicio. Y esa delegacion algoritmica tiene implicaciones profundas para el Estado de Derecho y la democracia», añade Membrives i Llorens.

Castillo hace una reflexion en la misma linea y califica el uso de RisCanvi en el ambito judicial como un «uso no anticipado, un uso no previsto». Y advierte de que «ese tipo de usos son los que normalmente llevan a situaciones de discriminacion y sesgo». «El RisCanvi es una herramienta para apoyar la decision de una junta de tratamiento. Para eso esta diseñada y para eso ha sido probada”, concluye.

El Departament de Justicia de la Generalitat ha declinado las reiteradas peticiones de Publico para entrevistar a un portavoz, como parte de esta investigacion. A preguntas por correo electronico sobre el uso de los resultados del RisCanvi por actores judiciales, fuentes oficiales aseguran que la Secretaria de Mesures Penals, Reinsercio i Atencio a la Victima, area responsable de los servicios penitenciarios, «facilita informacion unicamente a aquellos organos que esten legitimados normativamente para recibirla». 

«No obstante, no podemos atender consultas relativas al uso que otros organos judiciales o fiscales puedan hacer de dicha informacion», añaden estas fuentes.

Contacto con el exterior   

Contar con una foto detallada de como RisCanvi influye en los derechos de todos los presos catalanes es hoy dificil. A diferencia de lo que ocurre con las resoluciones de las audiencias provinciales –disponibles a traves del CENDOJ, el centro de documentacion del poder judicial-, los fallos de los juzgados de vigilancia penitenciaria no son publicos. 

Esto impide conocer de forma exhaustiva cuantos expedientes se frenan en esta primera instancia judicial a causa de estos algoritmos. A ello hay que añadir, ademas, que son pocos los internos que llegan hasta la segunda instancia, las audiencias. Debido a que solo un pequeño porcentaje recurre frente a una denegacion de permiso, señala Altamira Guelbenzu, abogada del colectivo IACTA y letrada en el turno de oficio.

Guelbenzu explica que la mayoria de los presos en Catalunya desconocen como presentar un recurso, o como acceder a un abogado de oficio que les ayude en esta tarea. «Existe una falta de informacion muy heavy» que se agrava en el caso de los internos extranjeros que no dominan el idioma, añade. «Todo esto hace que pocas veces estos casos lleguen a los juzgados y a las audiencias. Existe un agujero de informacion que dificulta ver la dimension de esto», concluye esta letrada. 

Anneris Álava, de la Fundacion Marianao, coincide en este analisis y aporta otra clave importante. «Se ha de partir de la base de que la gran mayoria de personas internas en centros penitenciarios no tienen los recursos economicos suficientes como para permitirse buenos abogados», apunta. 

La imposibilidad, en muchas ocasiones, de acceder a una defensa con garantias unida al peso de RisCanvi provoca que los internos vulnerables con frecuencia «no puedan disfrutar de beneficios penitenciarios» a pesar de reunir los requisitos para ello, reflexiona Álava. Una situacion en la que con probabilidad se habria visto Omar de no contar con el apoyo de la fundacion. 

Este hombre espigado llego a Catalunya siendo menor de edad desde un pais del Magreb. Fue un menor tutelado y paso por varios centros de acogida. Gracias a la Fundacio Marianao encontro su primer empleo, que le permitio vivir de forma independiente unos años. Pero al poco de entrar en la veintena todo se torcio. 

«Me he complicado la vida yo solo», afirma hoy. «La verdad, la libertad no la valoras hasta que la pierdes. Ahora mismo te digo que cuento los minutos, uno a uno, porque me dan horas…», reflexiona durante una de sus ultimas salidas de permiso. Los profesionales que trabajan dia a dia con la poblacion reclusa inciden en la importancia de los beneficios penitenciarios. Consideran que es un elemento clave para lograr un proceso de reinsercion exitoso, que permita a estas personas vivir de nuevo en sociedad sin delinquir. 

«Una parte muy importante de la condena, aparte de tratar la problematica que le haya llevado a delinquir, y en el momento en que esto ya se ha podido tratar, tambien es retomar el contacto con el exterior. Porque al final la condena se acaba y es con lo que esa persona se va a encontrar cuando salga», apunta Monica Pons.

«Una persona que lleva encerrada muchos años tiene que ir paulatinamente encontrandose de nuevo con esta sociedad, con todos los cambios que han ocurrido durante el tiempo que ha estado en el centro», añade su compañera Álava. De lo contrario, la probabilidad de que reincida, especialmente entre internos con algun problema de toxicomania y otros perfiles vulnerables, aumenta de forma exponencial, explica esta educadora. 

Omar rememora el enfado que sintio hace unos meses cuando le comunicaron, dentro de prision, que el juez se habia opuesto finalmente a su progresion de grado. «Ya estoy acostumbrado», dice con resignacion. 

«¿Que hago? ¿Voy a chillar? No, porque voy a perderlo todo. ¿Voy a echarles bronca? No, porque yo para ellos soy un numero mas. Cuando estas dentro, no es igual a como estamos sentados aqui. Eres un numero mas, les da igual. Tu chillas, te llama un funcionario, te chapan y ya pierdes todo. Hay que usar la cabeza».

Omar asegura que «ha tenido suerte» de tener el apoyo de esta fundacion. De lo contrario, su presente probablemente seria muy diferente y no veria el futuro con «optimismo», como hace ahora. «La primera vez que sali fui muy feliz porque llevaba muchos años dentro. Lo que ven todos los dias en libertad, tu no lo ves. Porque estas en un patio. Es otro mundo», concluye.