Algorismes que posen en joc les possibilitats d'eixir o no de presó

Fa ja diversos anys que, en les presons espanyoles, s'utilitzen algorismes per a intentar predir com es comportaran les persones preses. Cometrà Pau un nou delicte? Qualsevol delicte o un violent? Intentarà infringir la seua condemna?

Estes i altres preguntes són les que tracten de respondre's per mitjà de ferramentes informàtiques predictives a les presons. La informació que retornen estos sistemes es traduïx en nivells de risc. Per exemple, l'algorisme indica que Pablo presenta un risc alt de cometre un nou delicte violent.

I no sols això. Els nivells de risc que s'obtenen per este mig es tenen en compte en la presa de decisions penitenciàries que afecten la llibertat. Convé concedir a Laura un permís d'eixida de tres dies? És adequat classificar-la en tercer grau perquè complisca la pena en semillibertat? I concedir-li la llibertat condicional?

Inseguretat, gestió del risc i presons

El veloç desenrotllament tecnològic de les últimes dècades, la globalització i els processos de desregulació dels mercats i de debilitació de l'Estat social han generat nous perills i, sobretot, un clima d'incertesa i por. Amb tot això, s'ha generalitzat una sensació d'inseguretat que ha portat a parlar que vivim en una societat del risc.

Al voltant d'esta idea, les tècniques de detecció i control de riscos, pròpies del sector empresarial i de les assegurances, s'han estés a altres àmbits. La seua manifestació en el punitiu s'ha denominat new penology –nova penologia, la ciència que concernix a l'aplicació de castics– i ha portat al fet que el compliment de les penes de presó tendisca a guiar-se per models basats en el risc.

En estos models, l'objectiu és minimitzar-lo i, al mateix temps, utilitzar-lo com a informació que guie l'execució de la pena, i contribuir així a la pròpia gestió d'este. És a dir, el temps que Laura i Pablo romandrien tancats dependria dels seus nivells de risc i el tractament penitenciari tindria com a objectiu reduir eixos nivells al màxim.

Instruments per a mesurar el risc

Ací entren en joc els algorismes. En les presons, s'utilitzen ferramentes informàtiques basades en models predictius per a determinar els nivells de risc que presenten les persones preses a cada moment.

Es construïxen a partir d'estudis estadístics que indiquen que determinades variables (característiques de la persona, de la seua personalitat, del seu entorn sociofamiliar, de la seua situació actual o del seu passat, etc.) són factors de risc.

Per exemple, si estadísticament s'aprecia una correlació significativa entre no tindre recursos econòmics i cometre delictes, este serà un factor de risc que formarà part de la ferramenta. Després, l'algorisme combina eixes variables, els atorga diferents pesos –també en funció de dades estadístiques– i genera uns resultats en forma de nivells de risc.

Taula de Valoració de Risc i RisCanvi

En les presons espanyoles, hi ha dos ferramentes que s'utilitzen per a mesurar riscos amb base en algorismes: la TVR i el protocol RisCanvi.

D'una banda, la Taula de Valoració de Risc (TVR) va ser creada a principis de la dècada de 1990, per a usar-la únicament en la concessió de permisos d'eixida. No s'ha actualitzat des de llavors i este és un dels motius principals pels quals es qüestiona que siga fiable: quina capacitat predictiva té en l'actualitat, si funciona amb dades estadístiques de fa més de trenta anys? A més, en ella té un pes molt important la variable d'estrangeria: si una persona és estrangera, automàticament retorna entre un 85% i un 100% de probabilitats de trencament de la llei.

D'altra banda, RisCanvi és una ferramenta que s'utilitza des de l'any 2009 en les presons catalanes. S'aplica a totes les persones empresonades, de manera periòdica, per a totes les decisions.

Des que una persona ingressa en pressió, se li avalua amb RisCanvi, i en funció dels seus resultats, se li pauten uns programes de tractament. Cada vegada que cal prendre una decisió penitenciària important, com la concessió d'un permís o la classificació, es torna a aplicar el protocol.

RisCanvi és central en el model penitenciari català, del qual es pot afirmar que és un model basat en el risc. Un aspecte positiu de la ferramenta és que s'ha rebut actualitzacions, s'ha treballat en la millora de l'algorisme i, a més, ha sigut sotmesa a estudis crítics i auditories.

Aparences, biaixos i falsos positius

El mesurament de riscos en el mig penitenciari amb estes ferramentes es presenta com una tècnica científic-estadística basada en l'evidència empírica, i això genera problemes perquè els algorismes semblen objectius i infal·libles.

No obstant això, el concepte de risc no és neutre, sinó que es construïx cultural i políticament. A través d'ell, es reproduïxen biaixos discriminatoris als quals es dona aparença científica i que queden ocults en la foscor de l'algorisme.

A més, el mesurament del risc, com el càlcul de la probabilitat que ocórrega un succés, està condicionat pel tipus de succés de què es tracte. No és el mateix fer este càlcul sobre fenòmens físics, que es regixen per lleis naturals, que respecte al comportament d'una persona, molt més impredictible.

De fet, els estudis demostren que la capacitat predictiva dels algorismes en l'àmbit penitenciari és molt limitada: entorn de la mitat de les vegades fallen. I, sobretot, ho fan generant falsos positius: es detecta que hi ha risc que la persona torne a delinquir i, no obstant això, no ho fa.

En joc… la llibertat

El major problema dels algorismes a les presons és que puguen arribar a condicionar la llibertat.

Un resultat de risc alt impedirà que Pablo gaudisca del permís d'eixida que ha sol·licitat? Què ocorrerà si l'equip tècnic de la presó no està d'acord amb eixe nivell de risc? Com ho valorarà el jutjat de vigilància penitenciària? I com ho pot qüestionar la seua advocada?

Està prohibit que l'administració penitenciària prenga decisions basant-se exclusivament en algorismes. No obstant això, els qui participen en estos processos decisoris, tant des de l'Administració com en l'àmbit judicial, assenyalen la rellevància de la dada del risc i les dificultats que tenen per a contradir una informació que és aparentment científica –i que no saben com rebatre perquè no entenen com s'ha generat–.

L'ús d'algorismes té nombrosos avantatges i pot resultar molt positiu en determinats àmbits. No obstant això, quan la llibertat està en joc… cal traure'ls de la partida.

Lorena Alemán Aróstegui, Professora Ajudant Doctora en Dret Penal, Universitat Pública de Navarra

Este article va ser publicat originalment en The Conversation. Llija el original.