En Estados Unidos hay robots que influyen, y mucho, en la libertad de la gente. Y no hablamos adicción a los móviles, sino a pasar unos cuantos años en prisión. Tribunales de todo el país están utilizando software para predecir quién va a ser un futuro criminal.
El sistema, llamado COMPAS ("Correctional Offender Management Profiling for Alternative Sanctions"), ha sido diseñado para ser de ayuda en la toma de decisiones de los jueces, y pueden influir desde la fianza hasta la sentencia.
Las autoridades creen que esta tecnología puede ser de ayuda contra el racismo y los prejuicios. Estiman que un programa informático que maneje datos a través de un algoritmo permitirá hacer la justicia más justa.
El resultado, según una investigación de PropPublica, es aterrador: no solo el programa comete equivocaciones, sino que emite decisiones sesgadas contra las personas negras.
COMPAS puntúa a los detenidos según su peligrosidad, es decir, calcula las probabilidades de que cometan un nuevo delito. Los investigadores analizaron 7.000 puntuaciones que el software realizó con detenidos en el Condado de Broward, Florida, entre 2013 y 2014. Y esperaron para saber cuántas personas habían cumplido las expectativas de la máquina.
El resultado fue que el programa acusó falsamente a las personas negras de ser delincuentes con muchas más probabilidades de reincidir. La tasa, respecto a los acusados blancos, es de casi el doble. Por el contrario, los detenidos de raza blanca fueron mal clasificados con perfiles de bajo riesgo: en muchos casos, esos delincuentes volvieron a ser detenidos.
El siguiente caso, el de Dylan Fugett y Bernard Parker, es uno de los que se hallaron: dos acusados, uno negro y uno blanco, recibieron puntuaciones muy diferentes a acusaciones similares.
En febrero de 2013, Fugett, de 20 años, fue acusado de un delito grave por posesión de cocaína, y de dos delitos menores por posesión de marihuana y utensilios relacionados con el consumo. Tenía antecendentes: en 2010, fue acusado de un delito grave por un intento de robo.
En su caso, Bernard Parker, de 21 años, fue detenido por la policía mientras conducía en enero de 2013. Los agentes comprobaron que tenía documentación caducada y encontraron 28 gramos de marihuana en el coche. Fue acusado de delito grave de posesión de drogas con intención de venta.
Parker también tenía antecedentes: en 2011, fue detenido por huir la policía y arrojar una bolsa sospechosa de contener cocaína.
Con el paso de los meses, la realidad no solo ha demostrado que el software exageró la puntuación del joven negro, sino que erró en sus previsiones. Durante 2013 Fugett fue sorprendido dos veces más llevando marihuana, y en 2015 fue detenido bajo orden de arresto y fue acusado de posesión de marihuana con intención de venta.
Parker no comentió ningún delito más.
La investigación de Propublica muestra muchos casos similares a este. No solo es alarmante que un algoritmo pueda ser racista; lo peor es que el sistema de justicia de un país democrático está utilizando una tecnología imperfecta, sesgada, como si fuera objetiva.
Son muchas las películas de ficción que alertan sobre un futuro en el que las máquinas se rebelan contra el hombre. Que el hombre utilice los avances tecnológicos para ir contra otros hombres no es ninguna novedad: nada más hay que observar la maquinaria bélica. Lo sorprendente es que lo haga en nombre de la igualdad y la lucha contra la discriminación racial.
