La predicción criminal con algoritmos ya no es ciencia ficción. Existe, funciona —o eso dicen quienes la venden— y se está usando ahora mismo en varios países para decidir cosas tan serias como a quién vigilar, a quién detener antes de que actúe o a quién negar la libertad condicional. El nombre técnico es predictive policing, y la pregunta que debería quitarnos el sueño no es si la tecnología puede predecir el crimen. La pregunta es: ¿qué pasa cuando se equivoca, y quién paga el precio?
Minority Report no era una película futurista: era un aviso
En 2002, Steven Spielberg nos mostró una sociedad donde la policía arrestaba a personas antes de que cometieran ningún delito, basándose en visiones de unos oráculos. La película se presentó como distopía. Veinte años después, la realidad se ha puesto al día de una forma que incomoda bastante.
Sistemas como PredPol, Palantir o ShotSpotter llevan años desplegados en ciudades estadounidenses. En el Reino Unido, la policía del condado de Durham usó un algoritmo llamado HART para clasificar a detenidos según su probabilidad de reincidir. En China, el sistema de crédito social va mucho más allá: monitoriza comportamientos cotidianos y asigna puntuaciones que condicionan el acceso a servicios. Cada uno de estos sistemas parte de la misma premisa: los datos del pasado permiten predecir el futuro.
Y aquí está el primer problema: los datos del pasado están llenos de sesgos del pasado.
Cómo funciona la predicción criminal con algoritmos
La mecánica básica no es muy distinta a la del algoritmo que te recomienda series en Netflix. El sistema ingiere enormes volúmenes de datos históricos —arrestos previos, localización geográfica, historial judicial, relaciones sociales conocidas, llamadas telefónicas en algunos casos— y busca patrones. A partir de esos patrones, genera una puntuación de riesgo asociada a una persona o a una zona concreta.
Hay dos grandes familias de sistemas. Los que predicen dónde va a ocurrir un delito (predicción geográfica) y los que predicen quién tiene más probabilidades de cometerlo (predicción individual). Los primeros son más fáciles de defender éticamente: vigilar más una calle no implica acusar a nadie en concreto. Los segundos son mucho más problemáticos, porque etiquetan personas.
En Estados Unidos, el sistema COMPAS —Correctional Offender Management Profiling for Alternative Sanctions— se usó durante años para recomendar sentencias judiciales. Una investigación de ProPublica en 2016 reveló algo perturbador: el algoritmo clasificaba erróneamente a personas negras como de alto riesgo el doble de veces que a personas blancas. La empresa creadora del sistema negó el sesgo. El debate académico sigue abierto. El daño, no.
No es un caso aislado. Ya vimos algo parecido cuando analizamos cómo enseñamos a las máquinas nuestros prejuicios y estas simplemente los amplifican y nos los devuelven con aspecto de objetividad científica.
El problema de la profecía autocumplida
Imagina que el algoritmo identifica un barrio como de alto riesgo. La policía despliega más efectivos allí. Al haber más policía, se producen más arrestos —aunque la tasa de delitos sea similar a la de otros barrios—. Esos nuevos arrestos alimentan de nuevo el sistema. El sistema confirma que ese barrio es peligroso. Se despliegan más efectivos. Y así sucesivamente.
Este mecanismo tiene nombre: bucle de retroalimentación sesgado. No es una hipótesis teórica. Investigadores de la Universidad de Santa Cruz lo documentaron específicamente en el sistema PredPol, demostrando que el algoritmo generaba exactamente ese tipo de bucle en barrios de mayoría afroamericana en Oakland.
El problema de fondo es que el algoritmo no mide la criminalidad real: mide la criminalidad detectada. Y la criminalidad detectada depende de dónde mira la policía. Si solo miras en ciertos sitios, solo encuentras cosas en ciertos sitios. El sistema se convierte en un espejo que amplifica lo que ya creías ver.
Esto conecta directamente con algo que ya exploramos al preguntarnos si un algoritmo puede realmente evaluar a una persona con justicia, cuando sus datos de entrenamiento reflejan decisiones humanas históricamente sesgadas.
¿Qué países lo están usando y cómo?
Estados Unidos fue el pionero, pero está lejos de ser el único. En los Países Bajos se desarrolló el sistema COMPAS-NL, adaptado al contexto europeo. En Alemania, el programa PRECOBS analiza datos de robos para predecir dónde se producirá el siguiente. En España, la Policía Nacional ha utilizado herramientas de análisis predictivo para el crimen organizado, aunque con mucho menos debate público del que merece el asunto.
En el extremo más radical está China, donde el sistema de vigilancia predictiva lleva el concepto a otro nivel: combina reconocimiento facial, análisis de movimiento, historial de compras y actividad en redes sociales para identificar a ciudadanos considerados potencialmente problemáticos. No solo predice delitos; predice disidencia.
La diferencia no es solo tecnológica. Es política. El mismo tipo de herramienta puede usarse para anticipar robos en serie o para identificar activistas. La tecnología no tiene intención propia; la tienen quienes la despliegan.
La caja negra ante el juez
Uno de los problemas más graves de estos sistemas es su opacidad. Muchos son software propietario, lo que significa que ni el acusado ni su abogado ni, en algunos casos, el propio juez pueden examinar cómo el algoritmo llegó a su conclusión.
En el caso State v. Loomis (Wisconsin, 2016), un tribunal aceptó una puntuación de COMPAS como elemento para determinar la condena. La defensa alegó que usar un algoritmo secreto vulneraba el derecho a un juicio justo. El Tribunal Supremo de Wisconsin falló en contra. El reo fue condenado parcialmente en base a un proceso que no podía cuestionar porque nadie le explicaba cómo funcionaba.
Aquí entra en juego algo que ya advertimos en otro contexto: la IA no elimina el juicio humano, lo desplaza. El juez sigue firmando la sentencia, pero ha externalizado parte de su criterio a un sistema que no comprende del todo. ¿Quién es entonces responsable del error?
¿Funciona realmente? Los datos son más modestos de lo que parece
La industria del predictive policing factura cientos de millones de dólares al año. Sus presentaciones comerciales prometen tasas de acierto impresionantes. La realidad, cuando investigadores independientes han podido examinar los datos, es bastante más prosaica.
Un estudio publicado en Nature Human Behaviour en 2021 analizó ocho algoritmos de predicción criminal y concluyó que ninguno superaba significativamente la capacidad predictiva de un agente de policía con experiencia. Y en algunos casos, el agente humano era más preciso. No porque los humanos seamos mejores procesando datos, sino porque el contexto, la intuición y la información no estructurada siguen siendo difíciles de codificar.
Los defensores del sistema argumentan que no se trata de sustituir al policía sino de ayudarle a enfocar recursos limitados. Es un argumento razonable en teoría. En la práctica, la automatización tiene un efecto conocido: lo que el algoritmo dice tiende a convertirse en verdad incuestionable. El sesgo de automatización hace que la gente confíe más en el sistema que en su propio juicio.
Europa frena, pero no para
La Unión Europea aprobó en 2024 la Ley de Inteligencia Artificial, que clasifica los sistemas de IA de alto riesgo usados en el ámbito judicial y policial con requisitos estrictos de transparencia y auditoría. Los sistemas de puntuación de riesgo individual para uso policial quedan bajo vigilancia especial. Algunos usos concretos, como la predicción de delitos basada únicamente en perfiles demográficos, quedan directamente prohibidos.
Es un paso importante. Pero la ley tiene lagunas, los plazos de implementación son largos, y los sistemas ya desplegados en varios estados miembros seguirán funcionando mientras se resuelve la transición. Legislar tecnología siempre va con retraso respecto a la tecnología misma, y en este campo el retraso se mide en libertades afectadas.
Además, el debate sobre el costo oculto de toda esta infraestructura rara vez aparece en las conversaciones públicas. Como ocurre con el consumo de recursos que exige la IA, hay dimensiones del problema que quedan fuera del foco mediático mientras la conversación se concentra en el titular más llamativo.
La ética de la presunción: ¿puedes ser culpable de lo que no has hecho?
Hay una pregunta filosófica en el centro de todo esto que los debates técnicos tienden a esquivar: ¿es legítimo tratar a alguien como sospechoso por lo que podría hacer?
El principio de presunción de inocencia es uno de los pilares del derecho moderno. No eres culpable hasta que se demuestre lo contrario. Los sistemas de predicción criminal invierten esa lógica de forma sutil: no te declaran culpable, pero te tratan como riesgo. La diferencia puede parecer técnica. Sus consecuencias no lo son.
Una persona identificada como de alto riesgo puede recibir más controles, tener menos acceso a programas de reinserción, ver condicionada su libertad condicional o simplemente vivir bajo un escrutinio que no le correspondería sin esa etiqueta. Y todo ello sin haber cometido ningún delito, sin poder apelar un número, sin saber exactamente por qué el sistema la señaló.
La incapacidad de la IA para reconocer sus propios errores adquiere aquí una dimensión especialmente preocupante: el sistema no sabe que se está equivocando, y quien recibe el daño tampoco puede demostrarlo.
Lo que los datos no pueden capturar
Hay algo que todos estos sistemas tienen en común: parten de la asunción de que el comportamiento humano futuro se puede inferir del comportamiento pasado. Que somos, en cierta medida, predecibles. Que el contexto social, económico y personal puede reducirse a variables.
Y en términos estadísticos, hay algo de verdad en eso. Las poblaciones son predecibles. Los individuos, mucho menos. El delito que el algoritmo prevé que cometerás quizás jamás lo cometas. Puede que hayas cambiado. Puede que el sistema no tenga en cuenta que encontraste trabajo, que dejaste de frecuentar ciertas personas, que algo en tu vida se recompuso.
Los seres humanos cambiamos. Los algoritmos, hasta que alguien los reentrena, no.
Esto enlaza con una discusión más amplia sobre qué tipo de inteligencia artificial existe realmente hoy: sistemas que reconocen patrones en datos históricos, no mentes que comprenden contextos humanos complejos. La diferencia importa enormemente cuando lo que está en juego es la libertad de alguien.
¿Qué ocurre cuando un algoritmo decide quién merece una segunda oportunidad?
La predicción criminal con algoritmos nos obliga a hacernos preguntas que van mucho más allá de la tecnología. Hablan de qué tipo de sociedad queremos construir, de si estamos dispuestos a sacrificar la presunción de inocencia en nombre de la eficiencia, de quién paga el precio de los errores del sistema y de si hay errores que simplemente no son aceptables aunque el promedio sea correcto.
La tecnología, como siempre, no es el problema en sí misma. El problema es la velocidad con la que la estamos desplegando antes de responder esas preguntas. Y el hecho de que las personas que más probabilidades tienen de ser señaladas por estos sistemas son, sistemáticamente, las que menos voz tienen para cuestionarlos.
Si un algoritmo decidiera mañana que tú eres un riesgo, ¿sabrías cómo rebatirlo? ¿Ante quién? ¿Con qué pruebas? ¿Podrías demostrar que no vas a hacer algo que todavía no has hecho? La pregunta no es retórica. Para algunas personas, ya es completamente real.
Preguntas frecuentes
¿Qué es el predictive policing y cómo funciona?
El predictive policing es el uso de algoritmos para anticipar dónde o quién podría cometer un delito, antes de que ocurra. Los sistemas analizan datos históricos —arrestos previos, zonas geográficas, perfiles demográficos— y generan puntuaciones de riesgo. Se usa tanto para desplegar patrullas en zonas concretas como para influir en decisiones judiciales sobre sentencias y libertades condicionales.
¿Es cierto que estos algoritmos discriminan por raza?
Hay evidencia documentada de que sí lo hacen en algunos sistemas. La investigación de ProPublica sobre COMPAS demostró que clasificaba erróneamente a personas negras como de alto riesgo con el doble de frecuencia que a personas blancas. Esto no suele ser intencionado: el sesgo viene de los datos de entrenamiento, que reflejan desigualdades históricas en el sistema policial y judicial.
¿Se usa este tipo de software en España?
Sí, aunque con menor visibilidad pública que en Estados Unidos. La Policía Nacional ha utilizado herramientas de análisis predictivo, especialmente en el ámbito del crimen organizado. El debate ciudadano sobre su uso, sus garantías y su supervisión es prácticamente inexistente en comparación con el que existe en otros países europeos o en Norteamérica.
¿La nueva ley europea de IA prohíbe estos sistemas?
No los prohíbe del todo, pero sí los regula con dureza. La Ley de IA de la UE los clasifica como de alto riesgo y exige transparencia, supervisión humana y auditorías. Algunos usos específicos, como crear perfiles de riesgo basados únicamente en características demográficas, quedan prohibidos. El problema es que la implementación es progresiva y hay sistemas ya activos en varios países miembros.
¿Debería preocuparme por este tipo de vigilancia si no tengo antecedentes?
La preocupación no depende solo de los antecedentes propios. Estos sistemas pueden señalarte por el barrio donde vives, las personas con las que te relacionas o patrones estadísticos ajenos a tu conducta real. Además, la opacidad de muchos algoritmos hace difícil saber si estás siendo evaluado y prácticamente imposible impugnar esa evaluación si no la conoces.
¿Funciona realmente la predicción criminal o es marketing?
Los resultados independientes son mucho más modestos de lo que prometen los vendedores. Un análisis publicado en Nature Human Behaviour concluyó que ninguno de los ocho algoritmos estudiados superaba de forma significativa la capacidad predictiva de un agente experimentado. La eficacia real es cuestionable; el impacto sobre los derechos civiles de quienes son señalados, en cambio, es muy concreto.
