La Policía Nacional deja de usar Veripol, su IA estrella para detectar denuncias falsas

“Se trata de la primera herramienta de este tipo en el mundo”, afirmaba una nota de prensa publicada por la Policía Nacional. Veripol fue presentada en 2018 como un algoritmo capaz de detectar denuncias falsas de robo con violencia, con una precisión superior al 90%. En octubre de 2024, seis años después, esta IA dejó de estar operativa.

El abandono de Veripol llega tres meses después de la publicación en el BOE del Reglamento europeo sobre inteligencia artificial, que incluye los polígrafos entre las IA "de alto riesgo", para las que se prevén obligaciones muy estrictas en lo relativo a revisión, actualización y transparencia. A finales de septiembre, un informe elaborado por especialistas en derecho y matemáticas de la Universidad de Valencia señalaba graves deficiencias en la herramienta. La primera de ellas, la falta de información sobre su funcionamiento.

Según datos de Algorithm Watch, desde su implementación hasta octubre de 2020, Veripol se utilizó para analizar alrededor de 84.000 denuncias. De las 49.702 denuncias que fueron procesadas en 2019, 2.338 fueron identificadas como falsas tanto por esta herramienta como por otros medios. El análisis de la Universidad de Valencia señala deficiencias serias en la herramienta, que comienzan ya desde su propio diseño: la idea de base de que el 57% de las denuncias de robo con violencia que se presentan son falsas, cifra que toma como referente el elevado número de casos de robo sin resolver. También critica el escaso tamaño de la muestra, de poco más de un millar de denuncias frente a los aproximadamente 60.000 casos de robo con violencia que se registran cada año en España, según el Portal Estadístico de Criminalidad. O la falta de un protocolo de uso y de información sobre la formación impartida a los agentes de policía para manejarla. Una noticia publicada en 2020 por La Voz de Galicia alertaba de que la comisaría de Vigo, que contaba con el programa desde 2018, no podía usarlo por falta de formación de su personal. También destaca que las denuncias analizadas por Veripol fueron realmente redactadas por agentes de policía, por lo que no constituyen una reproducción literal de la declaración de la persona denunciante. "No analiza la historia que el posible mentiroso le está contando a la policía, sino que analiza la historia que el propio agente escribe", subraya el informe, que añade que la herramienta tampoco tiene en cuenta las diferencias lingüísticas entre territorios.

Información traducida y adaptada del portal Civio (licencia CC BY-SA 3.0)

Podéis obtener más información sobre las expectativas iniciales en esta noticia de RTVE.