A Policía Nacional deixa de usar Veripol, a súa IA estrela para detectar denuncias falsas

“Trátase da primeira ferramenta deste tipo no mundo”, afirmaba unha nota de prensa publicada pola Policía Nacional. Veripol foi presentada en 2018 como un algoritmo capaz de detectar denuncias falsas de roubo con violencia, cunha precisión superior ao 90 %. En outubro de 2024, seis anos despois, esta IA deixou de estar operativa.

O abandono de Veripol chega tres meses despois da publicación no BOE do Regulamento europeo sobre intelixencia artificial, que inclúe os polígrafos entre as IA “de alto risco”, para as que se prevén obrigas moi estritas no relativo á revisión, actualización e transparencia. A finais de setembro, un informe elaborado por especialistas en dereito e matemáticas da Universidade de Valencia sinalaba graves deficiencias na ferramenta. A primeira delas, a falta de información sobre o seu funcionamento.

Segundo datos de Algorithm Watch, desde a súa implementación ata outubro de 2020, Veripol utilizouse para analizar arredor de 84.000 denuncias. Das 49.702 denuncias que foron procesadas en 2019, 2.338 foron identificadas como falsas tanto por esta ferramenta como por outros medios. A análise da Universidade de Valencia sinala deficiencias serias na ferramenta, que comezan xa desde o seu propio deseño: a idea de base de que o 57 % das denuncias de roubo con violencia que se presentan son falsas, cifra que toma como referente o elevado número de casos de roubo sen resolver. Tamén critica o escaso tamaño da mostra, de pouco máis dun milleiro de denuncias fronte aos aproximadamente 60.000 casos de roubo con violencia que se rexistran cada ano en España, segundo o Portal Estatístico de Criminalidade. Ou a falta dun protocolo de uso e de información sobre a formación impartida aos axentes da policía para manexala. Unha noticia publicada en 2020 por La Voz de Galicia alertaba de que a comisaría de Vigo, que contaba co programa desde 2018, non podía usalo pola falta de formación do seu persoal. Tamén destaca que as denuncias analizadas por Veripol foron realmente redactadas por axentes da policía, polo que non constitúen unha reprodución literal da declaración da persoa denunciante. “Non analiza a historia que o posible mentireiro lle está contando á policía, senón que analiza a historia que o propio axente escribe”, subliña o informe, que engade que a ferramenta tampouco ten en conta as diferenzas lingüísticas entre territorios.

Información traducida e adaptada do portal Civio (licencia CC BY-SA 3.0)

Podedes obter máis información das expectativas iniciais nesta noticia de RTVE.