En una resolución adoptada con 377 votos a favor, 248 en contra y 62 abstenciones, los eurodiputados advirtieron de los sesgos en que incurren los algoritmos y enfatizó la necesidad de incorporar supervisión humana y controles jurídicos para evitar discriminación, en particular cuando se utiliza la inteligencia artificial en los controles fronterizos.

Para el PE, las decisiones finales siempre deben adoptarlas personas, recalcaron los eurodiputados, y las personas sujetas a este tipo de herramientas han de poder apelar sus decisiones.

La resolución enfatizó en que muchas tecnologías de identificación basadas en algoritmos cometen más errores al identificar y clasificar a personas racializadas o pertenecientes a determinadas comunidades étnicas, a personas LGBTI, a niños y personas mayores, y también a mujeres.

Para garantizar el respeto de los derechos fundamentales, los eurodiputados pidieron que los algoritmos sean transparentes, rastreables y dejar huella documental. Además, apuntaron, siempre que sea posible, las autoridades deben utilizar programas de código abierto para contribuir también a la transparencia.

ESPACIOS PÚBLICOS

En aras de la privacidad y la dignidad humana, los eurodiputados instaron a prohibir de manera permanente los sistemas de reconocimiento automático en espacios públicos, y dejaron claro que los ciudadanos solamente deben ser sometidos a vigilancia si son sospechosos de haber cometido un delito. Las bases de datos privadas de reconocimiento facial (como Clearview, que ya funciona, principalmente en Estados Unidos) y las técnicas predictivas basadas en datos de comportamiento deben quedar también prohibidas, agregó el Parlamento Europeo.

Los eurodiputados rechazaron, asimismo, los sistemas de puntuación social de los ciudadanos a los que se otorga una clasificación en función de su comportamiento o personalidad. En esta línea, el Parlamento mostró su preocupación por la utilización de datos biométricos para la identificación a distancia de personas. El texto alude en concreto al proyecto ‘iBorderCtrl’, un “sistema inteligente de detección de mentiras” y que se ha usado en pruebas en Hungría, Letonia y Grecia en el marco del control de entradas en territorio europeo. Los eurodiputados animan a la Comisión a iniciar procedimientos de infracción contra los Estados miembros en caso necesario.

El ponente de la resolución, Peter Vitanov, del grupo S&D, destacó que “por primera vez, pedimos una moratoria en el despliegue de los sistemas de reconocimiento facial en el ámbito policial”, pues la tecnología “se ha demostrado ineficaz y a menudo discriminatoria”.