En el marc de l’aprovació al Parlament europeu de la AI Act, la primera llei del món que regula els efectes de la Intel·ligència Artificial, Lafede.cat llança la campanya Sospitoses per la Cara, per a recordar els riscos que comporta la vigilància massiva lligada a les tecnologies de reconeixement facial. La federació demana la seva prohibició total en l’espai públic i sense excepcions, en la mateixa línia que defensen organitzacions europees de defensa de drets digitals, com EDRi i Access Now.
Aquesta setmana el ple del Parlament europeu vota l’AI Act, una llei fonamental per a regular els impactes de la Intel·ligència Artificial i protegir els drets fonamentals de la ciutadania. La proposta inclou la prohibició de la vigilància biomètrica, reconeixement d’emocions i sistemes de IA de vigilància predictiva.
En aquest marc, Lafede.cat, la federació catalana que aglutina 124 organitzacions socials de cooperació i drets humans, ha llançat el vídeo i la campanya Sospitoses per la Cara, per a recordar els riscos que comporta la vigilància massiva lligada a les tecnologies de reconeixement facial. La federació demana la seva prohibició total en l’espai públic i sense excepcions, en la mateixa línia que defensen organitzacions europees de defensa de drets digitals, com EDRi i Access Now. De fet, des de l’ONU també s’ha alertat sobre l’afectació democràtica i de drets que pot tenir aquesta tecnologia.
Usos intrusius i discriminatoris
El text que vota el Parlament Europeu recull una llista de sistemes de IA d’alt risc, és a dir, amb usos intrusius o discriminatoris, i proposa la seva prohibició. Entre ells es troben els sistemes d’identificació biomètrica en temps real i també post (a excepció de les forces de l’ordre per a la persecució de delictes greus i només prèvia autorització judicial) o la recollida indiscriminada de dades biomètriques de les xarxes socials o imatges de càmeres de videovigilància per a crear bases de dades de reconeixement facial (violant els drets humans i el dret a la privacitat).
Segons ha pogut saber la federació, el Partit Popular Europeu ha presentat algunes esmenes al text amb l’objectiu de modificar aquesta prohibició i fonts de Brussel·les apunten al fet que serà un dels punts clau en els diàlegs a tres (la negociació per al reglament final entre el Consell – presidit per Espanya a partir de l’1 de Juliol- i l’Europarlament).
Lafede.cat, juntament amb més de 60 organitzacions de la societat civil de tot l’Estat espanyol, demana als representants espanyols que garanteixin l’aprovació del text de l’Europarlament tal com està ara, per a salvaguardar els drets fonamentals. “Demanem a la Presidència Espanyola del Consell que prioritzi la protecció de drets fonamentals i garanteixi que el reconeixement facial no serà una tecnologia del control i opressió més“, afirma Laura Riba, vocal de digitalització en la junta de la federació.
Imatge del vídeo #Sospitosesperla Cara, protagonitzat per personatges generats en imatge i veu per Intel·ligència Artificial
Vulneració de la privacitat i la llibertat de moviment
El reconeixement facial implica recollir, identificar i monitorar una dada biomètrica altament sensible que no podem canviar fàcilment: la nostra cara. Permet que es puguin crear perfils a partir de les nostres rutines, de com vestim, o de com expressem les emocions. Lafede.cat alerta que la vigilància massiva que propicia aquesta tecnologia posa en risc drets fonamentals.
El reconeixement facial pot provocar, per exemple, que canviem i reprimim el nostre comportament en saber-nos vigilades. Això posa limitacions a l’autonomia de les persones i al gaudi dels espais públics. A més, hi ha casos documentats que aquesta tecnologia pot amplificar biaixos i discriminacions contra minories i grups vulnerabilitzats, com les persones racialitzades. Les organitzacions socials insten a garantir, de manera especial, els drets de les persones migrants.
Lafede.cat apunta també que els sistemes de reconeixement facial han demostrat ja que tenen una taxa d’error elevada, han estat prohibits en algunes ciutats i alerta de l’amenaça que suposen per a la presumpció d’innocència i la llibertat democràtica dels ciutadans i ciutadanes.
Més informació
- Vídeo Sospitoses per la cara (amb subtítols en català i en castellà).
- 5 targetons amb els motius pels quals Lafede.cat diu “NO” al reconeixement facial a l’espai públic (en català i en castellà).