En el marc de l’aprovació al Parlament europeu de la AI Act, la primera llei del món que regula els efectes de la Intel·ligència Artificial, Lafede.cat llança la campanya Sospitoses per la Cara, per a recordar els riscos que comporta la vigilància massiva lligada a les tecnologies de reconeixement facial. La federació demana la seva prohibició total en l’espai públic i sense excepcions, en la mateixa línia que defensen organitzacions europees de defensa de drets digitals, com EDRi i Access Now.
Aquesta setmana el ple del Parlament europeu vota l’AI Act, una llei fonamental per a regular els impactes de la Intel·ligència Artificial i protegir els drets fonamentals de la ciutadania. La proposta inclou la prohibició de la vigilància biomètrica, reconeixement d’emocions i sistemes de IA de vigilància predictiva.
En aquest marc, Lafede.cat, la federació catalana que aglutina 124 organitzacions socials de cooperació i drets humans, ha llançat el vídeo i la campanya Sospitoses per la Cara, per a recordar els riscos que comporta la vigilància massiva lligada a les tecnologies de reconeixement facial. La federació demana la seva prohibició total en l’espai públic i sense excepcions, en la mateixa línia que defensen organitzacions europees de defensa de drets digitals, com EDRi i Access Now. De fet, des de l’ONU també s’ha alertat sobre l’afectació democràtica i de drets que pot tenir aquesta tecnologia.
Usos intrusius i discriminatoris
El text que vota el Parlament Europeu recull una llista de sistemes de IA d’alt risc, és a dir, amb usos intrusius o discriminatoris, i proposa la seva prohibició. Entre ells es troben els sistemes d’identificació biomètrica en temps real i també post (a excepció de les forces de l’ordre per a la persecució de delictes greus i només prèvia autorització judicial) o la recollida indiscriminada de dades biomètriques de les xarxes socials o imatges de càmeres de videovigilància per a crear bases de dades de reconeixement facial (violant els drets humans i el dret a la privacitat).
Segons ha pogut saber la federació, el Partit Popular Europeu ha presentat algunes esmenes al text amb l’objectiu de modificar aquesta prohibició i fonts de Brussel·les apunten al fet que serà un dels punts clau en els diàlegs a tres (la negociació per al reglament final entre el Consell – presidit per Espanya a partir de l’1 de Juliol- i l’Europarlament).
Lafede.cat, juntament amb més de 60 organitzacions de la societat civil de tot l’Estat espanyol, demana als representants espanyols que garanteixin l’aprovació del text de l’Europarlament tal com està ara, per a salvaguardar els drets fonamentals. “Demanem a la Presidència Espanyola del Consell que prioritzi la protecció de drets fonamentals i garanteixi que el reconeixement facial no serà una tecnologia del control i opressió més“, afirma Laura Riba, vocal de digitalització en la junta de la federació.
Vulneració de la privacitat i la llibertat de moviment
El reconeixement facial implica recollir, identificar i monitorar una dada biomètrica altament sensible que no podem canviar fàcilment: la nostra cara. Permet que es puguin crear perfils a partir de les nostres rutines, de com vestim, o de com expressem les emocions. Lafede.cat alerta que la vigilància massiva que propicia aquesta tecnologia posa en risc drets fonamentals.
El reconeixement facial pot provocar, per exemple, que canviem i reprimim el nostre comportament en saber-nos vigilades. Això posa limitacions a l’autonomia de les persones i al gaudi dels espais públics. A més, hi ha casos documentats que aquesta tecnologia pot amplificar biaixos i discriminacions contra minories i grups vulnerabilitzats, com les persones racialitzades. Les organitzacions socials insten a garantir, de manera especial, els drets de les persones migrants.
Lafede.cat apunta també que els sistemes de reconeixement facial han demostrat ja que tenen una taxa d’error elevada, han estat prohibits en algunes ciutats i alerta de l’amenaça que suposen per a la presumpció d’innocència i la llibertat democràtica dels ciutadans i ciutadanes.
Més informació
- Vídeo Sospitoses per la cara (amb subtítols en català i en castellà).
- 5 targetons amb els motius pels quals Lafede.cat diu “NO” al reconeixement facial a l’espai públic (en català i en castellà).
[:es]En el marco de la aprobación en el Parlamento europeo de la AI Act, la primera ley del mundo que regula los efectos de la Inteligencia Artificial, Lafede.cat lanza la campaña Sospechosas por la Cara, para recordar los riesgos que comporta la vigilancia masiva ligada a las tecnologías de reconocimiento facial. La federación pide su prohibición total en el espacio público sin excepciones, en la misma línea que defienden organizaciones europeas de defensa de derechos digitales, como EDRi y Access Now.
Esta semana el pleno del Parlamento europeo vota la AI Act, una ley fundamental para regular los impactos de la Inteligencia Artificial y proteger los derechos fundamentales de la ciudadanía. La propuesta incluye la prohibición de la vigilancia biométrica, reconocimiento de emociones y sistemas de IA de vigilancia predictiva.
En este marco, Lafede.cat ha lanzado hoy el vídeo y la campaña Sospechosas por la Cara, para recordar los riesgos que comporta la vigilancia masiva ligada a las tecnologías de reconocimiento facial. La federación pide su prohibición total en el espacio público y sin excepciones, en la misma línea que defienden organizaciones europeas de defensa de derechos digitales, como EDRi y Access Now. De hecho, desde la ONU también se ha alertado acerca de la afectación democrática y de derechos que puede tener esta tecnología.
Usos intrusivos y discriminatorios
El texto que vota el Parlamento Europeo recoge una lista de sistemas de IA de alto riesgo, es decir, con usos intrusivos o discriminatorios, y propone su prohibición. Entre ellos se encuentran los sistemas de identificación biométrica en tiempo real y también post (a excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial) o la recogida indiscriminada de datos biométricos de las redes sociales o imágenes de cámaras de videovigilancia para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).
Según ha podido saber la federación, el Partido Popular Europeo ha presentado algunas enmiendas al texto con el objetivo de modificar esa prohibición y fuentes de Bruselas apuntan a que será uno de los puntos clave en los trílogos (la negociación para el reglamento final entre el Consejo – presidido por España a partir del 1 de Julio- y el Europarlamento).
Lafede.cat, junto con más de 60 organizaciones de la sociedad civil de todo el Estado español, pide a los representantes españoles que garanticen la aprobación del texto del Europarlamento tal y como está ahora, para salvaguardar los derechos fundamentales. “Pedimos a la Presidencia Española del Consejo que priorice la protección de derechos fundamentales y garantice que el reconocimiento facial no será una tecnología del control y opresión más“, afirma Laura Riba, vocal de digitalización en la junta de la federación.
Vulneración de la privacidad y la libertad de movimiento
El reconocimiento facial implica recoger, identificar y monitorizar un dato biométrico altamente sensible que no podemos cambiar fácilmente: nuestra cara. Permite que se puedan crear perfiles a partir de nuestras rutinas, de cómo vestimos, o de cómo expresamos las emociones. Lafede.cat alerta de que la vigilancia masiva que propicia esta tecnología pone en riesgo derechos fundamentales.
El reconocimiento facial puede provocar, por ejemplo, que cambiemos y reprimamos nuestro comportamiento al sabernos vigiladas. Esto pone limitaciones a la autonomía de las personas y al disfrute de los espacios públicos. Además, hay casos documentados de que esta tecnología puede amplificar sesgos y discriminaciones contra minorías y grupos vulnerabilizados, como las personas racializadas. Las organizaciones sociales instan a garantizar, de manera especial, los derechos de las personas migrantes.
Lafede.cat apunta también que los sistemas de reconocimiento facial han demostrado ya que tienen una tasa de error elevada, han sido prohibidos en algunas ciudades y alerta de la amenaza que suponen para la presunción de inocencia y la libertad democrática de los ciudadanos y ciudadanas.
Más información
- Vídeo “Sospechosas por la cara” (con subtítulos en català i en castellano).
En el marco de la aprobación en el Parlamento europeo de la AI Act, la primera ley del mundo que regula los efectos de la Inteligencia Artificial, Lafede.cat lanza la campaña Sospechosas por la Cara, para recordar los riesgos que comporta la vigilancia masiva ligada a las tecnologías de reconocimiento facial. La federación pide su prohibición total en el espacio público sin excepciones, en la misma línea que defienden organizaciones europeas de defensa de derechos digitales, como EDRi y Access Now.
Esta semana el pleno del Parlamento europeo vota la AI Act, una ley fundamental para regular los impactos de la Inteligencia Artificial y proteger los derechos fundamentales de la ciudadanía. La propuesta incluye la prohibición de la vigilancia biométrica, reconocimiento de emociones y sistemas de IA de vigilancia predictiva.
En este marco, Lafede.cat ha lanzado hoy el vídeo y la campaña Sospechosas por la Cara, para recordar los riesgos que comporta la vigilancia masiva ligada a las tecnologías de reconocimiento facial. La federación pide su prohibición total en el espacio público y sin excepciones, en la misma línea que defienden organizaciones europeas de defensa de derechos digitales, como EDRi y Access Now. De hecho, desde la ONU también se ha alertado acerca de la afectación democrática y de derechos que puede tener esta tecnología.
Usos intrusivos y discriminatorios
El texto que vota el Parlamento Europeo recoge una lista de sistemas de IA de alto riesgo, es decir, con usos intrusivos o discriminatorios, y propone su prohibición. Entre ellos se encuentran los sistemas de identificación biométrica en tiempo real y también post (a excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial) o la recogida indiscriminada de datos biométricos de las redes sociales o imágenes de cámaras de videovigilancia para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).
Según ha podido saber la federación, el Partido Popular Europeo ha presentado algunas enmiendas al texto con el objetivo de modificar esa prohibición y fuentes de Bruselas apuntan a que será uno de los puntos clave en los trílogos (la negociación para el reglamento final entre el Consejo – presidido por España a partir del 1 de Julio- y el Europarlamento).
Lafede.cat, junto con más de 60 organizaciones de la sociedad civil de todo el Estado español, pide a los representantes españoles que garanticen la aprobación del texto del Europarlamento tal y como está ahora, para salvaguardar los derechos fundamentales. “Pedimos a la Presidencia Española del Consejo que priorice la protección de derechos fundamentales y garantice que el reconocimiento facial no será una tecnología del control y opresión más“, afirma Laura Riba, vocal de digitalización en la junta de la federación.
Vulneración de la privacidad y la libertad de movimiento
El reconocimiento facial implica recoger, identificar y monitorizar un dato biométrico altamente sensible que no podemos cambiar fácilmente: nuestra cara. Permite que se puedan crear perfiles a partir de nuestras rutinas, de cómo vestimos, o de cómo expresamos las emociones. Lafede.cat alerta de que la vigilancia masiva que propicia esta tecnología pone en riesgo derechos fundamentales.
El reconocimiento facial puede provocar, por ejemplo, que cambiemos y reprimamos nuestro comportamiento al sabernos vigiladas. Esto pone limitaciones a la autonomía de las personas y al disfrute de los espacios públicos. Además, hay casos documentados de que esta tecnología puede amplificar sesgos y discriminaciones contra minorías y grupos vulnerabilizados, como las personas racializadas. Las organizaciones sociales instan a garantizar, de manera especial, los derechos de las personas migrantes.
Lafede.cat apunta también que los sistemas de reconocimiento facial han demostrado ya que tienen una tasa de error elevada, han sido prohibidos en algunas ciudades y alerta de la amenaza que suponen para la presunción de inocencia y la libertad democrática de los ciudadanos y ciudadanas.
Más información
- Vídeo “Sospechosas por la cara” (con subtítulos en català i en castellano).