En el marco de la aprobación en el Parlamento europeo de la AI Act, la primera ley del mundo que regula los efectos de la Inteligencia Artificial, Lafede.cat lanza la campaña Sospechosas por la Cara, para recordar los riesgos que comporta la vigilancia masiva ligada a las tecnologías de reconocimiento facial. La federación pide su prohibición total en el espacio público sin excepciones, en la misma línea que defienden organizaciones europeas de defensa de derechos digitales, como EDRi y Access Now.
Esta semana el pleno del Parlamento europeo vota la AI Act, una ley fundamental para regular los impactos de la Inteligencia Artificial y proteger los derechos fundamentales de la ciudadanía. La propuesta incluye la prohibición de la vigilancia biométrica, reconocimiento de emociones y sistemas de IA de vigilancia predictiva.
En este marco, Lafede.cat ha lanzado hoy el vídeo y la campaña Sospechosas por la Cara, para recordar los riesgos que comporta la vigilancia masiva ligada a las tecnologías de reconocimiento facial. La federación pide su prohibición total en el espacio público y sin excepciones, en la misma línea que defienden organizaciones europeas de defensa de derechos digitales, como EDRi y Access Now. De hecho, desde la ONU también se ha alertado acerca de la afectación democrática y de derechos que puede tener esta tecnología.
Usos intrusivos y discriminatorios
El texto que vota el Parlamento Europeo recoge una lista de sistemas de IA de alto riesgo, es decir, con usos intrusivos o discriminatorios, y propone su prohibición. Entre ellos se encuentran los sistemas de identificación biométrica en tiempo real y también post (a excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial) o la recogida indiscriminada de datos biométricos de las redes sociales o imágenes de cámaras de videovigilancia para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).
Según ha podido saber la federación, el Partido Popular Europeo ha presentado algunas enmiendas al texto con el objetivo de modificar esa prohibición y fuentes de Bruselas apuntan a que será uno de los puntos clave en los trílogos (la negociación para el reglamento final entre el Consejo – presidido por España a partir del 1 de Julio- y el Europarlamento).
Lafede.cat, junto con más de 60 organizaciones de la sociedad civil de todo el Estado español, pide a los representantes españoles que garanticen la aprobación del texto del Europarlamento tal y como está ahora, para salvaguardar los derechos fundamentales. «Pedimos a la Presidencia Española del Consejo que priorice la protección de derechos fundamentales y garantice que el reconocimiento facial no será una tecnología del control y opresión más«, afirma Laura Riba, vocal de digitalización en la junta de la federación.
Imatge del vídeo #Sospitosesperla Cara, protagonitzat per personatges generats en imatge i veu per Intel·ligència Artificial
Vulneración de la privacidad y la libertad de movimiento
El reconocimiento facial implica recoger, identificar y monitorizar un dato biométrico altamente sensible que no podemos cambiar fácilmente: nuestra cara. Permite que se puedan crear perfiles a partir de nuestras rutinas, de cómo vestimos, o de cómo expresamos las emociones. Lafede.cat alerta de que la vigilancia masiva que propicia esta tecnología pone en riesgo derechos fundamentales.
El reconocimiento facial puede provocar, por ejemplo, que cambiemos y reprimamos nuestro comportamiento al sabernos vigiladas. Esto pone limitaciones a la autonomía de las personas y al disfrute de los espacios públicos. Además, hay casos documentados de que esta tecnología puede amplificar sesgos y discriminaciones contra minorías y grupos vulnerabilizados, como las personas racializadas. Las organizaciones sociales instan a garantizar, de manera especial, los derechos de las personas migrantes.
Lafede.cat apunta también que los sistemas de reconocimiento facial han demostrado ya que tienen una tasa de error elevada, han sido prohibidos en algunas ciudades y alerta de la amenaza que suponen para la presunción de inocencia y la libertad democrática de los ciudadanos y ciudadanas.
Más información
- Vídeo «Sospechosas por la cara» (con subtítulos en català i en castellano).
En el marco de la aprobación en el Parlamento europeo de la AI Act, la primera ley del mundo que regula los efectos de la Inteligencia Artificial, Lafede.cat lanza la campaña Sospechosas por la Cara, para recordar los riesgos que comporta la vigilancia masiva ligada a las tecnologías de reconocimiento facial. La federación pide su prohibición total en el espacio público sin excepciones, en la misma línea que defienden organizaciones europeas de defensa de derechos digitales, como EDRi y Access Now.
Esta semana el pleno del Parlamento europeo vota la AI Act, una ley fundamental para regular los impactos de la Inteligencia Artificial y proteger los derechos fundamentales de la ciudadanía. La propuesta incluye la prohibición de la vigilancia biométrica, reconocimiento de emociones y sistemas de IA de vigilancia predictiva.
En este marco, Lafede.cat ha lanzado hoy el vídeo y la campaña Sospechosas por la Cara, para recordar los riesgos que comporta la vigilancia masiva ligada a las tecnologías de reconocimiento facial. La federación pide su prohibición total en el espacio público y sin excepciones, en la misma línea que defienden organizaciones europeas de defensa de derechos digitales, como EDRi y Access Now. De hecho, desde la ONU también se ha alertado acerca de la afectación democrática y de derechos que puede tener esta tecnología.
Usos intrusivos y discriminatorios
El texto que vota el Parlamento Europeo recoge una lista de sistemas de IA de alto riesgo, es decir, con usos intrusivos o discriminatorios, y propone su prohibición. Entre ellos se encuentran los sistemas de identificación biométrica en tiempo real y también post (a excepción de las fuerzas del orden para la persecución de delitos graves y sólo previa autorización judicial) o la recogida indiscriminada de datos biométricos de las redes sociales o imágenes de cámaras de videovigilancia para crear bases de datos de reconocimiento facial (violando los derechos humanos y el derecho a la privacidad).
Según ha podido saber la federación, el Partido Popular Europeo ha presentado algunas enmiendas al texto con el objetivo de modificar esa prohibición y fuentes de Bruselas apuntan a que será uno de los puntos clave en los trílogos (la negociación para el reglamento final entre el Consejo – presidido por España a partir del 1 de Julio- y el Europarlamento).
Lafede.cat, junto con más de 60 organizaciones de la sociedad civil de todo el Estado español, pide a los representantes españoles que garanticen la aprobación del texto del Europarlamento tal y como está ahora, para salvaguardar los derechos fundamentales. «Pedimos a la Presidencia Española del Consejo que priorice la protección de derechos fundamentales y garantice que el reconocimiento facial no será una tecnología del control y opresión más«, afirma Laura Riba, vocal de digitalización en la junta de la federación.
Imatge del vídeo #Sospitosesperla Cara, protagonitzat per personatges generats en imatge i veu per Intel·ligència Artificial
Vulneración de la privacidad y la libertad de movimiento
El reconocimiento facial implica recoger, identificar y monitorizar un dato biométrico altamente sensible que no podemos cambiar fácilmente: nuestra cara. Permite que se puedan crear perfiles a partir de nuestras rutinas, de cómo vestimos, o de cómo expresamos las emociones. Lafede.cat alerta de que la vigilancia masiva que propicia esta tecnología pone en riesgo derechos fundamentales.
El reconocimiento facial puede provocar, por ejemplo, que cambiemos y reprimamos nuestro comportamiento al sabernos vigiladas. Esto pone limitaciones a la autonomía de las personas y al disfrute de los espacios públicos. Además, hay casos documentados de que esta tecnología puede amplificar sesgos y discriminaciones contra minorías y grupos vulnerabilizados, como las personas racializadas. Las organizaciones sociales instan a garantizar, de manera especial, los derechos de las personas migrantes.
Lafede.cat apunta también que los sistemas de reconocimiento facial han demostrado ya que tienen una tasa de error elevada, han sido prohibidos en algunas ciudades y alerta de la amenaza que suponen para la presunción de inocencia y la libertad democrática de los ciudadanos y ciudadanas.
Más información
- Vídeo «Sospechosas por la cara» (con subtítulos en català i en castellano).