(Català) Jornades DAR: noves aliances per a una Intel·ligència Artificial democràtica i antiracista  


Sorry, this entry is only available in Catalan. For the sake of viewer convenience, the content is shown below in the alternative language. You may click the link to switch the active language.

Del 26 al 28 de maig van tenir lloc a Barcelona i Madrid les Jornades DAR: Democràcia, Algoritmes i Resistències. Tres dies de taules rodones i debats en què d’organitzacions i moviments socials van plantejar estratègies d’incidència per a una governança democràtica i decolonial de la Intel·ligència Artificial.

Taula rodona “Per què i com involucrar a les comunitats més afectades per la Intel·ligència Artificial?”, al Canòdrom de Barcelona | LAFEDE.CAT

Com podem treballar per aconseguir una Intel·ligència Artificial que respecti els drets humans i sigui més democràtica? Aquesta és la premissa de les Jornades DAR que vam organitzar Lafede.cat amb Espai Societat Oberta, Algorights i Algorace. Aquestes jornades han permès consolidar el treball que s’està portant a terme per incidir en les polítiques públiques locals i europees sobre intel·ligència artificial i garantir que són coherents amb els valors de la Justícia global.

 

Experiències de resistència i construcció de noves maneres de fer tecnologia

El primer dia de les Jornades, que va ser completament virtual, va començar amb una pregunta llançada per Lucía Errandonea, d’Algorights: “Com democratitzem la Intel·ligència Artificial tenint present que cada cop intervé a més aspectes de la nostra vida diària? i com introduïm a la ciutadania en els processos de disseny?”. Els diferents ponents van respondre, des de diversos àmbits aquestes preguntes.

La primera taula es va centrar en experiències pràctiques on la societat civil “hackeja” les desigualtats del sistema. Les ponents van reconèixer les dificultats que tenen les organitzacions per entrar a incidir en l’àmbit tecnològic, però alhora van posar èmfasi en la necessitat d’organitzar-se i perdre la por a la Intel·ligència Artificial i l’automatització. En paraules d’Alberto “Tito” Álvarez, d’Élite Taxi i l’Observatori Treball, Societat i Algoritme, “estem a l’era del feixisme digital i cal obrir mires i establir aliances amb diferents persones i organitzacions per aturar-ho”. La plataforma ha analitzat algoritmes de regulació de preus del taxi que vulneren drets laborals, i reconeix que “les administracions no són capaces de controlar-ho”.

Youssef M. Ouled, periodista i membre d’Algorace, va apuntar a Europa amb el cas de les mal anomenades “fronteres intel·ligents”. “No és més que una automatització digital de les fronteres, per tant, no són intel·ligents. Són un reforç a la lògica colonial de la Unió Europea que jerarquitza les nacionalitats i vulnera drets fonamentals de manera sistematitzada”. Ouled va explicar que l’actual debat sobre la Regulació de la Intel·ligència Artificial a Europa gira entorn la classificació del risc d’ús de la IA en determinats contextos. En el cas del reconeixement facial, es considera d’alt risc i s’està qüestionant prohibir-lo a l’espai públic però en canvi, no es qüestiona el seu ús a fronteres. Simona Levi, d’XNet, va insistir en què “cal pressionar a les instituciones per a que inverteixin en infraestructura tecnològica que no ens obligui a dependre de les grans companyies tecnològiques”. La investigadora i activista va explicar el projecte de creació d’una suite de software lliure per a les escoles, anomenat Digitalització Democràtica, projecte que comparteix l’esperit de PlataformESS.

La segona taula va comptar amb Paola Ricaurte, Paula de la Hoz i Oyidiya Oji Palino, que van debatre sobre com decolonitzar els drets digitals. La xerrada entre les tres ponents va aprofundir en la necessitat d’introduir la perspectiva feminista en el desenvolupament de la Intel·ligència Artificial, tenint present també les diferents concepcions i cosmovisions existents entre en Nord i el Sud Global. Ricaurte va declarar que calia “expandir els Drets Humans més enllà de l’antropocentrisme i pensar en els drets digitals en un context de crisi climàtica”. Per la seva banda, Paula de la Hoz va fer referència a la mentalitat al voltant de la tecnologia, on les persones som “consumidores”. Va apelar al canvi de terminologia per a canviar el marc, proposant parlar de persones “constructores” de tecnologia amb participació activa en la seva creació.

Totes dues van posar èmfasi en la necessitat de trencar les narratives hegemòniques que imposen una manera de relacionar-se amb la tecnologia i pensar la tecnologia des de les cures, les afectacions als cossos i també als territoris.

 

Com aconseguim algoritmes més democràtics?

Divendres les Jornades es van traslladar al Canòdrom, l’Ateneu d’Innovació Digital de Barcelona. Allà, els debats van girar al voltant de la necessitat d’intervenir en el disseny dels algoritmes. Les dues taules del matí van subratllar la importància d’involucrar a la ciutadania i cedir espais a les comunitats més afectades per les automatitzacions. Per fer-ho, cal “integrar els principis de la justícia social a la implementació de polítiques de la IA”, assegurava Anna Colom, de Democratic Society. La creació de comunitats i la importància de treballar conjuntament per garantir la representativitat i la diversitat de veus va ser també un dels elements clau que van destacar Safia Oulmane, de l’associació francesa de joves Ghett’UP, i Judith Membrives, responsable de digitalització de Lafede.cat.

Taula rodona: “Per què és important la participació ciutadana en la implementació de la intel·ligència artificial?”, amb Divij Joshi (Aliança OGP), Gemma Galdon (Fundación Eticas) i Aidan Peppin (Ada Lovelace Institute) | LAFEDE.CAT

Per la seva banda, Divij Joshi, d’Aliança OGP i AI Now, va insistir en que la implantació dels sistemes algorítmics s’ha de basar en processos de baix a dalt, premisa compartida també per Aiden Peppin, del Citizen Biometric Council, que va afirmar que la “participació ha de  recollir tot l’espectre de persones i comunitats”.

Gemma Galdón, de la Fundació Eticas, va centrar-se en les diferents tècniques existents per a auditar algoritmes i en la manca de transparència existent als sistemes de les administracions públiques. “El tecnosolucionisme no és la solució als problemes de les comunitats en situació de vulnerabilitat, hem de parlar d’accés i de riscos d’aquests sistemes”, va apuntar. 

A la tarda, les persones assistents van dividir-se en tres tallers on es va profunditzar sobre els riscos del reconeixement facial i la videovigilància, les avaluacions d’impacte algorítmic i la regulació que prepara el Parlament Europeu. 

 

Fer front al poder: Estratègies antirracistes contra la tecnologia de control i vigilància

Dissabte 28 de maig, l’Espacio Conciencia Afro de Madrid va acollir l’últim dia de les Jornades DAR. El col·lectiu Algorace va iniciar el matí explicant el marc i el context de la creació de la disciplina de la Intel·ligència Artificial, dominada majoritàriament per científics i tècnics blancs del Nord Global, cosa que ha deixat una empremta colonial i patriarcal als fonaments d’aquesta tecnologia. Tot i això, diferents ponents que van participar a la jornada com la investigadora Ana Valdivia va reivindicar la necessitat de “reapropiar-nos de la IA per utilitzar-la en el benefici dels moviments socials”.

Safia Oulmane, de l’associació de joves Ghett’UP, que treballa per trencar els estigmes de les banlieux a França, va explicar com des de la seva organització fan justament el que defensa Valdivia: recollir dades dels barris populars on  treballen per explicar les seves pròpies històries i evitar “que parlin per nosaltres i ens estigmatitzin”. Cinthya Rodriguez, del col·lectiu de persones latines i xicanes als Estats Units Mijente, va anar més enllà i va animar a les persones assistents a pensar en crear xarxes i comunitats de “codi obert” on tots els coneixements i accions siguin reaprofitables. Per a il·lustrar-ho, va explicar el cas de la campanya #NoTechforICE, que denuncia l’aliança que han fet les grans empreses tecnològiques que posen les seves bases de dades a l’abast de la policia migratòria d’Estats Units, gràcies a la regulació molt més laxa en matèria de privacitat existent al país. Cinthya va llençar un missatge final de lluita i resistència col·lectiva insistint en que “la meta és crear poder popular, i no paranoia”.

Cinthya Rodriguez (Mijente) i Paula Guerra (Algorace) durant el taller “Si volem un futur en llibertat hem de reapropiar-nos de la tecnologia” | LAFEDE.CAT

Èxit dels espais de reflexió i participació presencial

Els dos dies de Jornades DAR presencials, les persones assistents van poder compartir les seves visions sobre la intersecció entre la Intel·ligència Artificial, la decolonització dels drets digitals i la democratització dels sistemes algorítmics. De forma espontània, es van crear també grups de reflexió al voltant del paper de l’educació i el foment de l’alfabetització digital amb perspectiva crítica i també sobre la importància de la indústria dels videojocs i el seu paper en l’extractivisme de dades.

 

Més informació: