En els darrers mesos estem assistint a intensos debats sobre els riscos i les oportunitats que han obert les tecnologies de la intel·ligència artificial (IA) per als éssers humans, per a les societats, per als governs i per al món empresarial. Estem experimentant l’inici d’una nova revolució sense precedents que canviarà la nostra manera de viure i treballar, comparable amb el que van suposar, en el seu temps, la roda o el foc. Per tant, ens trobem en un moment cabdal, en el qual cal posar el focus en l’àmbit de les dades que han de configurar les IA i, en aquest sentit, accelerar-ne les regulacions i els mecanismes de governança. I en aquest marc, la configuració de la IA ha d’incloure, sens dubte, la perspectiva de gènere, per garantir els drets digitals i de ciutadania de les dones.
Recentment, hem organitzat a Santa Coloma de Gramenet les Terceres Jornades Internacionals Data Feminism, organitzades per DataLab de La Ciba, amb el lema La ciutadania al centre de la digitalització, amb un doble objectiu: divulgar les potencialitats de les tecnologies de dades per a l’enfortiment dels drets de les dones i situar els principals reptes de l’agenda feminista entorn de l’evolució d’aquestes noves tecnologies. En aquestes jornades hem comptat amb dones que estan al capdavant de projectes relacionats amb IA i de l’àmbit de les dades obertes, i que no només combaten en el seu dia a dia les bretxes de gènere, sinó que reafirmen la importància fonamental de ser presents i partícips en el disseny d’aquesta nova realitat que se’ns obre.
Actualment, estem sentint molt a parlar dels suposats riscos o perills del ràpid avenç de les tecnologies de la IA i, per tant, de la necessitat de regular el seu ús des de les administracions públiques i els governs, com és el treball normatiu que està fent la Unió Europea. Entre les alertes dels científics i especialistes en la matèria, es parla des de la possible substitució massiva de persones a les empreses o del risc d’ús fraudulent de les dades i de suplantació d’identitats fins a la carrera d’armes i d’un món distòpic totalment controlat per màquines… Per contra, un altre sector defensa, sense embuts, que la humanitat pot i ha de millorar les seves capacitats naturals mitjançant les IA. Però, més enllà de les posicions enfrontades, cal focalitzar l’atenció en la necessitat que les dades de les IA siguin representatives i inclusives. Que el seu disseny i configuració parteixi d’una necessària perspectiva feminista. Si no s’hi incorpora aquesta visió, indubtablement veurem compromesos els avenços en igualtat d’oportunitats i de drets per a la meitat de la població.
Per això, des de les administracions públiques hem de centrar els nostres esforços en la incorporació de la perspectiva de gènere, tant en les regulacions normatives com en la recollida de dades obertes, per poder apuntalar els drets humans, dotant-nos d’una estructura de recollida més flexible i adaptada a la realitat actual. Perquè si les IA també ens han d’ajudar a poder abordar els reptes de les ciutats en favor del benestar de les persones, hem de tenir present que cal definir-les a partir de dades que no generin biaix d’infrarepresentació.
Cal focalitzar l’atenció en la necessitat que les dades de les IA siguin representatives i inclusives
Recentment, el Ministeri de l’Interior posava sobre la taula dades molt preocupants: més de la meitat de les violències sexuals es produeixen en nenes i adolescents de 0 a 17 anys. Alhora, a les Jornades Data Feminism vam presentar l’informe Dades X polítiques públiques per una vida lliure de violències masclistes, promogut per la direcció de Polítiques d’Igualtat de l’Ajuntament de Santa Coloma. Es tracta d’un espai web que recull informació molt valuosa, rellevant i precisa, a través de la recol·lecció i anàlisi acurada de les dades, on podem veure com han crescut el nombre d’atencions a víctimes a Catalunya i al Baix Besòs per violències masclistes, l’evolució en edats de les persones que denuncien, els perfils socioeconòmics, l’edat i el gènere dels agressors i els espais on es perpetren les violències, així com els locals adherits a la iniciativa Xarxa Violeta, enfocada a prevenir i combatre les violències sexuals i LGTB-fòbiques de manera comunitària. Totes aquestes dades s’han recollit de manera flexible i amb una estructura de recollida molt precisa que blinda la seva qualitat i interpretació, i que ens ajuda a posar en marxa mecanismes de prevenció i protocols d’actuació molt eficaços.
Per tant, en el moment actual necessitem eines com el DataLab per poder disposar d’observatoris de gènere i amb dades obertes i permanentment actualitzades. En el cas de Santa Coloma de Gramenet, a partir del DataLab estem executant projectes d’innovació social emprant dades obertes amb perspectiva de gènere i dades obertes orientades a enfortir els drets de les dones. Aquest projecte és el resultat de la col·laboració entre l’Ajuntament de Santa Coloma de Gramenet i Iniciativa Barcelona Open Data, una associació creada per promocionar les dades obertes. El DataLab té per objectiu incorporar la perspectiva de gènere en l’anàlisi de dades obertes com a condició imprescindible per poder aplicar polítiques per a la igualtat efectiva. A través de l’exploració de fonts de dades públiques, s’han creat visualitzacions i gràfics interactius per posar a l’abast de la ciutadania la informació recopilada d’una manera senzilla, visual i accessible. En definitiva, es tracta d’una base de dades molt elaborada i sense biaixos, que ens ha d’ajudar a anar a l’arrel dels problemes a tall de bisturí.
Una de les ponents de Data Feminism, Sofía Trejo, investigadora en ètica de la intel·ligència artificial a BSC i especialitzada en biaixos de gènere, va recordar els impactes erronis de la intel·ligència artificial per la configuració de dades no equitatives. Va posar l’exemple de la tecnologia de reconeixement facial, que actualment funciona pitjor en les dones i un 30% encara pitjor en les dones de color. Això es deu, precisament, a l’androcentrisme imperant en les dades en les quals es basen, es dissenyen i actuen aquestes tecnologies.
Per fer front als possibles impactes negatius i riscos d’aquesta realitat de les IA, és fonamental que les dones siguem en els processos de disseny i desenvolupament d’aquestes noves tecnologies, així com en la recollida i anàlisi de dades. Es tracta de garantir un model més equitatiu i sostenible, sense biaixos. És vital aquest necessari focus inclusiu des de la perspectiva de gènere, perquè els drets i les oportunitats de les dones estan en joc.
Núria Parlon Gil, alcaldessa de Santa Coloma de Gramenet
