L’ús de les intel·ligències artificials (IA) s’està accelerant en el dia a dia de les persones i de les empreses, així com el seu impacte social i els riscos per als drets de les dones i la igualtat. Però seria un error concebre aquestes noves tecnologies com l’enemic de la igualtat i pensar en un futur distòpic i apocalíptic que tantes vegades ens han plantejat el cinema i la literatura, a través d’obres com Blade Runner o 2001: una odissea a l’espai, on les màquines s’acaben rebel·lant contra les persones, que són les que les han configurat.
Sobre els reptes i les oportunitats de les IA, hem tingut un debat molt fructífer en la IV Jornada Internacional Data Feminism, que hem organitzat a La Ciba de Santa Coloma, i que ens han servit per ser més conscients de fins on arriben els biaixos de gènere en les tecnologies que emprem en el dia a dia, i com aquestes –tal com estan dissenyades i programades– estan perpetuant els estereotips i els comportaments discriminatoris i sexistes que cal trencar. És un problema que també veiem en la configuració actual de les IA, les quals, per tant, poden influir negativament en la presa de decisions de les persones, de les empreses i de les administracions públiques si les dades en què es basen són parcials o tenen manca real de representació.
I és que, com es pot veure amb una simple recerca a qualsevol buscador d’internet, és evident que en el seu disseny no s’ha tingut en compte la diversitat pròpia de la societat, però sí els biaixos de gènere. Ho veiem amb un exemple: si a internet cerquem imatges que continguin la paraula “fort” o la paraula “sensible”, la majoria d’imatges que surten són d’homes en el primer cas i de dones en el segon. Aquesta parcialitat de les dades o infrarepresentació també s’està produint en la configuració de les IA pròpies d’àmbits com la salut, els sistemes d’assistència virtual personals, els traductors automàtics, els sistemes de recomanació virtuals o fins i tot els sistemes automàtics de conducció, entre altres. El que no podem oblidar és que les IA depenen dels humans; de les persones que les configuren. Per tant, és imprescindible una revisió i testatge previ a les implementacions, des d’una mirada ètica, que tingui en compte el respecte per la diversitat i la protecció dels drets de tots els col·lectius i persones, incloses les dones.
Les intel·ligències artificials estan perpetuant els estereotips i els comportaments discriminatoris i sexistes
Fent un paral·lelisme d’aquests biaixos amb conseqüències negatives podem fixar-nos en l’abordatge i la prevenció de l’infart de miocardi, que fa uns anys s’havia basat majoritàriament en els símptomes dels homes, mentre que l’altra meitat de la població –amb una simptomatologia diferent– s’havia quedat clarament desprotegida. Amb l’aplicació de les IA a l’àmbit de la salut pot passar igual si no es tenen en compte variables com el sexe o l’edat en la recopilació de les dades. Així, l’aplicació de la perspectiva de gènere no només és necessària, sinó que pot salvar moltes vides.
La bona notícia és que, des de fa temps, a Europa i a països com Espanya són conscients dels riscos de les IA. S’està treballant acuradament per regular contra aquests biaixos i per avançar cap a una necessària configuració que no discrimini cap col·lectiu de persones per, en definitiva, poder garantir-ne una utilització segura, democràtica, responsable i representativa.
Un altre aspecte molt esperançador també té a veure amb el necessari impuls del talent i del lideratge de les dones en el sector tecnològic, que tot i estar-hi encara infrarepresentades, cada cop són més les nenes i adolescents que escullen una branca de les STEAM (Ciència, Tecnologia, Enginyeria, Arts i Matemàtiques). Amb les dades a la mà, però, veiem que, tot i que el percentatge de dones en el sector tecnològic de Catalunya ha crescut, la seva representació se situa només al voltant del 28%, segons el darrer informe Barcelona Digital Talent Overview 2023. En aquest àmbit, podem fer-hi, i molt, des del món local i les ciutats, promovent programes que despertin vocacions tecnològiques i fomentant la incorporació de les dones en aquests nínxols del mercat laboral. A Santa Coloma ho estem fent amb diversos programes de foment del lideratge, com el Dones Futur, i amb formacions com el Bootcamp, en programació web, o amb el Programa ADA, amb la col·laboració del Servei d’Ocupació de Catalunya. Amb aquestes iniciatives estem potenciant la presència laboral, el talent i el lideratge de les dones en sectors emergents i creant sinergies amb bons resultats entre el sector públic i el privat.
Des de la governança de les ciutats, sabem que les dades obertes són clau a l’hora de poder dissenyar polítiques eficaces en àmbits com la igualtat, la seguretat o la mobilitat sostenible. I som conscients que les IA poden ser eines molt útils per a l’obtenció de dades i estudis. Per això ara, més que mai, hem de poder assegurar que les dades que s’hi ofereixen garanteixin una representació real, per poder fer un diagnòstic acurat i precís que ens ha de permetre donar resposta als problemes reals de les persones i dels territoris, d’una manera òptima i efectiva. Cercant l’excel·lència. Per un present i un futur tecnològic inclusiu i equitatiu, on ningú quedi exclòs i on les IA ens ajudin a preservar drets i a garantir oportunitats!
Núria Parlon Gil, alcaldessa de Santa Coloma de Gramenet
