Controlar els algoritmes que ens controlen
- David Úbeda - Gàbinet tècnic del PEMB
- 20-04-2020
- 290 Lectures
La pandèmia de la COVID-19 és un repte que com a societat hem d'encarar i superar. La diferència respecte a altres pandèmies que hi ha hagut al llarg de la història és la possibilitat de fer front a aquest repte a partir de mecanismes i eines tecnològiques basades en dades digitals.
Actualment estem en un context de revolució de les dades massives, on els algoritmes són cada vegada més presents tant en l'àmbit públic com privat. Quan parlem d'algoritme, hem de ser capaços de distingir entre l'algoritme (equació que ajuda a resoldre problemes a partir de dades) i el programa o aplicació informàtica (que incorpora un conjunt d'algoritmes).
Els algoritmes ens donen la possibilitat de prendre decisions a través de processos automatitzats (no és necessària la intervenció d'una persona) i trobar correlacions que poden passar inadvertides. Un dels exemples que té més sentit comentar avui dia, és el cas de la aparició de Google Flu Trends enmig de la pandèmia de grip A (H1N1) del 2009 als Estats Units. La grip A (H1N1), que sorgia com un nou cep dels virus de la grip aviar i porcina, es va estendre al llarg dels 50 estats amb més de 90.000 casos confirmats i més de 2.100 morts en tot el territori. La situació que es vivia als Estats Units era d'alarma; tant el govern com el Centre de Control i Prevenció de Malalties (CDC) demanaven als serveis sanitaris que alertessin dels nous casos de grip, però la transmissió d'aquesta informació a les organitzacions centrals trigava més del necessari, mentre que el virus es propagava amb una rapidesa alarmant.
És en aquest moment en que Google llança Flu Trends, en col·laboració amb el CDC dels Estats Units, com un servei web que consistia en detectar i identificar als afectats pel virus de la grip a través de les paraules més buscades a Google, comparant-les amb les dades d'epidèmies de grip registrades en diferents zones dels Estats Units entre el 2003 i 2007. A partir d'aquesta investigació es van descobrir 45 paraules i expressions que es buscaven amb més freqüència en els llocs on apareixien més casos de grip. Flu Trends va fer un pas més enllà i va començar, de manera prospectiva, a preveure l'evolució del virus. El resultat va ser que l'aplicació va poder detectar, amb molta precisió i deu dies abans que el CDC, on apareixerien més casos de grip i infeccions similars als Estats Units.
Com podem veure, l'aparició dels algoritmes suposa un abans i un després en les metodologies de diagnosi i control dels problemes. Gràcies a ells tenim l'oportunitat, més que mai, de poder afrontar grans reptes de la humanitat com poden ser les pandèmies, el canvi climàtic, la pobresa, les desigualtats, etc, des d'una visió purament matemàtica i precisa. Però no tot és tan positiu com sembla, ja que els algoritmes no sempre son ni precisos ni perfectes.
Com hem dit anteriorment, els algoritmes parteixen d'una equació matemàtica en base a dades, on el problema no esdevé en el moment de càlcul de les variables, sinó en la selecció d'aquestes. Qui dissenya l'algoritme està determinant les regles sota les quals es prendrà la decisió final. Un dels casos en que ens podem fixar és el del programa COMPAS als Estats Units, on s'analitza la possibilitat que té una persona de reincidir en un delicte. Es va descobrir que el seu algoritme tenia un biaix en el que considerava que les persones d'ètnia afroamericana tenien una tendència major al delicte respecte a les d'origen caucàsic, provocant decisions injustes.
De la mateixa manera que existeixen algoritmes en la justícia, també els trobem al servei sanitari. Decidir qui té més probabilitats de recaure o qui és més susceptible de recuperar-se d'una malaltia, és una decisió estricta que requereix d'una alta complexitat i control sobre les dades. Per tant, per aconseguir que un algoritme prengui decisions justes, ens hem d'assegurar que els experts puguin accedir al codi font de l'algoritme, a la base de dades d'aquest, i evitar biaixos deguts, en molts casos, a la sobrerepresentació de la població o a l'exclusió d'una part.
Tot i així, aquesta necessitat de transparència dels algoritmes xoca amb el dret a la propietat intel·lectual de qui els desenvolupa. En molts casos, no es pot accedir al codi font ni entendre en profunditat l'algoritme en sí, perquè s'entén com una violació a la propietat intel·lectual. Per aquesta raó, necessitem canvis normatius on la legislació prevegi una obligació d'explicar les decisions preses a través d'algoritmes.
Una de les propostes planteja diferents eines de control com:
- Necessitat de controls jurídics (administratius i judicials)
- Dret a una explicació, auditoria d'algoritmes, prevenció i control de biaixos, etc
- Responsabilitat patrimonial
- Necessitat d'un ens públic específic regulador
- Possibilitat d'una agència europea per a la robòtica i la intel·ligència artificial (IA) (Parlament Europeu, 2017)
- Centre for Data Ethics and Innovation Consultation (Regne Unit)
En definitiva, la tecnologia i el progrés social han d'anar de la mà a partir de mecanismes que enforteixin la ciutadania i la protecció d'aquesta envers l'ús dels algoritmes. És un moment crucial en el que, com a societat, hem de vigilar sobre l'ús de les tecnologies i com aprofitar-les per obtenir un benefici social que repercuteixi de la manera més extensa possible. Com passa a la vida, el problema no resideix en l'eina en sí, sinó en qui en fa ús, com i per a què.
*Aquest article recull algunes de les idees principals exposades a la sessió “La transparència dels algoritmes en l'administració” organitzada per l'Agència de Transparència de l'AMB el passat 11 de març de 2020. La vinculació de les noves tecnologies amb el progrés social serà una de les qüestions importants que plantejarà l'elaboració del nou pla estratègic metropolità 2030.
Les opinions dels autors i les autores no representen necessàriament el posicionament del PEMB.