Paula Boet, Fundació BIT Habitat, Ajuntament de Barcelona
Marc Pérez-Batlle, Institut Municipal d’Informàtica, Ajuntament de Barcelona
Els registres d’algoritmes són portals web públics on qualsevol persona pot informar-se sobre els sistemes algorísmics que fan servir les administracions públiques. En l’àmbit local, les ciutats d’Amsterdam i Hèlsinki han sigut pioneres en el desenvolupament d’aquestes eines, i cada cop més ajuntaments estan implementant aquest tipus de portals fonamentals per a garantir la transparència dels sistemes algorítmics.
Els registres d’algoritmes són una eina útil per documentar, de manera estandarditzada i indexable, les decisions i supòsits que ha pres una administració pública sobre un sistema algorítmic durant tot el seu cicle de vida: desenvolupament, implementació, gestió i, en última instància, desmantellament.
Per a la ciutadania, un registre d’algoritmes és un mitjà per a conèixer quins algoritmes fa servir l’Ajuntament i com aquests afecten les seves vides, però també per incidir i participar en les decisions sobre el desplegament d’aquests. Per als governs locals, pot ser una eina per gestionar la governança d’aquells serveis públics on els algoritmes exerceixen un paper destacat, especialment en el procés de desenvolupament i funcionament, d’acord amb els principis de responsabilitat, transparència i seguretat dels serveis públics.
En un registre d’algoritmes s’hi pot trobar informació sobre l’àrea responsable del sistema dins de l’Ajuntament i un correu electrònic de contacte. A més, informa sobre les dades que s’han utilitzat per entrenar l’algoritme, el model de processament de la informació, quines discriminacions, riscos i mitigacions s’han detectat i com s’implementa la supervisió humana.
Gràcies a les lliçons apreses a Amsterdam i Helsinki durant la implementació local d’aquesta eina, s’han identificat diferents reptes que cal treballar per explotar tot el potencial dels registres d’algoritmes. Un d’aquests aspectes és l’estandardització de l’esquema de dades que estableix la informació que es publica en els registres d’algoritmes. Tenir un estàndard comú i interoperable que qualsevol administració local pugui fer servir és clau per garantir que es publica tota aquella informació necessària per poder comprendre el funcionament dels algoritmes i els seus riscos associats.
El juny passat, l’Ajuntament de Barcelona, juntament amb les ciutats de Brussel·les, Bolonya, Eindhoven, Mannheim, Rotterdam i Sofia, vam encetar un grup de treball en el marc del Laboratori del Fòrum Digital de la xarxa EUROCITIES per treballar en aquest esquema de dades comú, que es publicarà en les setmanes vinents.
Un altre dels reptes que emergeixen a l’hora d’implementar els registres d’algoritmes en l’àmbit local és la decisió sobre quins sistemes s’han de publicar i quins no. En els darrers anys, les administracions públiques s’han digitalitzat a un ritme accelerat, especialment amb la irrupció de la pandèmia provocada per la COVID-19. Es fan servir algoritmes en pràcticament qualsevol procés administratiu, des de la gestió interna dels recursos humans fins a la provisió de serveis tan crítics com els relatius als serveis socials. És cert que, enarborant la bandera de la transparència, qualsevol algoritme hauria de trobar-se en el registre. Malgrat això, els recursos públics són limitats i l’impacte sobre la ciutadania de la majoria d’algoritmes utilitzats en les administracions públiques és mínim. Per tant, la pregunta “Quins són els algoritmes que han d’estar recollits en el registre?” és pertinent. Quins s’haurien de publicar? Aquells que fan servir tècniques d’Intel·ligència Artificial en la seva implementació? Aquells considerats d’alt risc en la proposta de regulació sobre la intel·ligència artificial per part de la Comissió Europea? Aquells que interactuen directament amb les persones (per exemple, els xatbots)?
Els registres d’algoritmes són una eina amb un potencial enorme per accionar l’explicabilitat i transparència algorítmica en la implementació de serveis públics més eficients i proactius. Tanmateix, encara queda un llarg camí per establir criteris sobre com i què s’hi publica, dotar-los d’una governança clara en el seu desplegament i, en última instància, aconseguir que siguin més que una web que “està bé tenir”.