Introducció
El novembre de 2024 el govern de la Generalitat constituïa la CETRA (Comissió d’Experts per la Transformació i Reforma de l’Administració) amb 12 líders encarregats de revisar com reformar diferents àmbits administratius, cadascun coordinant un equip de 5 experts i expertes i coordinant-se amb els altres líders. En l’acte de constitució d’aquest equip enorme de gairebé 70 assessors, el conseller de presidència va demanar que aquests experts no es limitessin a diagnosticar, sinó que anessin identificant accions que es poguessin posar en marxa molt ràpid i ens proposàvem l’ambiciós objectiu de tenir un terç de les mesures implementades a novembre de 2025.
Vaig tenir el plaer de ser convocada per liderar l’equip de transformació integral de l’administració (Grup CETRA-TDIA). El mandat era proposar quin paper ha de jugar la Intel·ligència Artificial en la transformació de l’administració digital de la Generalitat i m’he coordinat amb Juan de la Paz, el líder del grup de transparència i traçabilitat dels tràmits.
Per la nostra tasca vaig elegir un equip d’experts de gran coneixement, especialitzacions complementàries i una sòlida carrera professional:
- Karina Gibert, líder de CETRA-TDIA
- Pau Fonseca, Professor agregat i investigador de l’Inlab (UPC)
- Laura Sunyol, Directora d’Innovació i Transformació Digital de l’Ajuntament de Mataró
- Belén Arribas, Advocada. Presidenta d’ENATIC
- Encarna Pau, Responsable de ciberseguretat de les tecnologies operacionals a nivell EMEA. Marelli
- Karma Peiró, Directora executiva de la Visualization Transparency Foundation (VIT)
- Alícia Coca, Cap de tecnologies de negoci. Ferrocarrils de la Generalitat de Catalunya
Vam començar analitzant l’àmbit d’actuació i vam poder constatar que com que la Intel·ligència Artificial és transversal, tota l’organització es podia veure impactada per l’adopció d’aquesta tecnologia amb diferents propòsits i objectius. Vam partir d’un propòsit bàsic “Que l’adopció d’IA dins l’administració pública catalana s’articuli a partir d’un desplegament de la IA segur, ètic i confiable” i vam coincidir en la visió de plantejar una reforma que camini cap a la Societat 5.0 del futur, la que anomenem Administració 5.0, i que utilitza tota la tecnologia a l’abast, inclosa la intel·ligència artificial per posar la persona al centre i fer de l’administració pública un servei per la ciutadania.
Propostes
En resum, la feina del grup CETRA-TDIA s’ha acabat estructurant en 5 grans propostes que el passat 3 novembre s’entregaven en compendi amb les dels altres 11 grups de la CETRA al President Illa en acte solemne i que es poden consultar a la web de la CETRA https://presidencia.bibliotecadigital.gencat.cat/handle/20.500.14623/947
Les propostes de CETRA-TDIA posen focus a la introducció de la IA a l’administració digital i es coordinen amb altres propostes d’altres grups sobre comunicació clara, transparència i traçabilitat, etc.
1 Desplegar un model de governança de la Intel·ligència Artificial i impulsar-la a l’administració
Es busca una Administració 5.0, funcional, flexible, moderna i pionera, alineada amb la Societat 5.0 i que per tant, posi la ciutadania i les persones al centre. Fer-ho amb garanties requereix un model de governança de la IA avançat. CETRA-TDIA ha identificat els elements del model de governança i es fa una proposta que parteix del propòsit general, identifica uns beneficis esperats i uns valors que determinen l’enfocament de la proposta. La proposta parteix del propòsit essencial que l’adopció d’IA dins l’administració pública catalana s’articuli a partir d’un desplegament de la IA segur, ètic i confiable. i descansa en els valors que proposa la Comissió Europea, i fa èmfasi especial en valors de transparència i traçabilitat, ús responsable de la IA, justícia, privacitat, seguretat. La governança de la IA necessàriament requereix un bon model de governança de la dada alineat amb aquests valors i es proposa un model de dades centralitzat amb una arquitectura de dades federada, que redueixi la latència i desenvolupi una capa de metadades prou rica com per permetre després un encertada explotació de les dades amb processos de ciència de dades. La proposta considera només un ús de la IA sense agència, enfocada a assistir als professionals públics (i eventualment a la ciutadania), però no orientada a prendre decisions automàtiques ni a substituir els professionals. Cal que les persones segueixin ostentant la responsabilitat de les decisions i posar el focus en models i solucions d’IA explicables que argumentin prediccions i recomanacions amb transparència i traçabilitat sense excepcions.
El model s’articula a partir de tres grans dimensions: instruments, processos i actors involucrats. El model és d’abast universal, en el sentit que la IA representa una infraestructura digital transversal que requereix un canvi cultural profund i afecta a tota l’organització, tots els processos, tots els actors i la relació també amb l’ecosistema organitzatiu i de persones que interactuen amb l’administració des de qualsevol rol i posició, i amb qualsevol objectiu. Es fa especial èmfasi en la necessitat d’adequar els nivells de ciberseguretat a les vulnerabilitats potencials de les dades compartides i les tecnologies de núvol. També es dedica un espai especial als mecanismes de retiment de comptes i sobretot d’informació a la ciutadania de l’ús d’algorismes d’IA.
2 Incorporar talent especialitzat en IA i crear una Direcció General d’IA i dades
L’adopció de la IA com una infraestructura digital bàsica de l’administració pública impregnarà la Generalitat de solucions d’IA i processos que la utilitzen. Caldrà contractar software i desenvolupar projectes que requereixen empleats públics amb coneixements i habilitats en IA. És fonamental que la Generalitat compti amb coneixement especialitzat en IA internament per garantir que les decisions sobre usos interns, (sub)contractacions, adquisicions d’eines, projectes desenvolupats, etc., es prenen amb la major solvència i els menors riscos. La proposta de CETRA-TDIA és que s’estableixi un àmbit funcional especialitzat en Intel·ligència Artificial per donar suport a tota l’administració en les tasques relacionades amb la IA. Aquest àmbit funcional s’ordena millor sota una direcció general pròpia que depengui directament de la secretaria de telecomunicacions i transformació digital i s’enfoqui específicament a la transformació utilitzant les dades, transformació digital i IA com a eixos tractors. Donat el lligam íntim que hi ha entre la IA, les dades, l’eficiència en els processos i, en general, la transformació digital, la proposta contempla que aquesta direcció general abarqui aquests objectius de transformació. CETRA-TDIA va proposar per la direcció general un perfil Professional amb experiència contrastada des del punt de vista tècnic en Intel·ligència Artificial, Sensibilitat ètica i alineat amb els principis d’una IA pel bé comú, Alineat amb els principis d’un servei públic centrat en les persones, Amb bon coneixement sobre el funcionament intern de l’administració, Amb visió de país i amb bones dots de lideratge i gestió d’equips col·laboratius. La Plaça es va convocar a la primavera i es va nomenar el càrrec el passat mes d’octubre. Pel que fa al cos especialitzat D’altra banda, la manca de talent en aquestes àrees requereix desplegar un programa d’adquisició de talent en condicions competitives al mercat, si volem que les persones més capacitades puguin formar part de l’administració. Per això es proposa un programa especial Catalunya Futur (també proposta de la CETRA) de captació de talent especialitzat en IA. CETRA-TDIA ha elaborat els perfils professionals recomanats per aquest àmbit funcional, i l’esborrany del programa Catalunya Futur-IA.
3 Integrar la utilització de Bessons Digitals en les iniciatives d’innovació de la Generalitat
La proposta consisteix a desplegar una nova metodologia d’innovació que anomenem TOBDI (Transformació Orientada per Bessó Digital Intel·ligent) que canvií l’enfocament de la innovació a tota l’administració, utilitzant eines avençades d’Intel·ligència Artificial, que van més enllà de la IA generativa i els xatbots per construir àgilment petits bessons digitals (models que simulen un context real de manera digital per fer-hi proves i anàlisis previs) com a primera passa de qualsevol procés d’innovació. Aquest és un canvi cultural profund que permetria accelerar els processos innovadors en l’objectiu de la transformació cap a una Administració 5.0. Serà important establir molt bé com tots els bessons digitals s’han d’integrar de forma modular en un únic gran bessó digital que representi tota l’administració i fins i tot la societat que pugui convertir-se a mig termini en l’eina bàsica de presa de decisions informades per l’elaboració de polítiques públiques, però també de millora contínua de la pròpia administració. S’aporta metodologia per dissenyar bessons petits a partir de diagrames de flux que descriuen els processos que es volen millorar i de forma automàtica traduir-los a llenguatge executable per una plataforma de bessons digitals. S’aporta un cas d’exemple sobre una possible modificació dels processos digitals de signatura i s’il·lustra com a partir d’uns diagrames de flux es deriven els bessons i simulant amb els bessons es por avaluar l’impacte de la innovació in silico, la qual cosa permet portar a pilot real unes propostes més depurades amb major taxa d’èxit. També des del bessó es quantifica l’estalvi en hores de personal i diners que representa la proposta que millora que s’avaluï en cada moment
Com a part d’aquesta proposta, el grup CETRA-TDIA ha treballat per identificació un conjunt de colls d’ampolla principals en el funcionament actual de l’administració, i es proposa incorporar la metodologia TOBDI per analitzar com la IA pot millorar aquests processos i serveis, prioritzats atenent el seu nivell d’impacte per a la ciutadania i la seva complexitat interna. Els sectors individualitzats són Intervenció, Jurídics, Subvencions, Contractació i Notificacions.
4 Desplegar la difusió intensiva de recomanacions per al bon ús de la Intel·ligència Artificial a l’Administració
La irrupció de la IA generativa s’està estenent molt ràpidament i afavoreix la reducció de barreres digitals, ja que ofereix la possibilitat d’interactuar en llenguatge natural i no requereix perfils especialitzats per al seu ús, malgrat hi ha riscos d’usos indeguts.
Doncs en aquesta proposta s’han creat uns decàlegs d’impacte en forma d’infografia de fàcil comprensió per l’ús ètic i responsable de la IA generativa dirigits a usuaris finals i a directors d’unitats de IA, així com un document extens que detalla els 10 principis dels decàlegs i es lliga a les infografies a través d’un QR.
El grup proposa utilitzar aquestes infografies-decàlegs com a base per dissenyar campanyes informatives massives i periòdiques per sensibilitzar i formar el major nombre possible d’empleats públics en el bon ús de la IA, amb la idea de fomentar la visió de “si l’uses, fes-ho bé”.
Tanmateix s’aporta material en forma de decàleg també per als dirigents dels usuaris de la IA en els diferents departaments amb un recull pràctic de 10 principis a tenir en compte per gestionar els equips que utilitzen IA generativa.
Es proposen campanyes que difonguin de forma massiva per tota a l’administració de la Generalitat, de manera física i digital aquests decàlegs, impulsant que arribin al major conjunt de servidors públic possibles. El decàleg amb les recomanacions pels usuaris finals i la mesura de difusió es poden consultar a https://enginyeriainformatica.cat/dones-coeinf/decaleg-us-responsable-ia-generativa-empleats-publics/
5 Establir els nivells d’estàndard de qualitat del software aplicables en l’àmbit de la IA i la relació amb proveïdors
Per últim, la qualitat d’un programari en determina la seva utilitat i adequació, un ús amb garanties, i també el seu cicle de vida, és a dir, durant quant de temps podrà funcionar correctament. La qualitat del programari té un impacte directe en la ciutadania quan parlem de programari del sector públic, doncs determina la qualitat dels serveis públics, i també el rendiment de la inversió pública realitzada en el desenvolupament/adquisició d’aquell programari.
CETRA-TDIA recomana establir els mecanismes i procediments per disposar d’un estàndard propi de la Generalitat que marqui com definir, especificar, estructurar implementar, validar i desplegar els software, inclòs aquells que utilitzen intel·ligència artificial per garantir-ne no només la qualitat allargar-ne la vida útil, facilitar la integració amb altres peces de l’administració, etc., sinó també trencar una dinàmica que per l’estructura de l’economia catalana no ha ajudat molt fins ara. Si hi ha un estàndard prou complert, deixa de ser fonamental qui desenvolupa i això obre la porta que petits empresaris, o start ups amb coneixement altament tècnic i disruptiu puguin contractar peces de grans encàrrecs directament amb l’administració. Trencar els plecs i fer que qui té el coneixement desenvolupi al marge de si després pot o no fer el manteniment, i augmentar així la qualitat del software generat i també la necessària fragmentació del mercat per permetre dinamitzar un teixit com el d’aquest país amb molta emprenedoria i PIME capacitada per aportar gran valor disruptiu a l’administració. És clau que el desenvolupament de la IA segueixi els més alts estàndards de qualitat que garanteixin entre d’altres coses la robustesa i la manca de biaix.
En aquest estàndard propi, CETRA-TDIA recomana donar preponderància a les metodologies de cocreació amb tots el actors involucrats en una aplicació de programari (inclosa la ciutadania) (i evitar situacions com el recent afer de verifactu https://new.enginyeriainformatica.cat/news/comunicat-verifactu/) i les avaluacions d’experiència d’usuari abans de passar les solucions a producció. Els estàndards desenvolupats al si de la Generalitat han d’assumir, entre d’altres, els criteris de traçabilitat dels tràmits i la guia de comunicació clara proposats pels altres grups CETRA.
Consideracions finals
De les 5 mesures proposades per CETRA-TDIA 2 estaven implementades a 3 de novembre i les altres 3 estan en aquests moments en mans de la comissió d’IA de la Generalitat desenvolupant el pla de desplegament de les mateixes per anar abordant les bases d’una transformació tan disruptiva com pionera que ha de permetre que l’administració pública evolucioni a un nou model on el servei al ciutadà sigui palès, desapareixi l’escletxa digital de servidors públics i ciutadania i l’eficiència representi l’estàndard burocràtic del futur.
