La creació d’itineraris formatius especialitzats i d’un entorn col·laboratiu per compartir dades de forma segura, així com l’adopció d’un marc legal que asseguri la privadesa i d’un marc ètic per aconseguir un equilibri entre avenços tecnològics, interessos empresarials i garanties per a la ciutadania són algunes de les claus que recull el ‘Llibre blanc sobre la Intel·ligència Artificial aplicada a la Ciberseguretat’, per afavorir l’adopció de la intel·ligència artificial a les diferents capes i processos de la ciberseguretat.
El document, que han presentat l’Agència de Ciberseguretat de Catalunya i el Centre of Innovation for Data Tech and Artificial Intelligence (CIDAI), en el marc del Barcelona Cibersecurity Congress, assenyala els beneficis que ofereix l’ús de tecnologies basades en la intel·ligència artificial en les fases d’identificació, protecció, detecció, resposta i recuperació per millorar la gestió de la seguretat, alhora que destaca la revolució que eines com la recentment creada ChatGPT suposaran en l’ús de la intel·ligència artificial a la societat i també en l’àmbit de la ciberseguretat.
El Director General de l’Agència de Ciberseguretat de Catalunya, Tomàs Roy, destaca que l’entitat ha promogut l’elaboració del llibre blanc arran del “paper clau” que la IA jugarà en el futur pròxim per afrontar “els principals reptes actuals de la ciberseguretat, com la necessitat de major capacitat de reacció davant de l’augment de ciberatacs, el creixement de la complexitat operativa i la manca de talent”.
En paraules del director del CIDAI i de l’Àrea Digital d’Eurecat, Joan Mas, “el CIDAI, en la seva missió d’apropar la innovació tecnològica en IA i dades als diferents sectors de l’economia catalana, ha reunit experts d’i2CAT, IDEAI-UPC i Eurecat, tots ells membres del CIDAI, per a l’elaboració d’aquest llibre blanc que dona una visió pràctica de l’impacte de la IA sobre la ciberseguretat, per tal que qualsevol empresa i agent afectat pugui iniciar o continuar el seu procés de transformació digital amb els mecanismes necessaris per fer front al nou panorama d’amenaces i riscos emergents”.
Segons apunta el llibre blanc, la intel·ligència artificial és una tecnologia que en diversos aspectes es mostra molt efectiva per protegir les infraestructures i actius digitals de les empreses i organitzacions dels ciberatacs, tot i que l’increment de la digitalització, tant en l’àmbit social com empresarial, genera un major nombre de dades i es fa més difícil protegir-les. En aquest escenari, el document situa com a prioritari integrar solucions basades en tecnologies d’intel·ligència artificial als sistemes de ciberseguretat.
D’altra banda, el llibre blanc assenyala les limitacions i barreres que dificulten la implementació de la intel·ligència artificial en la ciberseguretat i, per això, identifica també recomanacions per superar-les. En primer lloc, estima que calen nous itineraris formatius que incloguin les dues disciplines i subratlla la necessitat de desenvolupar entorns col·laboratius per a l’accés a dades per a entrenament respectuosos amb la normativa en matèria de protecció de dades, així com espais de dades (Data Spaces).
A més, indica la necessitat d’adoptar un marc legal que asseguri la privadesa de les dades, al mateix temps que en fomenti i agilitzi la seva compartició. Finalment, recomana l’adopció d’un marc ètic per aconseguir un equilibri entre els avenços tecnològics, els interessos empresarials i les garanties per a la ciutadania.
La revolució d’eines basades en la IA, com ChatGPT, en la ciberseguretat
El document destaca la revolució que l’aparició de ChatGPT, un model d’intel·ligència artificial conversacional que pot interactuar de forma similar a l’ésser humà i que és capaç de generar codi font, està generant en la ciberseguretat.
En aquest sentit, posa en relleu que aquesta eina pot afavorir el creixement de les amenaces de ciberseguretat, doncs per exemple té la capacitat de generar peces de programari maliciós (malware) per part de cibercriminals sense habilitats tècniques, d’escriure correus electrònics maliciosos, convincents i gramaticalment correctes per llençar campanyes de phishing o de generar codi que canvia el xifratge criptogràfic per esquivar els mecanismes de seguretat tradicionals, entre altres. I, d’altra banda, també és una eina útil per a la ciberseguretat per cercar i corregir vulnerabilitats quan es desenvolupa codi segur o per detectar programari maliciós mitjançant l’enginyeria inversa de forma molt més ràpida que un operador humà.
Els sectors de la ciberseguretat i la intel·ligència artificial a Catalunya
D’acord amb el llibre blanc, els sectors de la intel·ligència artificial i la ciberseguretat tenen gran potencial de creixement a Catalunya gràcies a un sistema de coneixement consolidat amb universitats i centres de recerca i tecnològics, la capacitat d’atreure talent i el lideratge d’iniciatives com les estratègies CATALONIA.AI i el Pla Nacional de Ciberseguretat. A més, indica que es compta amb un destacat teixit empresarial i associatiu en aquests àmbits, on el 74% de les empreses del sector de la intel·ligència artificial es dediquen al desenvolupament de software i el 89% de les empreses dedicades a la ciberseguretat ofereixen productes i serveis destinats a la protecció.