Tot sovint em pregunten per què des del Govern de la Generalitat de Catalunya cal invertir pressupost públic en això que anomenem “estratègia d’Intel·ligència Artificial de Catalunya” (CATALONIA.AI). On és la necessitat de fer-ho, per què la Intel·ligència Artificial mereix aquesta atenció. La resposta és fascinant i preocupant alhora: fa temps que la IA ha deixat de ser una simple tecnologia i ha esdevingut una qüestió política, una qüestió estratègica, una qüestió de país.
Hem de ser conscients (i tot sovint no ho som) que cadascú de nosaltres està interactuant constantment amb sistemes d’intel·ligència artificial. Són sistemes invisibles que estan aquí tot i que nosaltres no som realment conscients que estan aquí. Hi ha sistemes d’IA que decideixen qui poden ser els nostres amics o quines notícies llegiràs a les xarxes socials. Sistemes d’IA que decideixen quin és el proper producte que més necessites o quina pel·lícula és la que més t’interessarà (o aquella que mai sabràs ni tan sols que existeix…). Parlem als nostres telèfons i conversem amb els nostres assistents de veu i, òbviament, això ho podem fer gràcies a la IA. Hi ha també sistemes d’IA que decideixen com has d’anar d’un punt A a un punt B en base a l’estat del trànsit o de les condicions climàtiques o, potser, en base a interessos comercials. Trobem sistemes d’IA en els mercats financers (decidint quan comprar o quan vendre accions), en els processos industrials i en els cotxes “autònoms” que comencen a circular per les nostres carreteres. I la Intel·ligència Artificial és cada dia més present en el nostre sistema sanitari i, fins i tot, en el nostre sistema legal. Per tant, sistemes que poden decidir quin tipus de tractament obtindràs quan estàs malalt i visites el metge o sistemes que decideixen si el teu és un perfil adequat per obtenir una determinada feina o una determinada assegurança o, inclús, si ets culpable o innocent d’un crim!
Tot aquest panorama podria ser magnífic si no fos per un petit detall: la Intel·ligència Artificial no és (ni molt menys) perfecte. La IA ens posa sobre la taula reptes immensos que cal tenir presents i afrontar no només des de la tecnologia sinó des de la vessant més social i ètica. Reptes com el de la privacitat (diversos estudis demostren com la IA pot obtenir dades personals, com la orientació sexual d’una persona, a partir de dades no personals exposades a Internet… i de manera molt més precisa que un humà!), la discriminació i el biaix (reproduint i amplificant els estereotips i patrons que tenim com a societat, com la discriminació per raó de gènere o de raça), l’asimetria (unes poques empreses tecnològiques disposen de les dades de bilions de persones obrint la porta a la manipulació de la població, amb exemples tan clars com el de Facebook i Cambridge Analytica o tan subtils com l’autocompletat de les cerques a Internet), la veracitat (no ens creguem tot el que llegim o veiem… la IA pot crear text, imatges i vídeos completament sintètics però que difícilment serem capaços de distingir-los de text, imatges i vídeos reals), la manca de diversitat (tant des del punt de vista dels algoritmes, que acaben donant-te només allò que t’agrada i amagant-te allò que no t’agrada creant al teu voltant una realitat que no té perquè ser la realitat, com des del punt de vista dels equips que desenvolupen IA, bàsicament formats per homes blancs de mitjana edat), o el repte de la seguretat (on la “adversarial AI” utilitza una IA per “piratejar” una altra IA afegint marques imperceptibles en les imatges que confonen completament al sistema d’IA que identifica, per exemple, la imatge d’un senyal de “stop” per un senyal de “prioritat de pas”!).
És per tot això que la IA ja no és només tecnologia, sinó una qüestió política. I és per tot això que la majoria de països del món (i no només Catalunya) ja disposen a dia d’avui de plans estratègics, fulls de ruta, plans d’acció, guies de millors pràctiques per abordar el desplegament de la IA en els seus respectius territoris. No tinguem cap dubte que aquesta visió estratègica (social i ètica) més enllà de la visió tecnològica és imprescindible si volem (com va dir el científic Stephen Hawking) que la intel·ligència artificial sigui el millor que ens ha passat mai (i no pas el pitjor que ens ha passat mai) com a espècie humana.