A menudo me preguntan por qué desde el Gobierno de la Generalidad de Cataluña hay que invertir presupuesto público en lo que llamamos “estrategia de Inteligencia Artificial de Cataluña” (CATALONIA.AI). ¿Dónde está la necesidad de hacerlo, por qué la Inteligencia Artificial merece esta atención. La respuesta es fascinante y preocupante a la vez: hace tiempo que la IA ha dejado de ser una simple tecnología y se ha convertido en una cuestión política, una cuestión estratégica, una cuestión de país.
Debemos ser conscientes (ya menudo no lo somos) de que cada uno de nosotros está interactuando constantemente con sistemas de inteligencia artificial. Son sistemas invisibles que están ahí aunque nosotros no somos realmente conscientes de que están ahí. Hay sistemas de IA que deciden quiénes pueden ser nuestros amigos o qué noticias leerás en las redes sociales. Sistemas de IA que deciden cuál es el próximo producto que más necesitas o qué película es la que más te interesará (o aquella que nunca sabrás ni siquiera que existe…). Hablamos en nuestros teléfonos y conversamos con nuestros asistentes de voz y, obviamente, esto lo podemos hacer gracias a la IA. Existen también sistemas de IA que deciden cómo debes ir de un punto A a un punto B en base al estado del tráfico o de las condiciones climáticas o, tal vez, en base a intereses comerciales. Encontramos sistemas de IA en los mercados financieros (decidiendo cuándo comprar o cuándo vender acciones), en los procesos industriales y en los coches “autónomos” que empiezan a circular por nuestras carreteras. Y la Inteligencia Artificial está cada día más presente en nuestro sistema sanitario e incluso en nuestro sistema legal. Por tanto, sistemas que pueden decidir qué tipo de tratamiento obtendrás cuando estás enfermo y visitas al médico o sistemas que deciden si el tuyo es un perfil adecuado para obtener un determinado trabajo o un seguro o, ¡incluso, si eres culpable o inocente de un crimen!
Todo este panorama podría ser magnífico si no fuera por un pequeño detalle: la Inteligencia Artificial no es (ni mucho menos) perfecta. La IA nos pone sobre la mesa retos inmensos que deben tenerse presentes y afrontar no sólo desde la tecnología sino desde la vertiente más social y ética. Retos como el de la privacidad (varios estudios demuestran cómo la IA puede obtener datos personales, como la orientación sexual de una persona, a partir de datos no personales expuestos en Internet… y de manera mucho más precisa que un humano!), la discriminación y el sesgo (reproduciendo y amplificando los estereotipos y patrones que tenemos como sociedad, como la discriminación por razón de género o de raza), la asimetría (unas pocas empresas tecnológicas disponen de los datos de billones de personas abriendo la puerta a la manipulación de la población, con ejemplos tan claros como el de Facebook y Cambridge Analytica o tan sutiles como el autocompletado de las búsquedas en Internet), la veracidad (no nos creamos todo lo que leemos o vemos… la IA puede crear texto, imágenes y vídeos completamente sintéticos pero que difícilmente seremos capaces de distinguirlos de texto, imágenes y vídeos reales), la falta de diversidad (tanto desde el punto de vista de los algoritmos, que acaban dándote sólo lo que te gusta y escondiendo lo que no te gusta creando a tu alrededor una realidad que no tiene por qué ser la realidad, como desde el punto de vista de los equipos que desarrollan IA, básicamente formados por hombres blancos de mediana edad), o el reto de la seguridad (donde la “adversarial AI” utiliza una IA para “piratear” otra IA añadiendo marcas imperceptibles en las imágenes que confunden completamente al sistema de IA que identifica, por ejemplo, la imagen de una señal de “stop” por una señal de “prioridad de paso”!).
Es por todo esto que la IA ya no es sólo tecnología, sino una cuestión política. Y es por todo esto que la mayoría de países del mundo (y no sólo Cataluña) ya disponen a día de hoy de planes estratégicos, hojas de ruta, planes de acción, guías de mejores prácticas para abordar el despliegue de la IA en sus respectivos territorios. No tengamos ninguna duda de que esta visión estratégica (social y ética) más allá de la visión tecnológica es imprescindible si queremos (como dijo el científico Stephen Hawking) que la inteligencia artificial sea lo mejor que nos ha pasado nunca (y no lo peor que nos ha pasado nunca) como especie humana.