Durante décadas, la inteligencia artificial (IA) parecía un campo de interés académico o científico, pero lejos de las necesidades de muchas empresas. En aplicaciones de mercado, su uso estaba principalmente limitado a entornos muy controlados o con una estrecha supervisión humana. Esto hacía que, en muchos casos, no resultara práctico para gran parte del ámbito empresarial.
En la última década todo parece haber cambiado: el interés por la IA se ha desvelado de forma espectacular. No hay día en que no se oiga hablar de IA en los medios de comunicación, en la calle, en el trabajo, etc.; de los múltiples usos dados en la IA, a veces con un sobreuso del término «IA». Pero independientemente del posible sobreuso del término, es evidente que algo ha cambiado para que ese término, que hace unos años parecía cosa sólo del ámbito científico o académico, ahora tenga infinidad de potenciales aplicaciones.
Parece bastante claro que la gran precisión conseguida por los sistemas de IA en los últimos años está detrás de ese gran salto en sus posibilidades de uso. Tareas que años atrás necesitaban la constante corrección de un humano, hoy en día pueden necesitar sólo intervenciones puntuales o incluso permitirse la ausencia total de intervención. Esto ha hecho que, desde el punto de vista de negocio, para las empresas la IA haya pasado a ser un ámbito interesante que puede ayudar a mejorar sus procesos internos y su productividad.
Pero toda tecnología suele tener una parte positiva y una negativa, y la IA no podía ser menos. Tras los grandes avances y el aumento de la aplicabilidad de la IA han emergido algunas preocupaciones relacionadas con temas de opacidad, privacidad, sesgos, deepfakes, etc. que la aparición de ChatGPT ha hecho aún más evidentes. Aunque para el gran público ha sido el ChatGPT el que ha dado a conocer esta problemática, la preocupación por temas relacionados con la ética en la IA empezó mucho antes, con el uso de datos provenientes de múltiples fuentes. El uso masivo de datos hizo que emergiera la preocupación por los sesgos que estos datos contenían y que los algoritmos de machine learning (ML) aún amplificaban más. El uso de algoritmos de deep learning (DL) en ámbitos como la justicia, la banca o la medicina pusieron de relieve su poca transparencia respecto a cómo y por qué toman determinadas decisiones. Pero la cosa no termina ahí: en cuanto a la explicabilidad, se da una paradoja que hace que, en general, cuanto más precisión alcanza un algoritmo, menos transparente es, por lo que el DL suele conseguir más precisión que el ML, pero es menos explicable la forma en que ha tomado las decisiones, hasta el punto de que en muchos casos se comportan como cajas negras que imposibilitan saber cómo o por qué se han.
Por eso, ahora más que nunca, la regulación de la IA se ha convertido en un motivo de preocupación para gobiernos, empresas, particulares, etc. Incluso la propia Comisión Europea lleva años trabajando en el desarrollo de un marco regulador de la IA que garantice que los europeos puedan tener más confianza.
La CCMA, como empresa perteneciente al sector público, no queda fuera de esa preocupación. Muy al contrario: a toda esta preocupación se le añade la responsabilidad que tiene como medio público, tanto desde el punto de vista de responsabilidad social, transparencia, sostenibilidad, etc., como desde el punto de vista de la credibilidad y el prestigio. Actualmente, la CCMA dispone de sistemas de recomendación de contenidos para usuarios, sistemas de reconocimiento facial, reconocimiento de logos para clasificar y buscar sus contenidos, sistemas de transcripción de audio a texto o sistema de subtitulación semiautomático. Además, también se está trabajando en lo posible uso de sistemas generadores de resumen automático en catalán, subtitulación totalmente automática, detección de género, detección de temas de objetivos de desarrollo sostenible en sus contenidos, generación automática de información meteorológica mediante avatares, etc.
Todas estas tareas requieren algoritmos de ML y DL como eXtreme Gradient Boosting (XGBoost), Light Gradient-Boosting Machine (LightGBM), Hidden Markov Models (HMM), Convolutional Neural Networks (CNN), Transformers, etc., que pueden generar o amplificar sesgos. Aunque, en la mayoría de los casos, detrás del uso de estos algoritmos encontramos humanos supervisando sus resultados, esto no siempre es así. El caso más claro es el de los recomendadores de contenido para usuarios. Es evidente que un humano no analizará los miles de recomendaciones que se generan a diario; es más, aunque un humano quisiera tener algunas pistas de los criterios seguidos por el algoritmo para generar las recomendaciones, en muchos casos no sería posible dada la misma opacidad del algoritmo, lo que complica saber si estas recomendaciones están en línea con los objetivos y principios de la función de la CCMA como medio público. Ésta falta de transparencia de los algoritmos de recomendación plantea un gran reto en los medios públicos respecto a su independencia, responsabilidad, justicia, etc.
La recomendación no es el único reto que nos encontramos con los medios públicos con la IA. Los sesgos introducidos o amplificados por los sistemas de ML/DL también pueden generar problemáticas en el ámbito de documentación en la selección de material audiovisual a partir de búsquedas o clasificación automática durante la producción de programas. Los algoritmos que han sido entrenados con datos externos a la CCMA pueden contener sesgos de género, etnia, ideología, etc. que obligan a ser constantemente supervisados por un humano. Pero los entrenados con datos internos de la CCMA tampoco están libres de contener sesgos si estos datos no han sido seleccionados siguiendo un protocolo definido correctamente.
La supervisión llevada a cabo por la CCMA para minimizar los sesgos de sus contenidos tendrá todo el sentido siempre que se tengan en cuenta los aspectos discriminatorios que podrían generar las propias herramientas de IA utilizadas tanto en el proceso de producción de contenidos como en el resto de procesos internos.
Es por eso que los medios públicos tienen ante sí el gran reto de utilizar la IA respetando los principios que dan sentido al hecho de ser un servicio público, que obligará a adquirir compromisos entre el uso de sistemas de IA de alto rendimiento poco transparentes o sistemas de menor rendimiento pero más transparentes. Al mismo tiempo, la adopción de ese compromiso no deberá suponer una pérdida de competitividad respecto a la competencia.