Durante d\u00e9cadas, la inteligencia artificial (IA) parec\u00eda un campo de inter\u00e9s acad\u00e9mico o cient\u00edfico, pero lejos de las necesidades de muchas empresas. En aplicaciones de mercado, su uso estaba principalmente limitado a entornos muy controlados o con una estrecha supervisi\u00f3n humana. Esto hac\u00eda que, en muchos casos, no resultara pr\u00e1ctico para gran parte del \u00e1mbito empresarial.<\/p>\n
En la \u00faltima d\u00e9cada todo parece haber cambiado: el inter\u00e9s por la IA se ha desvelado de forma espectacular. No hay d\u00eda en que no se oiga hablar de IA<\/strong> en los medios de comunicaci\u00f3n, en la calle, en el trabajo, etc.; de los m\u00faltiples usos dados en la IA, a veces con un sobreuso del t\u00e9rmino \u00abIA\u00bb. Pero independientemente del posible sobreuso del t\u00e9rmino, es evidente que algo ha cambiado para que ese t\u00e9rmino, que hace unos a\u00f1os parec\u00eda cosa s\u00f3lo del \u00e1mbito cient\u00edfico o acad\u00e9mico, ahora tenga infinidad de potenciales aplicaciones<\/strong>.<\/p>\n Parece bastante claro que la gran precisi\u00f3n conseguida por los sistemas de IA en los \u00faltimos a\u00f1os est\u00e1 detr\u00e1s de ese gran salto en sus posibilidades de uso. Tareas que a\u00f1os atr\u00e1s necesitaban la constante correcci\u00f3n de un humano, hoy en d\u00eda pueden necesitar s\u00f3lo intervenciones puntuales o incluso permitirse la ausencia total de intervenci\u00f3n<\/strong>. Esto ha hecho que, desde el punto de vista de negocio, para las empresas la IA haya pasado a ser un \u00e1mbito interesante que puede ayudar a mejorar sus procesos internos y su productividad.<\/p>\n Pero toda tecnolog\u00eda suele tener una parte positiva y una negativa, y la IA no pod\u00eda ser menos. Tras los grandes avances y el aumento de la aplicabilidad de la IA han emergido algunas preocupaciones relacionadas con temas de opacidad, privacidad, sesgos, deepfakes<\/strong>, etc. que la aparici\u00f3n de ChatGPT ha hecho a\u00fan m\u00e1s evidentes. Aunque para el gran p\u00fablico ha sido el ChatGPT el que ha dado a conocer esta problem\u00e1tica, la preocupaci\u00f3n por temas relacionados con la \u00e9tica en la IA empez\u00f3 mucho antes, con el uso de datos provenientes de m\u00faltiples fuentes. El uso masivo de datos hizo que emergiera la preocupaci\u00f3n por los sesgos que estos datos conten\u00edan y que los algoritmos de machine learning (ML) a\u00fan amplificaban m\u00e1s<\/strong>. El uso de algoritmos de deep learning (DL) en \u00e1mbitos como la justicia, la banca o la medicina pusieron de relieve su poca transparencia respecto a c\u00f3mo y por qu\u00e9 toman determinadas decisiones. Pero la cosa no termina ah\u00ed: en cuanto a la explicabilidad, se da una paradoja que hace que, en general, cuanto m\u00e1s precisi\u00f3n alcanza un algoritmo, menos transparente es, por lo que el DL suele conseguir m\u00e1s precisi\u00f3n que el ML, pero es menos explicable la forma en que ha tomado las decisiones, hasta el punto de que en muchos casos se comportan como cajas negras que imposibilitan saber c\u00f3mo o por qu\u00e9 se han.<\/p>\n Por eso, ahora m\u00e1s que nunca, la regulaci\u00f3n de la IA se ha convertido en un motivo de preocupaci\u00f3n para gobiernos, empresas, particulares, etc. Incluso la propia Comisi\u00f3n Europea lleva a\u00f1os trabajando en el desarrollo de un marco regulador de la IA que garantice que los europeos puedan tener m\u00e1s confianza.<\/p>\n La CCMA, como empresa perteneciente al sector p\u00fablico, no queda fuera de esa preocupaci\u00f3n. Muy al contrario: a toda esta preocupaci\u00f3n se le a\u00f1ade la responsabilidad que tiene como medio p\u00fablico, tanto desde el punto de vista de responsabilidad social, transparencia, sostenibilidad, etc., como desde el punto de vista de la credibilidad y el prestigio. Actualmente, la CCMA dispone de sistemas de recomendaci\u00f3n de contenidos para usuarios, sistemas de reconocimiento facial, reconocimiento de logos para clasificar y buscar sus contenidos, sistemas de transcripci\u00f3n de audio a texto o sistema de subtitulaci\u00f3n semiautom\u00e1tico. Adem\u00e1s, tambi\u00e9n se est\u00e1 trabajando en lo posible uso de sistemas generadores de resumen autom\u00e1tico en catal\u00e1n, subtitulaci\u00f3n totalmente autom\u00e1tica, detecci\u00f3n de g\u00e9nero, detecci\u00f3n de temas de objetivos de desarrollo sostenible en sus contenidos, generaci\u00f3n autom\u00e1tica de informaci\u00f3n meteorol\u00f3gica mediante avatares, etc.<\/strong><\/p>\n Todas estas tareas requieren algoritmos de ML y DL como eXtreme Gradient Boosting (XGBoost), Light Gradient-Boosting Machine (LightGBM), Hidden Markov Models (HMM), Convolutional Neural Networks (CNN), Transformers, etc., que pueden generar o amplificar sesgos. Aunque, en la mayor\u00eda de los casos, detr\u00e1s del uso de estos algoritmos encontramos humanos supervisando sus resultados, esto no siempre es as\u00ed. El caso m\u00e1s claro es el de los recomendadores de contenido para usuarios. Es evidente que un humano no analizar\u00e1 los miles de recomendaciones que se generan a diario;<\/strong> es m\u00e1s, aunque un humano quisiera tener algunas pistas de los criterios seguidos por el algoritmo para generar las recomendaciones, en muchos casos no ser\u00eda posible dada la misma opacidad del algoritmo, lo que complica saber si estas recomendaciones est\u00e1n en l\u00ednea con los objetivos y principios de la funci\u00f3n de la CCMA como medio p\u00fablico. \u00c9sta falta de transparencia de los algoritmos de recomendaci\u00f3n<\/strong> plantea un gran reto en los medios p\u00fablicos respecto a su independencia, responsabilidad, justicia, etc.<\/p>\n La recomendaci\u00f3n no es el \u00fanico reto que nos encontramos con los medios p\u00fablicos con la IA. Los sesgos introducidos o amplificados por los sistemas de ML\/DL tambi\u00e9n pueden generar problem\u00e1ticas en el \u00e1mbito de documentaci\u00f3n en la selecci\u00f3n de material audiovisual a partir de b\u00fasquedas o clasificaci\u00f3n autom\u00e1tica durante la producci\u00f3n de programas. Los algoritmos que han sido entrenados con datos externos a la CCMA pueden contener sesgos de g\u00e9nero, etnia, ideolog\u00eda, etc.<\/strong> que obligan a ser constantemente supervisados \u200b\u200bpor un humano. Pero los entrenados con datos internos de la CCMA tampoco est\u00e1n libres de contener sesgos si estos datos no han sido seleccionados siguiendo un protocolo definido correctamente.<\/p>\n La supervisi\u00f3n llevada a cabo por la CCMA para minimizar los sesgos de sus contenidos tendr\u00e1 todo el sentido siempre que se tengan en cuenta los aspectos discriminatorios que podr\u00edan generar las propias herramientas de IA utilizadas tanto en el proceso de producci\u00f3n de contenidos como en el resto de procesos internos.<\/p>\n Es por eso que los medios p\u00fablicos tienen ante s\u00ed el gran reto de utilizar la IA respetando los principios que dan sentido al hecho de ser un servicio p\u00fablico, que obligar\u00e1 a adquirir compromisos entre el uso de sistemas de IA de alto rendimiento poco transparentes o sistemas de menor rendimiento pero m\u00e1s transparentes.<\/strong> Al mismo tiempo, la adopci\u00f3n de ese compromiso no deber\u00e1 suponer una p\u00e9rdida de competitividad respecto a la competencia.<\/p>\n","protected":false},"excerpt":{"rendered":" Durante d\u00e9cadas, la inteligencia artificial (IA) parec\u00eda un campo de inter\u00e9s acad\u00e9mico o cient\u00edfico, pero lejos de las necesidades de muchas empresas. En aplicaciones de […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[75],"tags":[],"class_list":["post-5715","post","type-post","status-publish","format-standard","hentry","category-blog-es"],"acf":[],"yoast_head":"\n