Vivimos una carrera digital acelerada en la que nuestra capacidad de análisis está bloqueada por nuestra disposición a sorprendernos. Admitímoslo: somos parte de la cadena de valor de nuevas y más atractivas aplicaciones, cada vez más personalizadas, que se cuelan en nuestra mano a menudo de forma inadvertida.
Detrás del festival de aplicaciones que utilizamos en nuestro día a día, con la inteligencia artificial como denominador común, surge la duda de si todo esto nos lleva a la mejor de las opciones o si por el camino perdemos capacidad de decidir o nuestro sentido ético.
La inteligencia artificial aglutina un amplio abanico de técnicas y metodologías informáticas destinadas a complementar, si no replicar y mejorar, habilidades cognitivas humanas. Tiene en los denominados Machine y Deep Learning sus principales campos de desarrollo y éstos se focalizan en el desarrollo de algoritmos y modelos que habilitan a los ordenadores a aprender, hacer predicciones y tomar decisiones a partir de un conjunto de datos determinado y sin una programación explícita.
Sydney J. Harris, ensayista y periodista angloamericano, lo resumía muy bien en sus trabajos de finales del siglo pasado: «El peligro real no es que los ordenadores piensen como las personas, sino que los humanos empiecen a pensar como los ordenadores».
¿Admitiríamos que la inteligencia artificial es capaz de reproducir los sesgos humanos como el sexismo o el racismo? ¿Es posible que una máquina o una aplicación sea capaz de tener preferencias?
Desde un tiempo se está trabajando para poner de relieve la importancia de la transparencia de los algoritmos informáticos en las que se basan todas estas aplicaciones, entre las que tenemos, ejemplo, los planificadores de rutas, los analizadores y validadores de datos, las plataformas de servicios de movilidad, etc.
Por ejemplo, una aplicación podría priorizar unos servicios de movilidad que beneficiaran a ciertos grupos demográficos, como los de ciertos barrios de la ciudad frente a áreas infra-servidas. O podría ocurrir que en el diseño de una aplicación involuntariamente pasaran por alto realidades que afectaran al acceso a los servicios por grupos específicos de la sociedad, como pueden ser personas mayores o colectivos con sensibilidades especiales, si las rutas de transporte son discontinuas o se modifican basándose solo en métricas de coste-eficiencia. También es una realidad que aquellos algoritmos que optimizan sus resultados basados en respuestas de usuario o patrones de demanda, son proclives a amplificar, de forma inadvertida, los sesgos preexistentes en los datos que utilizan.
Es necesario comprender el proceso de aprendizaje automático para entender cómo se da lugar a la discriminación algorítmica, conocer que existen herramientas para combatirla y analizar y aplicar la normativa y legislación aplicable sobre la misma. Potenciar así la justicia algorítmica.
¿Qué se entiende por un algoritmo fair, imparcial y justo? ¿Pueden garantizar los algoritmos una mayor neutralidad y eficiencia? ¿Cómo primar nuestra humanidad en un mundo calculado?
La reciente exposición Código y algoritmos, (1) que se ha podido ver hasta el pasado 18 de febrero en Bruselas, en el marco de la presidencia española de la UE, ha buscado hacer comprensible este fenómeno generando preguntas pero sobre todo respuestas para acercar el conocimiento y la reflexión.
La elección del algoritmo así como la calidad del conjunto de datos de base que se utilizan para que éste aprenda y genere patrones, -los cuales serán la referencia para elaborar las decisiones- tiene, por consiguiente, consideraciones societarias y éticas, por no hablar de las de impacto ambiental.
Y es que al final un algoritmo es un conjunto de órdenes de computación. Sabemos que la complejidad de los cálculos así como su naturaleza, habitualmente propietaria, suele impedir su transparencia. Pero lo solemos pasar por alto. Confiamos tanto en la tecnología, en general, a la sociedad, que hace que cada vez delegamos en los algoritmos decisiones de mayor trascendencia.
De este peligro nos alerta el filósofo Yuval Noah Harari en el libro «21 lecciones para el siglo XXI», un consistente ensayo sobre las consecuencias de un mundo en el que las principales decisiones son tomadas por complejos cálculos de computación que no se conocen ni comprenden.
Ha habido casos remarcables que nos visibilizan la importancia de la ética y la transparencia de los algoritmos. Uno que tuvo un clamor en la prensa fue el de Timnit Gebru, codirectora de ética para la IA de Google, que fue despedida(2) mientras trabajaba sobre los riesgos de los grandes modelos de lenguaje de IA, entrenados con ingentes cantidades de datos. Gebru es conocida por su trabajo estratégico por revelar la discriminación de la IA, desarrollar métodos para documentar y auditar los modelos de IA y defender una mayor diversidad en la investigación.
De la misma forma que no compraríamos un coche sin cinturón de seguridad, normalizamos que la transparencia de los algoritmos sea la nueva norma. En la entrevista ‘Make Algorithmic Audits As Ubiquitous As Seatbelts’ (3), Gemma Galdón-Clavell, doctora en Políticas de Seguridad y Tecnología, explica sobre las consecuencias que puede traer una mala praxis y sin embargo la importancia de desplegar metodologías que nos lleven a tener constancia de que un algoritmo es neutro, responde a la funcionalidad exigida y carece de preferencias.
Por su complejidad así como su naturaleza, habitualmente propietaria, que suele impedir su transparencia, entender cómo funcionan, en resumen, que son FRAND Fair, Reasonable y Non Discriminatory, es un objetivo que especialmente desde el sector público cobra especial relevancia y que nos lleva a impulsar la auditabilidad de los algoritmos de nuestras aplicaciones.
Tenemos un reciente marco de referencia que promete impulsar esta necesidad: El pasado 13 de marzo de 2024, el Parlamento Europeo aprobó la Ley de IA.(4) que se prevé entre en vigor el mes de Mayo.
La Ley de IA introducirá normas integrales para regir el uso de la IA en la UE, convirtiéndose en el primer gran bloque económico en regular esta tecnología y tendremos en ella, por tanto, la base de referencia legal para impulsar las políticas de auditabilidad que nos darán las garantías que como sociedad necesitamos.
REFERENCIAS (1) https://www.spainculture.be/es/region/bruselas/codigos-y-algoritmos-sentido-en-un-mundo-calculado/ (2) https://www.technologyreview.es/s/12986/fue-terrible-y-despiadado-los-ultimos-dias-de-timnit-gebru-en-google (3) https://www.forbes.com/sites/ashoka/2021/04/26/make-algorithmic-audits-as-ubiquitous-as-seatbeltswhy-tech-needs-outside-help-to-serve-humanity/?sh=19ada67d49a1 (4) https://www.euronews.com/my-europe/2024/03/13/lawmakers-approve-ai-act-with-overwhelming-majority
