Los registros de algoritmos son portales web públicos donde cualquier persona puede informarse sobre los sistemas algorítmicos que utilizan las administraciones públicas. En el ámbito local, las ciudades de Ámsterdam y Helsinki han sido pioneras en el desarrollo de estas herramientas, y cada vez más ayuntamientos están implementando este tipo de portales fundamentales para garantizar la transparencia de los sistemas algorítmicos.
Los registros de algoritmos son una herramienta útil para documentar, de forma estandarizada e indexable, las decisiones y supuestos que ha tomado una administración pública sobre un sistema algorítmico durante todo su ciclo de vida: desarrollo, implementación, gestión y, en última instancia, desmantelamiento.
Para la ciudadanía, un registro de algoritmos es un medio para conocer qué algoritmos utiliza el Ayuntamiento y cómo estos afectan a sus vidas, pero también para incidir y participar en las decisiones sobre el despliegue de éstos. Para los gobiernos locales, puede ser una herramienta para gestionar la gobernanza de aquellos servicios públicos donde los algoritmos desempeñan un papel destacado, especialmente en el proceso de desarrollo y funcionamiento, de acuerdo con los principios de responsabilidad, transparencia y seguridad de los servicios públicos.
En un registro de algoritmos se puede encontrar información sobre el área responsable del sistema dentro del Ayuntamiento y un correo electrónico de contacto. Además, informa sobre los datos que se han utilizado para entrenar el algoritmo, el modelo de procesamiento de la información, qué discriminaciones, riesgos y mitigaciones se han detectado y cómo se implementa la supervisión humana.
Gracias a las lecciones aprendidas en Amsterdam y Helsinki durante la implementación local de esta herramienta, se han identificado diferentes retos a trabajar para explotar todo el potencial de los registros de algoritmos. Uno de estos aspectos es elestandarización del esquema de datos que establece la información que se publica en los registros de algoritmos. Tener un estándar común e interoperable que cualquier administración local pueda utilizar es clave para garantizar que se publica toda aquella información necesaria para poder comprender el funcionamiento de los algoritmos y sus riesgos asociados.
El pasado junio, el Ayuntamiento de Barcelona, junto con las ciudades de Bruselas, Bolonia, Eindhoven, Mannheim, Rotterdam y Sofía, empezamos un grupo de trabajo en el marco del Laboratorio del Foro Digital de la red EUROCITIES para trabajar en este esquema de datos común, que se publicará en las próximas semanas.
Otro de los retos que emergen a la hora de implementar los registros de algoritmos en el ámbito local es la decisión sobre qué sistemas deben publicarse y cuáles no. En los últimos años, las administraciones públicas se han digitalizado a un ritmo acelerado, especialmente con la irrupción de la pandemia provocada por la COVID-19. Se utilizan algoritmos en prácticamente cualquier proceso administrativo, desde la gestión interna de los recursos humanos hasta la provisión de servicios tan críticos como los relativos a los servicios sociales. Es cierto que, enarbolando la bandera de la transparencia, cualquier algoritmo debería encontrarse en el registro. Sin embargo, los recursos públicos son limitados y el impacto sobre la ciudadanía de la mayoría de algoritmos utilizados en las administraciones públicas es mínimo. Por tanto, la pregunta «¿Cuáles son los algoritmos que deben estar recogidos en el registro?» es pertinente. ¿Cuáles deberían publicarse? ¿Aquellos que utilizan técnicas de Inteligencia Artificial en su implementación? ¿Aquellos considerados de alto riesgo en la propuesta de regulación sobre la inteligencia artificial por parte de la Comisión Europea? ¿Aquellos que interactúan directamente con las personas (por ejemplo, los chatbots)?
Los registros de algoritmos son una herramienta con un enorme potencial para accionar la explicabilidad y transparencia algorítmica en la implementación de servicios públicos más eficientes y proactivos. Sin embargo, todavía queda un largo camino por establecer criterios sobre cómo y qué se publica, dotarlos de una gobernanza clara en su despliegue y, en última instancia, conseguir que sean más que una web que “está bien tener”