Durante los últimos años, las consideraciones éticas de la inteligencia artificial (IA) han pasado de ser una cuestión filosófica de alto nivel a convertirse en una necesidad de aplicación tangible para minimizar sus riesgos y maximizar sus oportunidades. Asimismo, la proliferación de los smartphones y las aplicaciones de IA que utilizamos a diario, el impacto de la tecnología en todos los sectores (incluyendo la industria, el cuidado de la salud, la justicia, el transporte, finanzas o el entretenimiento), el aumento de la capacidad de procesamiento de datos, ha hecho surgir un intenso y necesario debate sobre el uso ético, sesgos de los datos y con las llamadas cajas negras de la IA.
Sobre el primero, cabe decir que el foco inicial se ha centrado en que los sistemas de IA pueden mantener e incluso amplificar diferentes sesgos negativos hacia distintos grupos de personas, como mujeres, personas mayores, personas con discapacidad y también hacia etnias minoritarias, grupos racializados u otros grupos vulnerables. Como consecuencia, una de las preguntas más recurrentes, especialmente en el contexto del aprendizaje automático, ha sido cómo evitar las discriminaciones de los sistemas de IA. Teniendo en cuenta que uno de los objetivos principales de los sistemas de IA es conseguir una mayor eficiencia, precisión, escala y velocidad para tomar decisiones y encontrar las mejores respuestas, la existencia de estos sesgos en el uso de la IA no sólo puede menospreciar estas características aparentemente positivas de diversas maneras, sino que genera una falta de confianza no despreciable, especialmente entre las personas más afectadas por esta situación.
Cuando hablamos de sesgos, el primer problema es que la utilización de datos que contienen desequilibrios implícitos o explícitos no sólo refuerza una distorsión en los datos también afecta a cualquier toma de decisiones, haciendo que el sesgo pueda ser sistemático. El segundo problema es que un sistema de IA puede sufrir un sesgo algorítmico debido a los sesgos implícitos o explícitos del desarrollador. Esto se debe en gran medida a que el diseño de un programa se basa en la comprensión del desarrollador de los valores normativos y no normativos de otras personas. Por eso, es importante incluir en el proceso de desarrollo a los usuarios y las partes interesadas afectadas. El tercer problema tiene que ver con el sesgo de resultado o selección que frecuentemente se asocia al uso de registros históricos, pero que también tiene que ver con la selección sistemática de grupos de personas y lugares que pasan a vincularse con determinados resultados. Por ejemplo, en la predicción de actividades delictivas en determinadas áreas urbanas, un sistema de IA puede acabar asignando más policías a un área en particular a partir de los registros históricos y una selección por parte de la comandancia de policía de vigilar unas zonas mucho más que otras. Esta lógica da lugar no sólo a que se reporten más casos delictivos en una zona sino que también se asignen más policías en una determinada zona debido a los resultados sesgados del sistema de IA.
Por tanto, si no estamos atentos podemos encontrar algunos sistemas de IA hagan que las desigualdades entre grupos sociales se amplifiquen e incluso sean más perdurables. Sin duda, para que esto no ocurra se requiere una mejor compresión social de los datos que se utilizan en los sistemas de IA. Por ejemplo, es posible que algunos profesionales de la IA no sepan que los datos sobre X (como códigos postales, registros de salud, ubicación de carreteras) también son, al mismo tiempo, datos sobre Y (como sexo o género, grupo étnico, estatus socioeconómico), y puedan pensar que los datos sobre X son un dato neutral que se aplica a todas las personas por igual en lugar de en desigualdad y segregación social. Sin duda alguna, la discriminación indirecta, donde las variables que no pensamos que fueran sensibles al proxy, como el sexo o género o grupo étnico, suponen un gran desafío. Así pues, es necesario en primer lugar tomar en consideración estas cuestiones básicas de estructura social, identificando de forma prioritaria las correlaciones entre los grupos vulnerables, los contextos y las oportunidades de vida recogidas en los datos. .
Sobre el segundo punto, cabe decir que muchos de los sistemas de IA en la actualidad están basados en un enfoque conectivista, sea en la visión por computador, el procesamiento del lenguaje natural o la investigación de operaciones, entre otros. Este enfoque, que tiene mucho éxito a la hora de aprender a partir de datos estadísticamente correlacionados, también tiene un problema, y es que depende más de nuestra intuición que de nuestra comprensión para explicar una idea general de por qué funcionan. Es por esta razón que los percibimos como sistemas de cajas negras, algo que supone un problema de transparencia, explicabilidad y, en definitiva, de opacidad. Este motivo es el principal por el que se denomina a muchos sistemas de IA actuales como cajas negras o black boxes. Tal y como ya hemos apuntado, este enfoque de caja negra es muy diferente a lo que teníamos previamente cuando los marcos lógicos formales eran la norma en la IA simbólica, o sea, cuando las reglas aprendidas solían estar presentes en un formato legible para las personas. Con la IA conectivista, en muchas ocasiones es difícil comprender el proceso por el que estos sistemas llegan a determinadas soluciones o predicciones. Por ello, se propone la explicabilidad como un criterio ético básico fundamental.
La normalización de esta situación es problemática, especialmente en sistemas democráticos donde la transparencia es un principio fundamental y, por tanto, las implicaciones de esta incapacidad para entender, o mejor dicho, explicar el proceso de toma de decisiones son profundas a nivel individual y colectivo. Por un lado, esta opacidad aparece como un frente a la dignidad y autonomía de una persona cuando las decisiones sobre aspectos importantes de su vida las toman sistemas de IA sobre los que no podemos explicar el motivo o el por qué. En este sentido, los algoritmos bien documentados y accesibles pueden proporcionar información sobre la toma de decisiones o soluciones, aumentando la transparencia y responsabilidad del proceso algorítmico.
Por lo general, la creciente importancia de los sistemas de IA para numerosos aspectos de nuestra vida cotidiana hace que se pida una mayor inclusión de consideraciones éticas y sociales. Y, claro, para ello debemos tener claro cuáles son los aspectos a considerar para aplicarlos de una manera sistemática y coherente para ejercer un continuo proceso de rendición de cuentas sobre el diseño y uso de la IA. Desgraciadamente, son muy pocas las orientaciones sobre cómo se integran las consideraciones éticas y de impacto social en ecosistemas de innovación. Por tanto, hay que avanzar rápidamente para fomentar una IA que sea realmente de confianza, donde la justicia y equidad hagan referencia a que un sistema de IA pueda desplegarse de forma justa y donde las personas tengan un trato justo o imparcial. Esto incluye la prevención, seguimiento o mitigación de sesgos y discriminaciones no deseadas, así como mecanismos de apelación a decisiones algorítmicas.
Por supuesto, también deben ser robustos y seguros durante todo su ciclo de vida para que no presenten riesgos de seguridad ya que las consecuencias por sus resultados o los accidentes de su mal uso pueden afectar tanto a individuos como a grupos sociales ya la sociedad en general. Además, cuando nos referimos a la seguridad de los sistemas de IA no sólo hacemos referencia a garantizar que la tecnología sea segura desde una perspectiva técnica de su funcionamiento, también nos referimos a que los sistemas de IA no infrinjan sobre los derechos humanos, evaluando los riesgos de seguridad pública que surgen de su implementación.
Junto a estas consideraciones de transparencia, justicia y seguridad, está el de responsabilidad. Éste hace referencia principalmente a la responsabilidad moral, que incluye tanto la gestión y uso responsable de los datos de los usuarios como a la responsabilidad de los actores involucrados en el desarrollo e implantación de un sistema de IA. Así pues, las organizaciones deben ser conscientes de los problemas relacionados con el uso de datos deficientes y ser responsables si existen consecuencias perjudiciales como resultado de ello. Por otra parte, la responsabilidad se ha erigido como un tema clave para avanzar en los usos éticos de la IA ya que existe el temor de que las organizaciones puedan ofuscar la culpa u esconderse de su responsabilidad en los sistemas autónomos o semiautónomos.
Proteger la privacidad de los usuarios también se ha convertido en una condición indispensable para la protección de la autonomía individual ya que es vista como un valor a defender relacionado con la protección de datos y su tratamiento, así como con la personalización de los datos, la transparencia y la supervisión. De forma relacionada, se identifica otro principio, como es el de autonomía y que en la IA hace referencia a que el usuario sea central en la funcionalidad del sistema, eliminando su dependencia frente a los modelos de toma de decisiones automatizada. Por último, cabe destacar el principio de sostenibilidad, entendiéndola como la capacidad de generar efectos positivos ya largo plazo desde tres perspectivas: la social, la económica y la medioambiental.
Con el objetivo general de demostrar que es posible avanzar en esta dirección de aplicación de 7 principios éticos, el Observatorio de Ética en Inteligencia Artificial de Cataluña (OEIAC) ha presentado una aplicación web y un informe sobre el modelo PIO (Principios, Indicadores, Observables): Una propuesta de autoevaluación organizativa sobre el uso ético de datos y sistemas de Inteligencia Artificial, diseñado y desarrollado por el propio OEIAC. Los objetivos específicos del modelo PIO son:
- Sensibilizar a los diferentes agentes de la cuádruple hélice, es decir, la presencia de los cuatro pilares clave en cualquier proceso innovador: universidades y centros de investigación, administración pública, tejido empresarial y ciudadanía, que utilizan datos y sistemas de inteligencia artificial, sobre la importancia de adoptar principios éticos fundamentales para minimizar riesgos conocidos y desconocidos y maximizar oportunidades.
- Identificar acciones adecuadas o inadecuadas a través de una propuesta de autoevaluación basada en principios, indicadores y observables para valorizar, recomendar y avanzar en el uso ético de datos y sistemas de inteligencia artificial.
Estos objetivos parten de algo incontestable, que es la proliferación de productos y servicios que utilizan sistemas de IA. Ante esto, las organizaciones públicas y privadas así como los usuarios de IA y ciudadanos en general deben asegurarse de que los sistemas de IA no sólo son seguros desde un punto de vista técnico, sino que también son sostenibles desde un punto de vista ambiental y social. Así pues, para fomentar la confianza del público en las tecnologías de IA es necesario un apoyo creciente a las estrategias de autoevaluación sistemática de principios éticos para, de este modo, materializar y valorizar un elemento clave y transformador en la economía del bienestar: los más altos estándares éticos por parte de organizaciones a la hora de diseñar, desarrollar e implementar soluciones tecnológicas en general y de sistemas de IA en particular.
En este sentido, el modelo PIO es un paso más para seguir avanzando en esta dirección ya que proporciona una integración de la teoría en la práctica de principios éticos fundamentales de la IA, y se construye en torno a la sencillez y una pregunta clave y efectiva que cualquier persona que desarrolla, gestiona o dirige un proyecto donde existen datos y sistemas de IA: ¿Lo hemos hecho? En este sentido, partiendo de una perspectiva de responsabilidad social organizativa, se propone la utilización de un modelo que puede utilizarse en cualquier fase del ciclo de vida de los datos y sistemas de IA. Esto significa que es de aplicación en el diseño y modelización, incluyendo planificación, recogida de datos y construcción de modelos; en el desarrollo y validación, incluyendo formación de modelos y pruebas; y en el despliegue, seguimiento y perfeccionamiento, incluyendo en la resolución de problemas. El formulario de autoevaluación del modelo PIO, así como el informe completo del modelo, están disponibles en éste enlace.
