{"id":5739,"date":"2023-04-17T07:36:11","date_gmt":"2023-04-17T05:36:11","guid":{"rendered":"https:\/\/web.cidai.eu\/consideraciones-eticas-en-ia-de-una-cuestion-filosofica-a-una-necesidad-de-aplicacion-tangible\/"},"modified":"2025-12-01T17:51:07","modified_gmt":"2025-12-01T16:51:07","slug":"consideraciones-eticas-en-ia-de-una-cuestion-filosofica-a-una-necesidad-de-aplicacion-tangible","status":"publish","type":"post","link":"https:\/\/cidai.eu\/es\/consideraciones-eticas-en-ia-de-una-cuestion-filosofica-a-una-necesidad-de-aplicacion-tangible\/","title":{"rendered":"Consideraciones \u00e9ticas en IA: de una cuesti\u00f3n filos\u00f3fica a una necesidad de aplicaci\u00f3n tangible"},"content":{"rendered":"

Durante los \u00faltimos a\u00f1os, las consideraciones \u00e9ticas de la inteligencia artificial (IA) han pasado de ser una cuesti\u00f3n filos\u00f3fica de alto nivel a convertirse en una necesidad de aplicaci\u00f3n tangible para minimizar sus riesgos y maximizar sus oportunidades<\/strong>. Asimismo, la proliferaci\u00f3n de los smartphones y las aplicaciones de IA que utilizamos a diario, el impacto de la tecnolog\u00eda en todos los sectores (incluyendo la industria, el cuidado de la salud, la justicia, el transporte, finanzas o el entretenimiento), el aumento de la capacidad de procesamiento de datos, ha hecho surgir un intenso y necesario debate sobre el uso \u00e9tico, sesgos de los datos y con las llamadas cajas negras de la IA.<\/p>\n

Sobre el primero, cabe decir que el foco inicial se ha centrado en que los sistemas de IA pueden mantener e incluso amplificar diferentes sesgos negativos hacia distintos grupos de personas, como mujeres, personas mayores, personas con discapacidad y tambi\u00e9n hacia etnias minoritarias, grupos racializados u otros grupos vulnerables. Como consecuencia, una de las preguntas m\u00e1s recurrentes, especialmente en el contexto del aprendizaje autom\u00e1tico, ha sido c\u00f3mo evitar las discriminaciones de los sistemas de IA<\/strong>. Teniendo en cuenta que uno de los objetivos principales de los sistemas de IA es conseguir una mayor eficiencia, precisi\u00f3n, escala y velocidad para tomar decisiones y encontrar las mejores respuestas, la existencia de estos sesgos en el uso de la IA no s\u00f3lo puede menospreciar estas caracter\u00edsticas aparentemente positivas de diversas maneras, sino que genera una falta de confianza no despreciable, especialmente entre las personas m\u00e1s afectadas por esta situaci\u00f3n.<\/p>\n

Cuando hablamos de sesgos, el primer problema es que la utilizaci\u00f3n de datos que contienen desequilibrios impl\u00edcitos o expl\u00edcitos no s\u00f3lo refuerza una distorsi\u00f3n en los datos tambi\u00e9n afecta a cualquier toma de decisiones, haciendo que el sesgo pueda ser sistem\u00e1tico<\/strong>. El segundo problema es que un sistema de IA puede sufrir un sesgo algor\u00edtmico debido a los sesgos impl\u00edcitos o expl\u00edcitos del desarrollador. Esto se debe en gran medida a que el dise\u00f1o de un programa se basa en la comprensi\u00f3n del desarrollador de los valores normativos y no normativos de otras personas. Por eso, es importante incluir en el proceso de desarrollo a los usuarios y las partes interesadas afectadas. El tercer problema tiene que ver con el sesgo de resultado o selecci\u00f3n que frecuentemente se asocia al uso de registros hist\u00f3ricos, pero que tambi\u00e9n tiene que ver con la selecci\u00f3n sistem\u00e1tica de grupos de personas y lugares que pasan a vincularse con determinados resultados. Por ejemplo, en la predicci\u00f3n de actividades delictivas en determinadas \u00e1reas urbanas, un sistema de IA puede acabar asignando m\u00e1s polic\u00edas a un \u00e1rea en particular a partir de los registros hist\u00f3ricos y una selecci\u00f3n por parte de la comandancia de polic\u00eda de vigilar unas zonas mucho m\u00e1s que otras. Esta l\u00f3gica da lugar no s\u00f3lo a que se reporten m\u00e1s casos delictivos en una zona sino que tambi\u00e9n se asignen m\u00e1s polic\u00edas en una determinada zona debido a los resultados sesgados del sistema de IA.<\/p>\n

Por tanto, si no estamos atentos podemos encontrar algunos sistemas de IA hagan que las desigualdades entre grupos sociales se amplifiquen e incluso sean m\u00e1s perdurables. Sin duda, para que esto no ocurra se requiere una mejor compresi\u00f3n social de los datos que se utilizan en los sistemas de IA. Por ejemplo, es posible que algunos profesionales de la IA no sepan que los datos sobre X (como c\u00f3digos postales, registros de salud, ubicaci\u00f3n de carreteras) tambi\u00e9n son, al mismo tiempo, datos sobre Y (como sexo o g\u00e9nero, grupo \u00e9tnico, estatus socioecon\u00f3mico), y puedan pensar que los datos sobre X son un dato neutral que se aplica a todas las personas por igual en lugar de en desigualdad y segregaci\u00f3n social. Sin duda alguna, la discriminaci\u00f3n indirecta, donde las variables que no pensamos que fueran sensibles al proxy, como el sexo o g\u00e9nero o grupo \u00e9tnico, suponen un gran desaf\u00edo. As\u00ed pues, es necesario en primer lugar tomar en consideraci\u00f3n estas cuestiones b\u00e1sicas de estructura social, identificando de forma prioritaria las correlaciones entre los grupos vulnerables, los contextos y las oportunidades de vida recogidas en los datos. .<\/strong><\/p>\n

Sobre el segundo punto, cabe decir que muchos de los sistemas de IA en la actualidad est\u00e1n basados \u200b\u200ben un enfoque conectivista<\/strong>, sea en la visi\u00f3n por computador, el procesamiento del lenguaje natural o la investigaci\u00f3n de operaciones, entre otros. Este enfoque, que tiene mucho \u00e9xito a la hora de aprender a partir de datos estad\u00edsticamente correlacionados, tambi\u00e9n tiene un problema, y \u200b\u200bes que depende m\u00e1s de nuestra intuici\u00f3n que de nuestra comprensi\u00f3n para explicar una idea general de por qu\u00e9 funcionan. Es por esta raz\u00f3n que los percibimos como sistemas de cajas negras, algo que supone un problema de transparencia, explicabilidad y, en definitiva, de opacidad<\/strong>. Este motivo es el principal por el que se denomina a muchos sistemas de IA actuales como cajas negras o black boxes. Tal y como ya hemos apuntado, este enfoque de caja negra es muy diferente a lo que ten\u00edamos previamente cuando los marcos l\u00f3gicos formales eran la norma en la IA simb\u00f3lica, o sea, cuando las reglas aprendidas sol\u00edan estar presentes en un formato legible para las personas. Con la IA conectivista, en muchas ocasiones es dif\u00edcil comprender el proceso por el que estos sistemas llegan a determinadas soluciones o predicciones. Por ello, se propone la explicabilidad como un criterio \u00e9tico b\u00e1sico fundamental.<\/strong><\/p>\n

La normalizaci\u00f3n de esta situaci\u00f3n es problem\u00e1tica, especialmente en sistemas democr\u00e1ticos donde la transparencia es un principio fundamental y, por tanto, las implicaciones de esta incapacidad para entender, o mejor dicho, explicar el proceso de toma de decisiones son profundas a nivel individual y colectivo. Por un lado, esta opacidad aparece como un frente a la dignidad y autonom\u00eda de una persona cuando las decisiones sobre aspectos importantes de su vida las toman sistemas de IA sobre los que no podemos explicar el motivo o el por qu\u00e9. En este sentido, los algoritmos bien documentados y accesibles pueden proporcionar informaci\u00f3n sobre la toma de decisiones o soluciones, aumentando la transparencia y responsabilidad del proceso algor\u00edtmico.<\/p>\n

Por lo general, la creciente importancia de los sistemas de IA para numerosos aspectos de nuestra vida cotidiana hace que se pida una mayor inclusi\u00f3n de consideraciones \u00e9ticas y sociales<\/strong>. Y, claro, para ello debemos tener claro cu\u00e1les son los aspectos a considerar para aplicarlos de una manera sistem\u00e1tica y coherente para ejercer un continuo proceso de rendici\u00f3n de cuentas sobre el dise\u00f1o y uso de la IA. Desgraciadamente, son muy pocas las orientaciones sobre c\u00f3mo se integran las consideraciones \u00e9ticas y de impacto social en ecosistemas de innovaci\u00f3n. Por tanto, hay que avanzar r\u00e1pidamente para fomentar una IA que sea realmente de confianza, donde la justicia y equidad hagan referencia a que un sistema de IA pueda desplegarse de forma justa y donde las personas tengan un trato justo o imparcial. Esto incluye la prevenci\u00f3n, seguimiento o mitigaci\u00f3n de sesgos y discriminaciones no deseadas, as\u00ed como mecanismos de apelaci\u00f3n a decisiones algor\u00edtmicas.<\/p>\n

Por supuesto, tambi\u00e9n deben ser robustos y seguros durante todo su ciclo de vida para que no presenten riesgos de seguridad ya que las consecuencias por sus resultados o los accidentes de su mal uso pueden afectar tanto a individuos como a grupos sociales ya la sociedad en general. Adem\u00e1s, cuando nos referimos a la seguridad de los sistemas de IA no s\u00f3lo hacemos referencia a garantizar que la tecnolog\u00eda sea segura desde una perspectiva t\u00e9cnica de su funcionamiento, tambi\u00e9n nos referimos a que los sistemas de IA no infrinjan sobre los derechos humanos, evaluando los riesgos de seguridad p\u00fablica que surgen de su implementaci\u00f3n.<\/p>\n

Junto a estas consideraciones de transparencia, justicia y seguridad, est\u00e1 el de responsabilidad. <\/strong>\u00c9ste hace referencia principalmente a la responsabilidad moral, que incluye tanto la gesti\u00f3n y uso responsable de los datos de los usuarios como a la responsabilidad de los actores involucrados en el desarrollo e implantaci\u00f3n de un sistema de IA. As\u00ed pues, las organizaciones deben ser conscientes de los problemas relacionados con el uso de datos deficientes y ser responsables si existen consecuencias perjudiciales como resultado de ello. Por otra parte, la responsabilidad se ha erigido como un tema clave para avanzar en los usos \u00e9ticos de la IA ya que existe el temor de que las organizaciones puedan ofuscar la culpa u esconderse de su responsabilidad en los sistemas aut\u00f3nomos o semiaut\u00f3nomos.<\/p>\n

Proteger la privacidad de los usuarios tambi\u00e9n se ha convertido en una condici\u00f3n indispensable para la protecci\u00f3n de la autonom\u00eda individual<\/strong> ya que es vista como un valor a defender relacionado con la protecci\u00f3n de datos y su tratamiento, as\u00ed como con la personalizaci\u00f3n de los datos, la transparencia y la supervisi\u00f3n. De forma relacionada, se identifica otro principio, como es el de autonom\u00eda y que en la IA hace referencia a que el usuario sea central en la funcionalidad del sistema, eliminando su dependencia frente a los modelos de toma de decisiones automatizada. Por \u00faltimo, cabe destacar el principio de sostenibilidad, entendi\u00e9ndola como la capacidad de generar efectos positivos ya largo plazo desde tres perspectivas: la social, la econ\u00f3mica y la medioambiental.<\/p>\n

Con el objetivo general de demostrar que es posible avanzar en esta direcci\u00f3n de aplicaci\u00f3n de 7 principios \u00e9ticos, el Observatorio de \u00c9tica en Inteligencia Artificial de Catalu\u00f1a (OEIAC)<\/strong> ha presentado una aplicaci\u00f3n web y un informe sobre el modelo PIO<\/strong> (Principios, Indicadores, Observables): Una propuesta de autoevaluaci\u00f3n organizativa sobre el uso \u00e9tico de datos y sistemas de Inteligencia Artificial, dise\u00f1ado y desarrollado por el propio OEIAC. Los objetivos espec\u00edficos del modelo PIO son:<\/p>\n