De la IA que responde a la IA que actúa
Hasta hace muy poco, las empresas aprovechaban la IA generativa mediante una conversación: alguien preguntaba y el modelo respondía. Un agente, en cambio, consulta datos, utiliza herramientas, encadena tareas y actúa en nombre de una persona o de un proceso. Y cuando una máquina actúa, la pregunta ya no es «¿qué dice?», sino «¿qué hace, con qué permisos y quién es responsable de ello?». Lo vemos cada semana en muchas empresas: los proyectos piloto llegan antes que las políticas, y los agentes entran en la empresa antes que las herramientas para gobernarlos.
Por qué los agentes amplifican el riesgo
Los agentes no inventan riesgos nuevos desde cero; lo que hacen es amplificar los que ya teníamos. Si una organización tiene datos sobreexpuestos, permisos heredados que nadie ha revisado o una clasificación poco rigurosa de la información, un agente los encontrará, los utilizará y los expondrá a una velocidad que solo una máquina puede alcanzar. Esto se nota especialmente en tres ámbitos.
Identidad. Un agente opera dentro de nuestros sistemas, pero no es una persona ni una cuenta de servicio convencional: decide cómo utiliza el acceso que tiene y, además, puede ser manipulado. Un correo o un documento con instrucciones ocultas (inyección de prompts) puede hacer que ejecute acciones legítimas con fines ilegítimos.
Permisos. La tentación es conceder al agente todos los permisos «por si acaso», para que funcione a la primera. Es el patrón que más encontramos cuando revisamos agentes antes de llevarlos a producción. Un agente manipulable, con acceso amplio y un canal de salida, es una puerta abierta a la filtración de datos.
Trazabilidad. Debemos poder responder quién ha activado el agente, con qué identidad ha actuado, qué datos ha consultado y por qué. Sin esta visibilidad no es posible investigar un incidente ni demostrar el cumplimiento del Reglamento europeo de IA y del RGPD.
A todo ello hay que sumar la proliferación de agentes en las organizaciones, procedentes de distintas fuentes: integrados en las aplicaciones que ya utilizamos, creados por los propios usuarios, de terceros que entran por la puerta trasera (IA en la sombra) y desarrollados internamente. Cuando hacemos el primer inventario con un cliente, casi siempre hay más agentes de los que la empresa creía tener.
Hay que gobernar los agentes como lo que son: identidades que actúan
La buena noticia es que no hace falta empezar de cero. La clave es tratar cada agente como a un miembro más de la organización: con identidad propia, una persona responsable, acceso limitado a lo que necesita y un registro de todo lo que hace. En la práctica, aplicamos dos principios que también recoge OWASP en su Top 10 para aplicaciones agénticas. La agencia mínima: no solo hay que limitar a qué puede acceder el agente, sino también cuánta libertad tiene para actuar sin consultar a una persona, porque conceder autonomía a un agente es un acto de confianza, no una forma de trasladar la responsabilidad. Y la observabilidad: saber qué hace el agente, por qué y en nombre de quién.
Tecnología moderna para un riesgo moderno
Estos principios no se aplican con una política que nadie lee. Se necesitan tecnologías diseñadas para la IA y los agentes, con la gobernanza integrada desde el diseño y no añadida posteriormente como un parche.
Identidades y permisos. Cada agente debe tener una identidad propia en el directorio corporativo, acceso condicional, una persona responsable asignada y permisos que puedan revocarse al instante. Además, solo debe poder ver lo mismo que la persona que lo invoca, con etiquetas de confidencialidad y prevención de pérdida de datos.
Mecanismos de protección en tiempo de ejecución que detecten intentos de inyección de prompts y bloqueen las acciones sensibles o las supediten a una aprobación humana.
Un plano de control centralizado que inventaríe todos los agentes, mida su uso, detecte los que no tienen responsable o incumplen las políticas e integre su actividad en la supervisión de seguridad. En el ecosistema de Microsoft, por ejemplo, Agent 365 cubre esta capa de gobernanza, mientras que Entra ID, Purview y Defender se encargan de la seguridad.
Gobernar para acelerar, no para frenar
A menudo se considera que la gobernanza frena la innovación. Nuestra experiencia con clientes indica lo contrario: las organizaciones que tienen claro quién puede crear agentes, con qué datos y bajo qué controles son las que escalan más rápido, porque no tienen que volver atrás cada vez que un proyecto piloto quiere pasar a producción. La receta es sencilla de formular y exigente de aplicar: agentes alineados con los procesos de negocio y con un retorno medible, datos organizados antes de conectar cualquier sistema y una plataforma con gobernanza nativa.
Desde Softeng, socio promotor del CIDAI, acompañamos a las empresas en su digitalización segura con IA: desde la identificación de casos de uso con retorno real hasta el despliegue de agentes gobernados desde el diseño. Maximizamos el potencial de la IA con seguridad.
Referencias
OWASP GenAI Security Project, Top 10 for Agentic Applications for 2026: https://genai.owasp.org/resource/owasp-top-10-for-agentic-applications-for-2026/
