La seguridad de los agentes de IA sigue una curva de madurez familiar: implementación, visibilidad y finalmente control. Pero lo que descubrimos colectivamente es que imponer privilegios mínimos a los agentes de IA es más difícil de lo que imaginábamos. Esta es la razón por la que existen tantos enfoques, desde el filtrado rápido hasta el control de acceso a la capa de identidad. A lo que llegamos colectivamente es a que comprender las intenciones de los agentes de IA es esencial para protegerlos. No es fácil, pero es el único camino a seguir.
Las organizaciones abordan este desafío con distintos niveles de sofisticación. Para muchos, el objetivo ahora es simplemente encontrar agentes de IA que ya estén presentes en sus negocios. Es un primer paso necesario. Los agentes de IA están apareciendo en plataformas SaaS, entornos de desarrollo, flujos de trabajo en la nube, sistemas de atención al cliente, herramientas de productividad y aplicaciones internas. Algunos están acreditados, otros no.
Pero el descubrimiento por sí solo no ayuda. Los agentes de IA no son pasivos. Razonan, planifican, invocan herramientas, llaman a API, acceden a datos y realizan acciones sin participación humana. El riesgo no es que su organización tenga demasiados agentes. El riesgo es que estos agentes puedan operar en todos los sistemas sin una identidad, intención, propiedad o aplicación consistentes. También existen diferentes tipos de agentes de IA, cada uno de los cuales requiere un enfoque diferente para protegerlos.
Las directrices recientes sobre el despliegue prudente de servicios de inteligencia artificial de agentes lo dejan claro. La IA del agente introduce riesgos de privilegios, autenticación, responsabilidad, diseño y comportamiento que los equipos de seguridad deben abordar antes de que estos sistemas se incorporen a flujos de trabajo críticos. La visualización es el punto de partida, pero la aplicación de la ley es clave.
La trampa de la visibilidad
La mayoría de los programas de seguridad comienzan con la pregunta: «¿Qué tenemos?» Esto tiene sentido para la nube, SaaS, endpoints, identidad y vulnerabilidades. Esto también tiene sentido para los agentes de IA.
Sin embargo, debido a la velocidad a la que se crean los agentes de IA, a qué pueden acceder y cómo se comparten, el riesgo de ser detenido solo por la visibilidad de los agentes de IA es mayor que en todos los demás entornos de la lista.
Un inventario de agentes de IA que no está vinculado a la aplicación de la ley se convierte en otra lista estática de activos. Indica que el agente existe, pero no le dice si el acceso del agente es apropiado, si su comportamiento es consistente con su propósito, si su propietario sigue siendo responsable o cuándo se deben revocar los permisos a medida que cambian las condiciones. Para los agentes de IA, la visibilidad sin control crea un tipo peligroso de confianza, lo que hace que sea más fácil sentir que tienen el control incluso cuando la realidad es muy diferente.
Por qué los agentes de IA rompen el modelo de acceso estático
El control de acceso tradicional supone cierto grado de previsibilidad. La gestión de la identidad humana y el acceso es más sencilla porque cada persona tiene un trabajo. La gestión de identidades no humanas o de máquinas es más compleja, pero las cuentas de servicio aún admiten cargas de trabajo definidas. Aunque estas suposiciones están incompletas, proporcionaron a los equipos de seguridad una base para roles, permisos, autorizaciones, revisiones de acceso y limpieza periódica.
Los agentes de IA no son estáticos. Los agentes se definen por objetivos en lugar de flujos de trabajo fijos. Puede interpretar instrucciones, invocar varias herramientas y adaptar acciones según el contexto. Dos agentes con privilegios similares pueden tener perfiles de riesgo muy diferentes, dependiendo de lo que cada uno intente lograr.
El acceso estático por sí solo no es suficiente, ya que es probable que los agentes de IA se utilicen de formas que no esperaba cuando se les concedió el acceso. El problema no es necesariamente un comportamiento malicioso, sino una ambigüedad que introduce riesgos, como tareas que van más allá de su propósito original.
Las preguntas que los equipos de seguridad deben hacerse no son solo «¿A qué tiene acceso este agente?» La pregunta más importante es: ¿qué se le debería permitir hacer a este agente en estas condiciones para este propósito? Es una cuestión de aplicación.
La aplicación de la ley comienza con una mejor comprensión
La aplicación de agentes de IA eficaces no puede incorporarse a inventarios básicos y no contextuales. Los equipos de seguridad deben correlacionar la información entre propietarios, consumidores, identidades, sistemas, privilegios e intenciones antes de poder definir controles significativos.
Esto significa comprender a los agentes desde varios aspectos.
Propiedad: ¿A quién pertenece el agente? (Esto puede ser más difícil de lo que cree). Consumidor: ¿Quién utiliza el agente? Identidad: ¿Qué ID, tokens, secretos, concesiones de OAuth y cuentas de servicio utiliza el agente? Propósito: ¿Qué debe lograr el agente? Acceso: ¿A qué sistemas, aplicaciones, almacenes de datos, API e infraestructura tiene acceso? Uso: ¿Qué hizo realmente el agente y con qué frecuencia? Origen: ¿Cómo se creó el agente? Ciclo de vida: ¿El agente está activo, inactivo o no está asociado con su propósito previsto?
Muchas organizaciones luchan aquí porque el contexto del agente está distribuido. Los datos de identidad se almacenan en un solo lugar. Los privilegios de la nube están en otra parte. La integración de SaaS tiene su propio modelo. La infraestructura como código puede revelar patrones de implementación previstos, pero ese contexto rara vez se correlaciona con otros contextos. La propiedad es visible para la persona que creó el agente, pero puede no serlo para otros.
Sin correlación, la aplicación de la ley se convierte en conjeturas. Con la correlación, los equipos de seguridad pueden comenzar a definir reglas que reflejen cómo se comportan realmente los agentes.
De la reparación a las reglas
Muchas herramientas de seguridad equiparan la aplicación de la ley con la remediación. Cuando se encuentra algo peligroso, el libro de jugadas abre un ticket, elimina el acceso, desactiva la identidad o notifica al propietario. Eso es útil, pero no suficiente para la IA del agente. Los agentes de IA requieren coerción antes, durante y después de realizar una acción.
Los equipos de seguridad deben ir más allá de preguntar: «¿Qué debo eliminar después de que se detecta un riesgo?» “¿Qué se le debería permitir hacer a este agente de todos modos?” Este cambio traslada la aplicación de la ley de la limpieza al control. Las organizaciones pueden definir reglas como:
Los agentes de atención al cliente pueden leer el historial de tickets, pero no pueden exportar datos de clientes en masa. Los asistentes de código pueden sugerir cambios, pero no pueden enviarlos a producción sin un flujo de trabajo aprobado. Los agentes de operaciones en la nube pueden inspeccionar la variación de la configuración, pero no pueden cambiar roles privilegiados. Los agentes financieros pueden generar informes, pero no pueden iniciar pagos ni cambiar los detalles del proveedor. Security Agent puede priorizar alertas, pero no puede eliminar registros ni suprimir detecciones.
Estas reglas no se pueden gestionar eficazmente dentro de una plataforma de IA a la vez. Las empresas utilizarán muchas plataformas de agentes, agentes nativos SaaS, marcos internos, servicios en la nube y herramientas de desarrollo. Cada uno puede tener su propio modelo de controles, registros y permisos. Los equipos de seguridad necesitan una forma coherente de gestionar agentes en entornos fragmentados. Por lo tanto, el próximo plano de control para los agentes de IA debe estar centrado en la identidad, ser consciente del contexto e independiente de la plataforma.
El papel de la intención en la aplicación de la ley
ID responde quién es el agente. Los privilegios responden a qué acceso existe. Una intención responde por qué ese acceso debería estar activo.
La dimensión de la intención es esencial. Los riesgos de los agentes de IA van más allá de si técnicamente está permitida una llamada a la API. Los equipos de seguridad deben evaluar si las acciones se alinean con el propósito autorizado del agente.
La aplicación de la ley basada en la intención brinda a las organizaciones un modelo de control más preciso. Esto permite a los equipos de seguridad pasar de permisos estáticos y amplios a acceso condicional según la intención y el contexto. Esto no significa que tengas que aprobar manualmente cada acción. Esto significa que las acciones riesgosas deben estar limitadas por el rol, el propietario, la tarea, el entorno y el resultado esperado del agente.
El OWASP Top 10 para aplicaciones de agentes destaca riesgos como abuso de identidad y privilegios, uso indebido de herramientas, comunicación insegura entre agentes, fallas en cascada y agentes no autorizados. Todos estos riesgos apuntan a la misma conclusión. Los administradores de seguridad deben comprender por qué los agentes se comportan como lo hacen.
Plano de control único para Agentic AI
Los agentes de IA no viven en una sola plataforma. Estos existen en toda la empresa. Mientras que las identidades de las máquinas «tradicionales» fueron creadas por equipos de TI, desarrolladores y DevSecOps, los agentes de IA son creados por personas en todos los roles dentro de una organización. Algunos agentes trabajan en un entorno de nube, mientras que otros trabajan localmente. Algunos están integrados en flujos de trabajo empresariales que no gestiona directamente el equipo de seguridad.
El control por plataforma de los agentes de IA no es extensible. Si bien cada plataforma puede aprovisionar sus propios agentes, ninguna proporciona una visión de identidad, acceso, propiedad y ciclo de vida de toda la empresa. Las organizaciones necesitan un plano de control unificado que comprenda a los agentes y aplique reglas coherentes en sus entornos.
Este plano de control debe hacer tres cosas:
Descubrimiento: encuentre agentes dondequiera que estén ubicados. Comprender: asociar agentes con identidad, propiedad, acceso, contexto de infraestructura, uso e intención. Aplicación: aplique reglas que controlen qué pueden hacer los agentes, cuándo pueden hacerlo y cómo cambia el acceso a medida que cambia el contexto.
Vea cómo las soluciones de seguridad que priorizan la IA, como Token Security, descubren, comprenden y aplican lo que los agentes de IA pueden hacer en cualquier plataforma.
Ésta es la diferencia entre gestionar la dispersión de agentes y gestionar la IA de los agentes. La expansión se produce cuando cada plataforma, equipo y unidad de negocio crea agentes de forma independiente. La gobernanza ocurre cuando una organización es capaz de aplicar un control consistente en todas sus actividades sin obstaculizar la innovación.
Qué deberían hacer ahora los líderes de seguridad
Los equipos de seguridad no tienen que esperar a tener estándares perfectos o herramientas completamente maduras antes de tomar medidas. Pueden comenzar a construir su modelo operativo ahora.
El primer paso es dejar de tratar la visibilidad de los agentes de IA como un objetivo. Por supuesto, el inventario de agentes es la base de la ejecución. Cada agente debe tener asignado un propietario, un propósito, una identidad, un conjunto de permisos y un estado de ciclo de vida. Los agentes sin dueño deben ser investigados, los agentes con exceso de poder deben tener el tamaño adecuado, los agentes inactivos deben retirarse y las acciones riesgosas deben tener controles más estrictos.
Pero en última instancia lo que importa es la ejecución. Los líderes de seguridad deben alinear la gobernanza de los agentes de IA con la gestión de identidades y accesos, la seguridad de la nube, la seguridad de las aplicaciones y los flujos de trabajo de DevOps. El agente AI no es un mundo separado. Se trata de un software con accesibilidad, autonomía e impacto empresarial. Esto pertenece al modelo de seguridad empresarial, pero ese modelo necesita evolucionar.
La Iniciativa de Estándares para Agentes de IA del NIST va en la misma dirección, con esfuerzos centrados en estándares, protocolos, autenticación, infraestructura de identidad e interacciones seguras entre agentes humanos y múltiples agentes. El mercado también avanza hacia la misma conclusión. En lugar de tratar a los agentes de IA como aplicaciones normales con interfaces de chatbot, es necesario gestionarlos como actores autorizados.
La visualización es el comienzo, pero la aplicación es el objetivo.
La primera ola de seguridad de los agentes de IA tuvo que ver con la percepción. Las organizaciones debían comprender que los agentes se estaban infiltrando en la empresa y creando nuevos riesgos de identidad. Ese mensaje llegó y todos los equipos de seguridad y de IAM supieron que necesitaban visibilidad. La próxima ola es la aplicación de la ley.
Las empresas deben definir qué pueden hacer los agentes y aplicar las reglas de manera consistente en todas las plataformas. Necesitamos partir de la pregunta: «¿Qué agentes existen?» “¿Qué agentes pueden tomar qué acciones bajo qué condiciones y quién es el responsable?”
Ese es el plano de control que necesita el agente AI. No es otro panel ni un inventario estático. Los agentes de IA se están convirtiendo en participantes activos en las operaciones empresariales. Escriba código, administre infraestructura, mueva datos, actualice sistemas y ejecute flujos de trabajo. Las organizaciones que tienen éxito con la IA de agentes no se limitan a encontrar a todos los agentes. Comprenderán a todos los agentes lo suficientemente bien como para poder hacer lo que los agentes pueden hacer.
Source link
