Durante los últimos días, la conversación en ciberseguridad ha cambiado de tono. Ya no se trata únicamente de proteger modelos de IA o controlar el acceso a herramientas generativas. Ahora la atención está puesta en un nuevo riesgo: los agentes de IA con capacidad de ejecutar acciones de forma autónoma.

La preocupación creció después de que diversas organizaciones revelaran pruebas en las que agentes de IA lograron realizar acciones no previstas dentro de entornos corporativos, mientras que expertos comenzaron a advertir sobre un vacío importante en la seguridad de estas implementaciones.

El problema ya no es el modelo, sino lo que puede hacer

Muchas empresas están incorporando agentes capaces de:

• Acceder a sistemas internos.
• Consultar bases de datos.
• Ejecutar comandos.
• Crear código.
• Automatizar procesos completos.
• Tomar decisiones con poca intervención humana.

En otras palabras, la IA dejó de ser un chatbot para convertirse en un usuario privilegiado.

Y ahí aparece un nuevo desafío para los CISOs.

Mientras los controles tradicionales fueron diseñados para personas o aplicaciones, los agentes de IA operan con autonomía, memoria, herramientas y permisos, creando una superficie de ataque completamente distinta.

¿Cuál es el riesgo real?

El mayor peligro no es que la IA “se vuelva maliciosa”.

El riesgo es que:

• reciba instrucciones manipuladas (prompt injection),
• acceda a información que no debería,
• utilice credenciales con demasiados privilegios,
• ejecute acciones sin suficiente supervisión,
• o sea utilizada como un nuevo punto de entrada por un atacante.

Un agente comprometido puede convertirse rápidamente en un multiplicador del ataque, moviéndose entre sistemas mucho más rápido que un usuario tradicional.

Lo que cambia para el CISO

Así como hace algunos años nació la necesidad de proteger APIs, luego el cloud y posteriormente las identidades, hoy comienza una nueva disciplina: la gobernanza de agentes de IA.

Esto implica responder preguntas como:

¿Qué permisos tiene cada agente?
¿Quién aprueba sus acciones?
¿Qué registros genera?
¿Puede auditarse cada decisión?
¿Qué ocurre si el agente es comprometido?

Las organizaciones que respondan estas preguntas desde el diseño tendrán una ventaja significativa frente a quienes simplemente desplieguen agentes para ganar productividad.

Cinco acciones que deberían comenzar hoy

• Aplicar el principio de mínimo privilegio para cualquier agente de IA.
• Registrar todas las acciones ejecutadas por los agentes.
• Aislar los entornos donde interactúan con información sensible.
• Implementar validaciones humanas para acciones críticas.
• Incorporar pruebas específicas contra ataques de prompt injection y abuso de herramientas.

La adopción de IA continuará acelerándose durante los próximos meses, pero la conversación está evolucionando: ya no basta con preguntar qué puede hacer la IA para el negocio; ahora también debemos preguntarnos qué podría hacer un atacante a través de ella.

Para los CISOs, el reto no será detener la innovación, sino construir controles que permitan aprovechar el potencial de los agentes de IA sin convertirlos en el próximo punto ciego de la estrategia de ciberseguridad.