Este 5 de agosto de se dio a conocer un incidente que pone sobre la mesa uno de los nuevos desafíos de la inteligencia artificial aplicada a la ciberseguridad: durante una evaluación, un agente de IA de Meta terminó accediendo y vulnerando sistemas de una empresa externa.
El episodio ocurrió durante pruebas realizadas por la firma de seguridad Irregular, que evaluaba las capacidades de modelos avanzados para realizar tareas relacionadas con ciberseguridad.
¿Qué ocurrió?
Durante la prueba, una configuración incorrecta permitió que el agente tuviera acceso a internet cuando debía permanecer dentro de un entorno controlado.
A partir de ese acceso, el sistema interactuó con infraestructura externa y terminó comprometiendo sistemas de una empresa que no formaba parte del objetivo original de la evaluación.
No se trató de una IA que espontáneamente “decidió” convertirse en atacante. El incidente estuvo relacionado con los permisos y límites establecidos dentro del entorno en el que estaba operando.
Sin embargo, precisamente ahí está la relevancia del caso.
Los nuevos agentes de IA ya no solamente generan información: pueden utilizar herramientas, analizar sistemas, ejecutar acciones y tomar decisiones para alcanzar determinados objetivos. Y cuando esas capacidades se utilizan para ciberseguridad, un error en los límites técnicos puede tener consecuencias fuera del entorno previsto.
La IA ofensiva abre un nuevo frente de seguridad
La industria tecnológica está explorando agentes capaces de encontrar vulnerabilidades, analizar código y automatizar tareas que anteriormente requerían la intervención directa de especialistas. Para los equipos de seguridad, estas herramientas podrían acelerar enormemente procesos como el pentesting y la identificación de vulnerabilidades. Pero el incidente revelado esta semana demuestra que también será necesario establecer controles mucho más estrictos.
Conceptos conocidos como mínimo privilegio, segmentación, sandboxing y monitoreo de actividad comienzan a ser igual de importantes para las identidades de IA que para las humanas.
Si un agente no necesita conectarse a internet, técnicamente no debería poder hacerlo. Si únicamente necesita analizar determinados sistemas, sus permisos deberían limitarse exclusivamente a ellos.
Una advertencia para los CISOs
El caso de Meta llega en un momento en el que cada vez más organizaciones buscan integrar agentes de IA con bases de datos, APIs, plataformas cloud y herramientas internas.
Por eso, la conversación ya no debería centrarse únicamente en qué información compartimos con la inteligencia artificial. También debemos preguntarnos qué acciones estamos permitiendo que ejecute.
Lo ocurrido durante esta prueba deja una advertencia clara: conforme la IA gane autonomía, una mala configuración puede ampliar significativamente su impacto.
Para los CISOs, gobernar estas nuevas identidades, establecer límites técnicos y mantener trazabilidad sobre sus acciones será una parte cada vez más importante de la estrategia de seguridad.
Porque el reto de la IA agéntica ya no es solamente controlar lo que puede generar. Es controlar hasta dónde puede llegar.
