La AEPD reporta la primera brecha de datos ejecutada por un agente de IA autónomo

La Agencia Española de Protección de Datos (AEPD) recibió por primera vez la notificación de una brecha de datos personales en la que un tercero utilizó un agente de inteligencia artificial (IA) para ejecutar y controlar distintas fases del ataque. La empresa afectada no ha sido identificada ni se sabe qué modelo de IA se empleó, pero para la AEPD este caso marca un antes y un después: la amenaza teórica y potencial de la IA es ahora algo real y concreto.

La IA como atacante autónomo

Según la información que entregó la empresa víctima, el agente de IA comenzó buscando vulnerabilidades en archivos genéricos y logró iniciar sesión en el sistema. Una vez dentro, continuó explorando de forma autónoma hasta encontrar al menos una vulnerabilidad que le permitió modificar datos personales y acceder a facturas. La AEPD aún está analizando la información recibida y no ha explicado cómo se consiguieron las credenciales para iniciar la sesión.

Este caso revela un salto cualitativo en ciberseguridad: la IA ya no es solo un asistente que ayuda a un ciberatacante humano, sino que se convierte en un atacante virtual autónomo. Mientras un chatbot responde preguntas, un agente de IA es capaz de recivir una petición, dividirla en subtareas, usar herramientas, ejecutar código y consultar información para decidir qué hacer a continuación. Eso es exactamente lo que preocupa a la AEPD.

El riesgo de los agentes inteligentes

No es un caso aislado. Hace unos días, Google advitió que los agentes de IA utilizados por ciberdelincuentes y grupos de espionaje están dejando de ser experimentos para convertirse en herramientas potentísimas. Su equipo de inteligencia de amenazas desveló desde grupos que usan modelos de IA para resolver problemas durante una intrusión, hasta un proceso completo de robo de credenciales con múltiples agentes: en solo seis horas lograron escalar privilegios y comprometer miles de credenciales.

La velocidad y capacidad de análisis de estos agentes superan a las de los expertos humanos. Pueden analizar varios archivos al mismo tiempo, probar distintas vías de entrada y modificar su estrategia según lo que encuentran. Si consiguen una cuenta, una clave o un token con demasiados permisos, pueden saltar entre servicios antes de que la empresa detecte algo anómalo. Por eso, la AEPD recomienda que las empresas incluyan los ataques con agentes de IA como parte de sus análisis de riesgos. Ya no basta con tener una categoría “malware”, porque estas amenazas tienen una escala y una velocidad mucho mayor.

¿Cómo defenderse? La supervisión humana sigue siendo imprescindible, pero la seguridad ya no puede depeder solo de eso. Desde el Centro Criptológico Nacional (CCN) se apunta a este cambio de paradigma y se ofrece una guía de buenas prácticas para evitar estas amenazas. Para Chile, un país con empresas cada vez más digitalizadas, la lección es clara: los ciberdelincuentes ya usan IA autónoma, y la protección debe adaptarse a un enemigo que no descansa ni se equivoca.

Con información de Xataka