Primera brecha de datos con inteligencia artificial en España: lecciones para Chile

La Agencia Española de Protección de Datos (AEPD) recibió la primera notificación oficial de una brecha de datos personales en la que un ciberataque fue ejecutado mediante un agente de inteligencia artificial (IA) conectado a un modelo de lenguaje. Este caso, aunque ocurrió en España, es una señal de alerta para Chile y el mundo sobre cómo la IA puede automatizar y acelerar este tipo de incidentes.

Primera brecha con agente de IA en España

La AEPD confirmó que una organización afectada reportó el incidente, pero aún no revela el modelo de lenguaje utilizado, ni el número de personas afectadas ni la información concreta modificada o expuesta. El organismo aclara que esto no implica que sea el primer ciberataque con IA en España, sino el primero notificado bajo estas circunstancias. También destaca que el modelo de IA no fue hackeado: el atacante usó la herramienta como parte del proceso, sin comprometer la infraestructura del proveedor.

Cómo operó el ataque autónomo

Según la información de la organización afectada, una tercera persona activó un agente de IA para desarrollar distintas fases del ataque. El sistema comenzó buscando vulnerabilidades en archivos genéricos, luego inició sesión correctamente en una aplicación y, de manera autónoma, examinó el entorno en busca de nuevos fallos de seguridad. Tras localizar otra vulnerabilidad, el agente modificó datos personales y accedió a facturas almacenadas. La AEPD subraya que detrás del ataque seguía existiendo una persona, quien seleccionó el objetivo y puso en funcionamiento el agente.

Lecciones para las empresas chilenas

La AEPD advierte que los agentes de IA cambian la velocidad de los ataques, ya que pueden realizar búsqueda, análisis y explotación de forma mucho más rápida y con intervención humana limitada. Recomienda que las empresas incluyan estos escenarios en sus análisis de riesgos, revisen los permisos asignados a cada cuenta y ajusten los tiempos de respuesta ante incidentes. En Chile, las organizaciones deberían considerar que la IA puede modificar la probabilidad, velocidad y alcance de una brecha de datos, combinando supervisión humana con sistemas de detección y respuesta capaces de actuar a la velocidad de estas nuevas amenazas.

Con información de Infobae