Agentes de IA exponen datos confidenciales sin que nadie lo note

Un vendedor le pide a un agente de inteligencia artificial (IA) —un sistema que ejecuta tareas de forma autónoma— los precios para un cliente. El agente extrae datos de fuentes internas: sistemas de precios restringidos, comunicaciones del equipo y cotizaciones archivadas. El resultado parece correcto, así que un segundo agente toma esa información para redactar la propuesta comercial. Ningún humano revisa ninguno de los dos pasos.

Cuando alguien descubre que la propuesta contiene información no aprobada, confidencial y sensible, nadie puede rastrear dónde entró el dato problemático ni cómo se propagó entre sistemas, archivos y agentes. El escenario, documentado por MIT Technology Review Insights, ilustra por qué la gobernanza de la IA —las reglas y controles para usarla de forma segura— debe evolucionar con rapidez.

El problema no es la herramienta, es la visibilidad

A medida que más empresas comienzan a usar agentes de IA en sus flujos de trabajo diarios, se dan cuenta de que ya no basta con gestionar archivos estáticos. Ahora deben manejar datos que se mueven y fragmentan: se ingieren, copian, resumen, transforman, reutilizan y redistribuyen en formatos nuevos. En pocas palabras, la seguridad de la IA no es un problema de herramientas; es un problema de visibilidad de los datos.

Los enfoques tradicionales de seguridad, construidos solo alrededor de aplicaciones, sistemas, redes o dispositivos, ya no son suficientes. Para proteger la IA agéntica a escala —es decir, cuando múltiples agentes trabajan de forma coordinada— se necesita entender cómo se mueven los datos. Los equipos deben establecer el linaje de datos, o sea, el registro del origen, las transformaciones y el destino de cada pieza de información.

Lo que Chile debe saber

Este caso no ocurrió en Chile, pero tiene relevancia directa para las empresas locales que ya están adoptando o evaluando agentes de IA. Bancos, retail, servicios públicos y startups chilenas que automatizan procesos con IA se enfrentan al mismo riesgo: si no saben qué datos entran a sus agentes ni cómo se combinan, pueden terminar compartiendo información privilegiada sin querer. El reporte de MIT Technology Review Insights —producido por su área de contenido personalizado, no por su equipo editorial— recomienda establecer linaje de datos para gestionar la gobernanza, la responsabilidad y la confianza en flujos de trabajo humanos, agénticos o mixtos.

Con información de MIT Technology Review