Experimento con 2 millones de “canarios” revela filtraciones masivas en IA
Investigadores sembraron credenciales falsas en routers de IA y rastrearon cómo se filtraban datos sensibles.
Un equipo de investigadores colocó 2 millones de señuelos digitales —como claves de acceso y URLs únicas— dentro de solicitudes enviadas a una red de servicios de inteligencia artificial. El objetivo era comprobar qué pasaba con la información sensible que los usuarios confían a estas plataformas. Lo que encontraron fue un ecosistema que, según describieron, filtra datos como un colador.
¿Cómo funciona un “router de IA”?
Muchas aplicaciones de inteligencia artificial actuales no se conectan directamente a un modelo como GPT-4 o Claude. En lugar de eso, usan intermediarios conocidos como “AI routers” o “AI gateways”. Empresas como OpenRouter o Vercel reciben los mensajes (prompts) de los usuarios finales y los redirigen al motor de inferencia más conveniente, ya sea por precio, velocidad o capacidad técnica. Así, un desarrollador no contrata directamente a Anthropic u OpenAI, sino que paga a un router para que elija el mejor modelo disponible.
Este modelo de negocio, aunque práctico y económico, abre una puerta peligrosa: los datos del usuario pasan por múltiples servidores antes de llegar al modelo que los procesa. Y en ese tránsito, la información puede quedar expuesta.
Canarios digitales para atrapar filtraciones
Para medir el riesgo, el investigador HD Moore —conocido por su trabajo previo en seguridad informática— diseñó un experimento controlado. Creó una colección de credenciales falsas pero funcionales: claves de acceso a AWS vinculadas a cuentas vacías, contraseñas para servicios como SSH, URLs únicas, nombres de dominio DNS y referencias a repositorios privados de Git. Ninguno de esos secretos había sido usado antes, y Moore controlaba toda la infraestructura que recibiera cualquier intento de uso con esas credenciales.
Luego, insertó cada secreto en exactamente un prompt enviado a un solo proveedor. Estos señuelos funcionan como los canarios que los mineros llevaban a las minas de carbón para detectar gases tóxicos: si el secreto aparecía en otro lugar, Moore sabía que había una fuga y podía identificar exactamente qué eslabón de la cadena la había provocado. El experimento reveló que las filtraciones eran masivas: robos de prompts, violaciones de privacidad y brechas de seguridad ocurrían con frecuencia en esta red de intermediarios.
¿Qué significa esto para Chile?
Aunque el estudio se realizó con servicios y routers que operan principalmente en Estados Unidos, sus conclusiones son directamente relevantes para los usuarios chilenos. Cada vez más empresas y personas en Chile usan asistentes de IA integrados en plataformas extranjeras, muchas veces sin saber que sus consultas pasan por estos routers. Si un dato sensible —como un RUT, una clave bancaria o información de un cliente— viaja a través de estos intermediarios, el riesgo de exposición es real.
Por ahora, no hay evidencia de que estos routers específicos hayan sido explotados en Chile, pero el experimento demuestra que la infraestructura es vulnerable. Para quienes usan IA en sus negocios, la recomendación práctica es revisar si su proveedor de servicios utiliza routers de terceros y, de ser así, exigir garantías de cifrado de extremo a extremo o buscar alternativas que no deleguen el enrutamiento.
Con información de Ars Technica