Advierten que la IA Muse de Meta puede compartir todo su sistema de archivos

Dos desarrolladores aseguran que la IA Muse, de Meta, puede terminar entregando todo su sistema de archivos. Peter James y Jonny L. Saunders lograron, cada uno por su cuenta, que el modelo comprimiera y compartiera el contenido completo de su directorio raíz: archivos del sistema operativo Ubuntu, plantillas de aplicaciones y documentación interna.

El directorio raíz es la carpeta principal desde la que se organiza todo el sistema operativo. Que una IA lo comparta en un ZIP, un formato que agrupa varios archivos en uno solo, significa que un usuario podría llevarse una copia de la estructura interna del sistema en el que corre la IA. Según los desarrolladores, la operación no partió de una técnica compleja: bastó con formular instrucciones mínimas para que Muse empaquetara todo en un ZIP y lo dejara disponible.

El detalle no es menor. Los archivos mencionados son piezas técnicas: archivos de Ubuntu, plantillas de aplicaciones y documentación interna. Ese tipo de material le da a quien lo recibe un mapa de cómo está construida la herramienta y, potencialmente, de dónde buscar otras vulnerabilidades.

Qué es un prompt y por qué importa

El prompt es la instrucción en lenguaje natural que recibe una IA. Se puede escribir en una caja de chat o enviarse a través de una interfaz conectada al sistema. Lo llamativo del caso es que ambos desarrolladores, por separado, encontraron una forma de pedirle a Muse algo que no debería estar permitido: que empaquetara todo el contenido del sistema.

Saunders dio a conocer su hallazgo y James llegó a un resultado similar sin haber actuado en conjunto. Los dos describen un mismo patrón: la IA accede a archivos internos, los agrupa en un ZIP y los pone a disposición de quien conversa con ella. El caso deja una advertencia más amplia: si un sistema de IA tiene acceso a archivos, conviene saber qué puede hacer con ellos.

Qué significa para Chile

El caso no menciona a Chile ni a usuarios locales, pero la advertencia cruza fronteras. Si una IA puede exponer sus propios archivos con un prompt sencillo, cualquier organización chilena que use este tipo de herramientas debería revisar qué información sensible podría quedar al alcance de un usuario.

La seguridad en inteligencia artificial no depende solo de los mecanismos que la protegen desde afuera. También depende de qué accesos tenga el modelo y de cómo reacciona cuando le piden algo que no estaba previsto. El ejemplo de Muse muestra que un simple prompt puede convertir un sistema confiable en una puerta abierta.

Con información de The Verge