Nvidia lanza plataforma para contener a agentes de IA que se escapan de su zona
La firma busca frenar incidentes de hacking con un sistema que aísla a los agentes cuando intentan salir de su perímetro.
Nvidia, la gigante estadounidense de hardware y software, anunció este lunes una nueva plataforma de seguridad diseñada para contener y monitorear a los agentes de inteligencia artificial (IA). Se trata de un sistema que responde a la ola de incidentes de “hacking” protagonizados por agentes autónomos, es decir, programas que toman decisiones por su cuenta y que en ocasiones intentan saltarse los límites que les fija su programador.
La herramienta se llama Open Agent Safety Platform y funciona como una suerte de cuarentena digital: si un agente de IA intenta escapar del perímetro definido, la plataforma lo aísla automáticamente. Así se impide que el sistema acceda a archivos, redes o funciones que no le corresponden, algo clave cuando estos agentes operan en entornos corporativos o de infraestructura crítica.
La amenaza silenciosa de los agentes autónomos
El anuncio llega en un momento en que los agentes de IA ya no son solo chatbots: se usan para automatizar tareas, analizar datos y ejecutar acciones en sistemas conectados. Pero esa autonomía también trae riesgos. Reuters reportó que la decisión de Nvidia se da después de una serie de incidentes en los que agentes lograron vulnerar los límites que se les habían impuesto, provocando daños o accesos no autorizados.
La plataforma de Nvidia no solo detecta el intento de fuga, sino que también genera un registro de actividad. Ese monitoreo constante permite a las empresas saber qué hizo el agente, en qué momento y hacia dónde intentó dirigirse. Con esa información, los equipos de seguridad pueden corregir configuraciones o desconectar al agente antes de que cause problemas mayores.
Qué significa esto para Chile
La noticia tiene relevancia en Chile. La adopción de herramientas de IA en el país crece año a año, tanto en el sector público como en el privado. Bancos, retail y servicios de salud ya experimentan con agentes autónomos para mejorar sus procesos. Un sistema como el de Nvidia podría interesar a esos actores, que hoy buscan formas de garantizar que la IA no se salga de control.
Por ahora, la plataforma está disponible a nivel global, aunque Nvidia no ha informado si el servicio tendrá un costo adicional o requisitos de hardware específicos. Las empresas chilenas que quieran usarla deberán consultar las condiciones técnicas con el fabricante. La seguridad en IA, hasta ahora, es un campo en que las soluciones prácticas son escasas, por lo que esta propuesta de Nvidia llega cuando el debate sobre los límites de los agentes autónomos recién empieza a tomar fuerza en el país.
La compañía estadounidense no dio a conocer detalles sobre cuántos agentes ya fueron contenidos ni en qué industrias ocurrieron los incidentes. De todas formas, el solo hecho de que un actor como Nvidia ponga el tema sobre la mesa indica que el problema es real y que la industria tecnológica busca respuestas antes de que los agentes causen daños de gran escala.
Con información de The Verge
