Nvidia lanza plataforma para limitar a agentes de IA y amplía su recompra de acciones

Nvidia presentó una plataforma abierta diseñada para imponer límites técnicos a los agentes de inteligencia artificial (IA) durante las etapas de prueba y operación. La compañía bautizó la iniciativa como Open Agent Safety Platform y la dio a conocer en un anuncio oficial difundido esta semana. El objetivo es contener acciones que se salgan de los límites autorizados, un problema creciente a medida que estos sistemas asumen tareas más autónomas.

Dos capas para delimitar las acciones

El primer componente de la plataforma se llama OpenShell y corresponde a un entorno de ejecución donde las organizaciones pueden definir los recursos, datos, herramientas y servicios disponibles para cada agente de IA. Este software registra las acciones y aplica las políticas mientras se ejecutan las tareas. Nvidia lo distribuye como código abierto y asegura que puede adaptarse a plataformas de terceros, incluidas las que usan tecnologías de Arm e Intel.

La segunda capa es Sentry, un diseño de referencia que opera en las unidades de procesamiento de datos BlueField 4, los chips especializados que Nvidia comercializa para infraestructura de centros de cómputo. Según la empresa, Sentry vigila el comportamiento desde un dominio separado y puede aislar en milisegundos a un agente que intente salirse de los límites establecidos. Esta separación busca evitar que el propio agente modifique o eluda el mecanismo encargado de supervisarlo.

Más de cien organizaciones ya trabajan con la plataforma

Nvidia informó que más de un centenar de organizaciones están trabajando con las tecnologías de Open Agent Safety Platform. Entre las compañías mencionadas en el anuncio figuran Anthropic, Microsoft, Cisco, CrowdStrike, Salesforce, SAP, Red Hat, JPMorganChase y Palo Alto Networks. El software y los recursos iniciales ya están disponibles para desarrolladores interesados en implementarlos.

La propuesta de Nvidia no es una solución completa contra los fallos de los modelos de IA. Un análisis de Associated Press advierte que la plataforma no evita por sí sola errores, respuestas engañosas o decisiones defectuosas de los sistemas. Su función principal es contener las consecuencias cuando un agente intenta actuar fuera del entorno autorizado, por lo que cada organización debe establecer políticas adecuadas y conceder los permisos necesarios sin abrir accesos excesivos.

Recompra de acciones por 150.000 millones de dólares

En un anuncio financiero separado, el consejo de Nvidia autorizó una ampliación de 150.000 millones de dólares para su programa de recompra de acciones. El comunicado corporativo indica que el monto total restante autorizado asciende ahora a 235.000 millones de dólares y que la compañía prevé ejecutar el programa durante su año fiscal 2028. La autorización no equivale a una compra inmediata de todo el monto, sino que habilita a Nvidia para realizar recompras dentro del programa y según el calendario comunicado.

Para el mercado chileno, la noticia tiene relevancia indirecta: Nvidia es un proveedor clave de chips para inteligencia artificial y sus decisiones empresariales afectan los precios y la disponibilidad de hardware a nivel global. Sin embargo, la plataforma de seguridad y el programa de recompra no tienen aplicación directa en el país ni implican cambios en productos disponibles localmente. La cobertura original de The Guardian reunió ambos anuncios en una misma nota, mientras que Associated Press aportó el análisis sobre los alcances de la nueva arquitectura de seguridad.

Con información de DiarioTI