GPT-6 Astra Ultrafast: el nuevo modelo de OpenAI acelera agentes de IA en Chile

OpenAI puso a disposición global su nuevo modelo de lenguaje GPT-6 Astra Ultrafast, lo que significa que desarrolladores y empresas en Chile ya pueden acceder a él a través de la API de OpenAI. La gran novedad es la velocidad: el modo Ultrafast promete ser hasta ocho veces más rápido en la generación de tokens que el modo Astra Standard. Los tokens son las unidades de texto que el modelo procesa, por lo que más velocidad se traduce en respuestas mucho más inmediatas. Para el ecosistema de startups chileno que desarrolla asistentes virtuales o herramientas de automatización, contar con un modelo que responde ocho veces más rápido es un cambio significativo en la experiencia de usuario.

Ocho veces más rápido para agentes de IA

El salto en rendimiento se debe a las optimizaciones de inferencia que OpenAI realizó sobre los GPUs NVIDIA Blackwell. Para un programador chileno que use Codex o desarrolle agentes de IA, esto acorta los ciclos de edición, prueba y depuración. También reduce el tiempo de espera entre llamadas a herramientas y hace que las aplicaciones interactivas se sientan más fluidas.

La velocidad es crítica cuando una tarea se repite dentro de un flujo de trabajo: un agente escribe código, usa una herramienta, revisa el resultado y decide qué hacer a continuación. Ultrafast integra las capacidades de Astra en estos bucles donde el tiempo de respuesta es determinante. “La profunda inversión de NVIDIA en herramientas y documentación nos ha permitido hacer que nuestros modelos sean excepcionalmente buenos programando GPUs Blackwell y Rubin”, dijo Philippe Tillet, líder de inferencia en OpenAI. “Astra puede convertir ese conocimiento en kernels de alto rendimiento que hacen que el hardware de NVIDIA sea atractivo en todo el espectro de latencia, rendimiento y costo.”

Optimización continua sobre GPUs NVIDIA

OpenAI no se detiene cuando un modelo se despliega. La empresa está usando sus propios modelos para refinar el software de inferencia que corre en los GPUs de NVIDIA, aprovechando la programabilidad de la plataforma para probar e implementar mejoras. Ese trabajo continuo puede hacer que las respuestas del modelo sean más rápidas y que la infraestructura desplegada sea más productiva con el tiempo.

“Nuestro trabajo con NVIDIA nos está ayudando a hacer la IA más rápida y más útil”, señaló Uday Ruddarraju, director de tecnología de computación en OpenAI. “Usamos nuestros modelos internos para optimizar la inferencia en GPUs NVIDIA, y la programabilidad de la plataforma nos ayudó a entregar la aceleración detrás de Astra Ultrafast”. La programabilidad de la plataforma NVIDIA significa que el mismo hardware que se usa para entrenar un modelo se puede reconfigurar para ejecutar inferencia o aprendizaje por refuerzo, sin necesidad de tener infraestructura separada para cada etapa. Esto ayuda a los equipos a mejorar la utilización de los recursos y evitar el sobreaprovisionamiento.

Disponible desde hoy en la API de OpenAI

Los desarrolladores chilenos ya pueden usar GPT-6 Astra Ultrafast a través de la API de OpenAI. También está disponible para usuarios elegibles de ChatGPT Work y Codex. Para conocer los precios, el acceso y los detalles de implementación, OpenAI habilitó una guía específica sobre el modo Ultrafast. La clave para los equipos locales es que no necesitan infraestructura propia: la velocidad corre del lado de los servidores de OpenAI.

Con información de NVIDIA