NVIDIA lanza recetas para acelerar modelos coreanos en Chile

NVIDIA liberó un conjunto de recetas de despliegue optimizadas para su framework Dynamo, diseñadas específicamente para cuatro modelos abiertos desarrollados en Corea del Sur. Se trata de A.X K2 de SK Telecom, K-EXAONE 2.0 de LG AI Research, Solar Open 2 de Upstage y Motif-3 de Motif Technologies. Aunque ninguno de estos modelos fue creado en Chile ni tiene una conexión directa con el ecosistema local, la noticia importa porque muestra cómo NVIDIA está empujando soluciones para que cualquier equipo —incluso en Latinoamérica— pueda ejecutar modelos grandes sin tener que ser experto en infraestructura.

Qué es NVIDIA Dynamo y por qué facilita el trabajo

Dynamo es un framework de inferencia distribuida de código abierto. Su función es repartir un modelo que ya no cabe en una sola GPU entre varias, coordinando el enrutamiento de las consultas y la comunicación entre las unidades para que el rendimiento no se caiga. Hasta ahora, ese proceso requería ajustes manuales y mucho ensayo y error. Con las recetas que anunció NVIDIA, los desarrolladores pueden saltarse esa etapa: las configuraciones vienen preajustadas para las GPUs B200 de la misma compañía y prometen hasta el doble de rendimiento inmediato, según la empresa.

Las GPUs B200 son las más recientes de NVIDIA para centros de datos, sucesoras de las H100. Aunque en Chile aún no hay disponibilidad masiva de estas tarjetas —suelen llegar primero a grandes operadores cloud como AWS o Microsoft Azure—, cualquier equipo que acceda a instancias B200 en la nube podría beneficiarse de estas recetas. El framework Dynamo, al ser open source, se puede descargar y probar sin costo de licencia; el gasto corre por cuenta del hardware o del tiempo de cómputo en la nube.

Modelos coreanos: qué hacen y cómo se usan

Los cuatro modelos cubren distintos usos. A.X K2 es un modelo de lenguaje entrenado por SK Telecom para tareas de servicio al cliente y búsqueda empresarial. K-EXAONE 2.0, de LG AI Research, está pensado para investigación y generación de texto técnico. Solar Open 2, de Upstage, se enfoca en procesamiento de documentos y extracción de datos. Motif-3, de Motif Technologies, apunta a aplicaciones de razonamiento y diálogo. Todos son modelos abiertos, lo que significa que sus pesos están disponibles para que cualquiera los descargue, modifique o despliegue.

Para un desarrollador chileno, tener recetas listas para Dynamo significa menos tiempo configurando clústeres y más tiempo afinando el modelo para sus datos. Si, por ejemplo, una startup local quisiera usar Solar Open 2 para analizar contratos legales, podría descargar la receta, levantarla en una instancia B200 en la nube y obtener respuestas el doble de rápido que sin la optimización. Eso reduce costos operativos, porque se pagan menos horas de GPU por consulta.

NVIDIA no detalló fechas de disponibilidad regional ni precios asociados a las recetas —son gratuitas como parte del ecosistema Dynamo—, pero sí aclaró que están disponibles desde hoy en el repositorio oficial del framework. La compañía recomienda revisar la documentación de cada modelo para verificar compatibilidad con versiones anteriores de GPU, como las A100, aunque el rendimiento prometido del 2x está medido solo en B200.

Con información de NVIDIA