OpenAI actualiza su carta de navegación: el Model Spec ahora prioriza cinco valores

OpenAI publicó el 29 de octubre una nueva versión del Model Spec, el documento público en el que describe cómo quiere que se comporten sus modelos, y que en su sitio en español llaman “especificaciones del modelo”. La revisión reorganiza las pautas en torno a cinco valores fundamentales, agrega secciones sobre contexto, supervisión y autonomía, ajusta comportamientos predeterminados y elimina gran parte de las indicaciones detalladas de estilo. Para el público chileno, el cambio importa porque afecta la forma en que herramientas como ChatGPT responden en español y se adaptan a contextos locales, aunque OpenAI aún no detalla cuándo se reflejarán estos cambios en los productos disponibles en la región.

Los cinco valores que guiarán a GPT

El Model Spec ordena ahora sus pautas en torno a cinco valores: fidelidad a la intención humana, minimización del daño, honestidad, autonomía humana y cuidado. El primero funciona como base del resto: el modelo debe comprender qué buscan OpenAI, los desarrolladores y los usuarios, y actuar con criterio cuando esa comprensión es incompleta, más allá de seguir instrucciones al pie de la letra. Los otros valores incluyen respetar límites de seguridad firmes, decir la verdad sobre lo que el modelo sabe y no sabe, fortalecer la capacidad de las personas para comprender, elegir y actuar por sí mismas, y atender las circunstancias de las personas afectadas siguiendo normas sociales y profesionales.

OpenAI indica que estos valores no son nuevos, sino compromisos que ya estaban presentes en versiones anteriores, y que reunirlos ayuda a explicar por qué el documento pide ciertos comportamientos. La empresa también advierte que no pretenden abarcar todos los valores humanos que los modelos deben respetar. El argumento de fondo es que, a medida que los modelos se vuelven más capaces y sus acciones tienen más consecuencias, no basta con que interpreten las instrucciones que reciben: deben comprender las intenciones y los valores de las personas para actuar con buen criterio en situaciones que esas instrucciones no contemplan, sin dejar de estar sujetos a supervisión humana.

Qué se agrega, qué se elimina y el cambio de nombre

La nueva sección sobre fidelidad a la intención humana incorpora una versión actualizada de la cadena de mando, que define qué instrucciones prevalecen y cómo se resuelven los conflictos entre ellas. OpenAI señala que el enfoque toma elementos del marco de los juegos de asistencia para la alineación, cuyo trabajo inicial se publicó en 2016. Una subsección nueva, “considerar el contexto con atención”, explica cómo las conversaciones, los recuerdos y otros indicios deben ayudar al modelo a entender las preferencias de cada persona. Se suman además pautas predeterminadas para apoyar la autonomía humana y seguir las normas sociales pertinentes, y se amplía la que pide controlar y comunicar los efectos secundarios de las acciones del modelo.

En sentido contrario, OpenAI eliminó la mayoría de las pautas detalladas de estilo. Su argumento es que el estilo debe adaptarse a las preferencias de cada persona, lengua y cultura, y que esas preferencias se deducen de los comentarios de los usuarios y del contexto. Se mantiene, en cambio, una pauta más firme: abordar las preguntas con objetividad. Usuarios y desarrolladores pueden pedir explícitamente una perspectiva determinada, pero el modelo no debe adoptarla solo porque cree que es lo que la persona quiere oír. El cambio más visible es de nomenclatura: el documento ya no se refiere a “el asistente”, sino a “GPT”. OpenAI lo justifica por la creciente variedad de usos y entornos en que se despliegan sus modelos. En una comparación con la versión del 18 de agosto, la expresión “the assistant” ya no aparece en el texto vigente.

OpenAI afirma que, en paralelo, ha explorado nuevos métodos de entrenamiento para que sus modelos aprendan estos valores y comprendan por qué importan los principios, no solo cuáles son. No entrega resultados de ese trabajo y dice que los compartirá en futuras actualizaciones. La empresa también admite una limitación relevante: el Model Spec describe el comportamiento que busca lograr, pero sus modelos actuales aún no lo reflejan por completo. Por eso el documento debe leerse como una declaración de objetivos y no como una descripción verificada de cómo se comportan hoy los productos de OpenAI. La compañía abrió un formulario de comentarios para que el público indique qué partes considera convincentes, en qué equilibrios discrepa y qué aspectos quedan poco claros.

Con información de DiarioTI