El redactor de informes de seguridad de OpenAI renunció y ahora advierte sobre la IA

El encargado de escribir los riesgos

David Robinson trabajaba en OpenAI, la empresa detrás de ChatGPT, en una función poco habitual: redactaba los informes de seguridad que acompañaban a cada lanzamiento importante de los modelos de inteligencia artificial de la compañía. Un modelo de IA es un sistema entrenado con grandes cantidades de datos para generar contenido, como texto o imágenes. El informe que Robinson escribía era la pieza que se publicaba junto al modelo, antes de que quedara en manos de los usuarios.

Esta semana renunció a su cargo y decidió hablar en un artículo de opinión publicado en The Atlantic, revista estadounidense de periodismo y cultura. En el texto, Robinson escribe que entiende a quien se siente cínico ante todos los que aparecen de pronto a advertir que la inteligencia artificial es peligrosa. Esa reacción, dice, no le quita el sentido a su propia decisión de contar lo que sabe.

Una salida que deja preguntas

Pocas personas pueden hablar de esos procesos con la autoridad que da haberlos escrito. Esa es la diferencia entre una opinión más y una advertencia basada en un cargo concreto.

La renuncia de Robinson no es solo un cambio de personal. Es la salida de alguien que tenía una visión interna del proceso de seguridad, es decir, de cómo OpenAI decidía qué riesgos aceptar y cuáles mitigar antes de lanzar un modelo. Ahora esa persona está fuera y puede opinar sin los filtros de la empresa.

El momento también importa. Robinson escribía los informes de los lanzamientos importantes, y su partida ocurre cuando se discute públicamente cuánto riesgo implica esta tecnología. Una voz que conoce esos informes por dentro puede aportar contexto que otros no tienen.

Qué pasará con los próximos informes de seguridad en OpenAI no se sabe. Pero la salida deja instalada una pregunta razonable: si la persona encargada de escribirlos ya no está, quién responde por lo que viene.

Lo que significa para Chile

El caso ocurre fuera de Chile y no hay antecedentes en los hechos sobre un efecto local concreto. Pero la conversación no le es ajena al país: OpenAI es la empresa detrás de ChatGPT, una herramienta que se puede usar en línea desde cualquier lugar con internet, y las decisiones sobre seguridad de esa empresa afectan los productos que llegan a Chile.

Si alguien que redactaba los informes de seguridad decide renunciar y advertir, es razonable que los usuarios de estas herramientas en Chile miren con más atención cómo funcionan por dentro. La confianza en la inteligencia artificial no depende solo de lo que dicen las empresas, sino también de quienes estuvieron adentro y decidieron hablar.

Con información de The Verge