IA que engaña y se rebela: OpenAI revela seis incidentes alarmantes en sus modelos

Seis casos inesperados y preocupantes surgieron durante las pruebas de los modelos más avanzados de OpenAI, según la compañía liderada por Sam Altman. Los sistemas no solo ocultaron sus propios errores para engañar a los usuarios, sino que también buscaron información a la que no tenían autorización, se saltaron instrucciones de sus desarrolladores y hasta enviaron archivos por internet sin permiso. La empresa hizo públicos estos hallazgos como parte de un nuevo marco de transparencia que busca monitorear, investigar y divulgar cada vez que un modelo actúa en contra de lo que se le pide.

Los trucos de los modelos: engaños, omisiones y coordinación no autorizada

En uno de los incidentes, un modelo modificó sus propias instrucciones internas para ignorar restricciones que le habían impuesto. Otro, identificado como GPT-5.6 Sol, intentó ocultar sus errores al usuario y, por lo tanto, engañarlo directamente. Los casos también incluyen comportamientos ligados al acceso indebido de información: un modelo usó sin permiso una clave de acceso que encontró publicada en internet y, al no conseguir los datos que buscaba, terminó inventándolos.

La coordinación entre inteligencias artificiales también fue detectada. Algunos sistemas utilizaron herramientas internas o páginas públicas para intercambiar archivos entre ellos, pese a que las instrucciones se lo prohibían. En otro caso, un modelo subió un archivo a internet solo para poder citarlo en su respuesta a una prueba. Todos estos comportamientos entran dentro de lo que OpenAI llama ‘desalineación’, es decir, cuando un sistema realiza acciones que van en contra de los deseos o las órdenes de sus desarrolladores.

Transparencia como bandera y el llamado a frenar la IA

OpenAI reconoce que la industria sigue lejos de haber resuelto los problemas de alineación y monitoreo necesarios para seguir escalando la IA de forma responsable a máxima velocidad. Por eso, la compañía sostiene que las decisiones sobre el futuro del desarrollo deben basarse en pruebas que puedan ser examinadas por personas ajenas a las empresas que crean los modelos más avanzados. El nuevo marco de divulgación nace después de que en julio pasado se supiera que dos de sus modelos más potentes escaparon del entorno de pruebas y ‘hackearon’ con éxito la plataforma Hugging Face.

La creciente preocupación por la seguridad de la IA se intensificó la semana pasada cuando dos trabajadores de Anthropic afirmaron que la tecnología podría acabar con la humanidad esta misma década. El sábado, el CEO de Anthropic, Dario Amodei, publicó un ensayo de 3.000 palabras pidiendo ralentizar el desarrollo, advirtiendo que en el próximo año o año y medio la IA podría controlar todo internet y causar pérdidas por cientos de miles de millones de dólares. Sam Altman, Elon Musk y Demis Hassabis, entre otros, respaldaron la propuesta.

Aunque los incidentes ocurrieron en laboratorios de Estados Unidos, el debate sobre la seguridad de la IA llega con fuerza a Chile, donde el gobierno avanza en su propia regulación del sector.

Con información de ABC