Despidos en OpenAI enfrían la crítica interna sobre seguridad

El despido de tres investigadores de seguridad en OpenAI no es solo una disputa interna de Silicon Valley. Para Chile, que tramita su primera ley de inteligencia artificial, esta carta abierta representa una advertencia concreta sobre cómo las empresas de IA gestionan las voces críticas que piden más cautela.

Chile se encuentra en una encrucijada regulatoria. Mientras el Congreso discute el proyecto de ley que crea la Agencia Nacional de IA, el caso de OpenAI demuestra que la autorregulación tiene límites. La carta de los exempleados es un llamado de atención para los legisladores.

Los exempleados, que trabajaban en el equipo de seguridad de la compañía creadora de ChatGPT, firmaron una carta abierta donde cuestionan las razones de su despido. La empresa los acusó de manejar inadecuadamente información sensible, pero ellos sostienen que su salida responde a un intento de silenciar las alertas internas sobre los riesgos de los modelos que desarrollan.

En la carta, los investigadores advierten que estas acciones generan un “chilling effect”, un efecto de amedrentamiento que desalienta a otros empleados a reportar fallos o peligros potenciales. Si criticar la seguridad de un modelo puede costarte el puesto, el mensaje para el resto del equipo es claro: es mejor callar.

El dilema de la velocidad versus la seguridad

Este caso expone la tensión que vive la industria. Por un lado, está la presión por lanzar productos cada vez más potentes y capturar el mercado. Por el otro, la necesidad de garantizar que esos sistemas no generen daños, ya sea mediante desinformación, sesgos o usos maliciosos. OpenAI ha sido criticada antes por priorizar el lanzamiento de productos sobre las pruebas de seguridad.

Esta no es la primera vez que OpenAI enfrenta críticas por su postura frente a la seguridad. La salida de varios miembros clave del equipo de alineación (alignment) en los últimos meses ya había encendido las alarmas en la comunidad técnica.

El concepto de “efecto de amedrentamiento” es clave para entender el problema. Cuando una empresa despide a quienes ponen freno a ciertos desarrollos, se debilita la cultura de seguridad interna. Para los reguladores, esto es una señal de alerta: necesitan que existan canales protegidos para que los expertos puedan denunciar riesgos sin temor a represalias.

La relevancia para la política de IA en Chile

Chile está definiendo su propio marco regulatorio con el proyecto de ley que crea la Agencia Nacional de IA. Este episodio en OpenAI refuerza la urgencia de incluir mecanismos de protección para investigadores y denunciantes (whistleblowers) en el ecosistema de la inteligencia artificial.

La pregunta que queda sobre la mesa es si Chile está preparado para exigir transparencia a las empresas de IA. La ley en discusión debería considerar la protección de quienes alertan sobre riesgos, algo que en Estados Unidos aún no está garantizado ni siquiera en las empresas más poderosas del sector.

Si Chile quiere fomentar una industria de IA ética y confiable, no puede ignorar lo que ocurre dentro de las empresas que lideran el sector. La carta de los exempleados de OpenAI es un recordatorio de que la seguridad no puede ser solo una promesa de marketing, sino una práctica real que necesita ser auditada y protegida por ley.

Por ahora, los usuarios chilenos de ChatGPT y otras herramientas de OpenAI no verán un cambio inmediato. Pero el mensaje de los investigadores es que, sin una cultura de seguridad robusta, el riesgo de que ocurra un incidente grave aumenta. Y eso, a la larga, afecta a todos.

Con información de TechCrunch