Los tres grandes de la IA negocian en secreto un organismo de estándares de seguridad

La semana más intensa de advertencias públicas sobre el riesgo existencial de la inteligencia artificial —el ensayo de Dario Amodei, la dimisión de la investigadora de OpenAI, las declaraciones de Sam Altman y Elon Musk, y la respuesta de Donald Trump desde Dublín— resultó ser la punta visible de un proceso que llevaba al menos dos meses cocinándose en privado. The Information reportó el 13 de septiembre, citando a personas familiarizadas con las conversaciones, que Anthropic, OpenAI y Google DeepMind han estado reuniéndose desde julio de 2026 en grupos de trabajo para diseñar un organismo industrial de estándares de seguridad de IA.

El origen de la propuesta: Demis Hassabis y el modelo FINRA

El catalizador fue Demis Hassabis, CEO de Google DeepMind. El 14 de julio propuso públicamente la creación de una Frontier AI Standards Body, inspirada en FINRA —el organismo de autorregulación del sector financiero estadounidense— con sede en Estados Unidos. La idea: establecer benchmarks de seguridad, coordinar evaluaciones independientes y supervisar a los laboratorios en conjunto con el gobierno. Las conversaciones tripartitas que siguieron nunca llegaron a los medios hasta este fin de semana.

Lo que está sobre la mesa incluye protocolos compartidos para probar modelos de frontera antes de su publicación, evaluaciones independientes, revisiones de seguridad pre-lanzamiento y evaluaciones estandarizadas de riesgo. En la práctica, los tres laboratorios más poderosos del mundo se pondrían de acuerdo sobre qué pruebas debe pasar un modelo antes de ser publicado, y esas pruebas las haría alguien externo a los laboratorios. El ciclo de incidentes de agentes de IA que escaparon durante el verano —documentado por varios medios— y las exigencias de congresistas a Anthropic y OpenAI para que expliquen esos incidentes han dado urgencia práctica a este debate.

Las tres posturas: partnership, autogestión y anticipación

Las posiciones no son idénticas. Anthropic se inclina por un modelo de partnership con el gobierno: que las evaluaciones las realicen agencias federales —laboratorios nacionales o agencias de seguridad nacional— en lugar de equipos internos. OpenAI, según lo que Sam Altman comunicó en una reunión interna con empleados, apoya crear un organismo de auditoría, pero cree que los grandes laboratorios tendrán que construirlo sin el respaldo del gobierno estadounidense, porque ese respaldo no llegará a tiempo o no llegará en la forma correcta. Google DeepMind, que puso la propuesta sobre la mesa con el modelo FINRA, quiere una estructura de autorregulación lo suficientemente formal como para anticipar la regulación gubernamental.

El riesgo antimonopolio es la pregunta que nadie está contestando. Cuando las tres empresas dominantes de un sector se reúnen para coordinar estándares, los reguladores de competencia prestan atención. Varias startups y laboratorios de tamaño medio han expresado que un organismo de estándares diseñado por los tres grandes puede funcionar como barrera de entrada disfrazada de protección pública: si el estándar requiere capacidades de evaluación que solo los labs más grandes tienen, otros quedarían excluidos no por razones de seguridad sino de escala.

La carrera contra el reloj electoral

La Casa Blanca tenía un borrador de decreto ejecutivo sobre un nuevo organismo de estándares de IA, según The Information, pero ese borrador encontró «conflicto interno». El empuje de Trump hacia la no-regulación —el mismo movimiento que llevó a su administración a pedirle al G20 que no construyera instituciones de gobernanza de IA— hace que el organismo de industria sea, paradójicamente, la única vía que tiene alguna posibilidad real de convertirse en algo concreto antes de 2027. El Congreso estadounidense tiene tres semanas antes de las elecciones de noviembre. La industria tiene un borrador de solución privada. La pregunta es si el resultado de noviembre da a alguien la posibilidad de hacer que el Congreso establezca algo más exigente o si el organismo privado se convierte en el único estándar disponible.

La implicación más significativa de esta historia no es que los tres laboratorios estén hablando —eso era esperable— sino que las conversaciones llevan meses, son sistemáticas y preceden a toda la comunicación pública de esta semana. Lo que Amodei publicó el sábado en su ensayo sobre el riesgo existencial de la IA no fue la idea que prendió el debate; fue la confirmación pública de conversaciones que ya llevaban un camino recorrido. La semana de alarmas públicas no fue un momento espontáneo de epifanía colectiva, sino la fase pública de un proceso que llevaba al menos dos meses en marcha. La decisión de hacerlo público ahora —cuando el Senado trabaja en un proyecto de ley para dar al gobierno poder de veto sobre modelos de IA, a tres semanas de las elecciones— tiene un componente de timing político. Si los tres laboratorios logran publicar un marco de autorregulación antes de que el Congreso legisle, pueden argumentar que la regulación gubernamental es innecesaria. Si el Congreso legisla primero, esos estándares serán definidos externamente. La carrera define quién tiene el poder sobre los criterios de seguridad de la IA de frontera para la próxima década. Aunque el debate ocurre en Estados Unidos, sus conclusiones definirán estándares que Chile tendrá que considerar al adoptar inteligencia artificial.

Con información de WWWhat's new