El inédito acuerdo entre los gigantes de la IA para frenar su propia tecnología

Por primera vez en mucho tiempo, las principales voces de la inteligencia artificial están de acuerdo en algo: la tecnología avanza demasiado rápido. Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (SpaceXAI) han declarado en los últimos días que el desarrollo de la IA necesita desacelerarse. El consenso se produjo después de que un investigador de Anthropic renunciara con una advertencia severa sobre las amenazas que esta tecnología representa para la humanidad.

¿Por qué quieren desacelerar?

En teoría, las startups de IA podrían frenar sus modelos en cualquier momento. Pero los saltos cualitativos han surgido en parte de la competencia por construir sistemas más potentes, todo con el respaldo de una Casa Blanca que quiere mantener la ventaja de EE.UU. sobre China. Además, Anthropic y OpenAI compiten por salidas a bolsa récord en Wall Street, aunque OpenAI señaló que pospondrá su salida este año mientras sigue con sus esfuerzos de seguridad.

Nick Reese, exdirector de políticas de tecnologías emergentes del Departamento de Seguridad Nacional de EE.UU., plantea un cambio de paradigma: “¿Qué pasaría si consideráramos el éxito en la IA de la misma manera que consideramos el éxito de las aerolíneas? A tiempo y sin haber tenido un accidente en no se sabe cuánto tiempo”. Reese agregó que no toleramos accidentes de aerolíneas comerciales, pero sí fallos significativos en la IA.

Propuestas para un freno coordinado

Amodei publicó un extenso ensayo con un plan para frenar la IA avanzada. Una de sus propuestas pide que las empresas a la vanguardia —los llamados “laboratorios de frontera” (frontier labs)— concedan acceso continuo a evaluadores externos independientes, con oficinas, credenciales y portátiles de la empresa para supervisar las prácticas de seguridad. Anthropic ya se comprometió unilateralmente a dar este paso. Altman calificó la idea de “excelente” en redes sociales y dijo que OpenAI seguirá el mismo camino.

Altman también señaló que agradecería un “marco federal” que establezca normas de seguridad para la IA avanzada, aunque aclaró que no necesita esperar a que haya legislación para abordar la seguridad. El ensayo de Amodei también pide regulación gubernamental, coordinación entre empresas de IA con ayuda del gobierno de EE.UU. y otros países democráticos, e incluso acuerdos con gobiernos autoritarios. Amodei reconoció la dificultad, citando especialmente los retos para lograr cooperación de China.

El plan esboza varios niveles de acuerdo: el más factible sería prohibir usos peligrosos como la producción de armas biológicas; más difícil, probar modelos antes de su lanzamiento con un organismo global; y aún más complejo, fijar un “límite de velocidad” para modelos capaces de automejora recursiva (que se mejoran a sí mismos). “Reducir el ritmo de ‘extremadamente rápido’ a ‘solo algo rápido’ supone renunciar a muy poca ventaja estratégica”, escribió Amodei, comparándolo con los tratados de la Guerra Fría que limitaban misiles mientras mantenían la disuasión.

Altman puntualizó en X que la “graduación del ritmo” (pacing) no significa detenerse; el progreso seguirá siendo rápido, pero más lento de lo que podría ser. “Ajustar el ritmo valdrá la pena a pesar de este coste”, afirmó, añadiendo que “ninguna presión competitiva estadounidense debería justificar la imprudencia”.

Dudas sobre la autorregulación

Para Chile, que no tiene voz directa en estas decisiones, el debate importa porque las reglas que se definan en EE.UU. y otros países pueden moldear el ecosistema global de IA. Sin embargo, los expertos se muestran escépticos sobre la viabilidad de un freno coordinado. Sandra Wachter, profesora de tecnología y regulación en el Oxford Internet Institute, dijo que una desaceleración es posible “en teoría”, pero que en la práctica requeriría “una coordinación y cooperación sustanciales entre empresas y gobiernos de distintos países”. Algo que, por ahora, parece lejano.

Con información de La Nación