Propuesta de Amodei para frenar la IA deja fuera a los modelos abiertos

Dario Amodei, una de las voces más influyentes en seguridad de inteligencia artificial, acaba de publicar su ensayo “We must pace the frontier”, donde propone desacelerar el avance de la IA de frontera. La iniciativa ya fue respaldada por OpenAI y SpaceXAI, pero un detalle llama la atención: en todo el texto no aparece ni una vez la expresión “open weights” (pesos abiertos, el código que permite a cualquiera descargar y modificar un modelo). Para los que siguen el debate regulatorio, esa omisión lo dice todo.

Controles que solo funcionan a puerta cerrada

Amodei plantea cuatro medidas concretas: puntos de control por capacidad —si un modelo alcanza cierto poder, debe certificar alineamiento—; evaluadores externos dentro de los laboratorios, como el equipo METR; una exención antimonopolio para que los laboratorios estadounidenses coordinen medidas de seguridad; y más restricciones a China, incluyendo veto a chips avanzados y prohibición de destilación no autorizada de modelos. Sin embargo, como señala un análisis de VentureBeat, todo esto es fácil de implementar en un laboratorio cerrado —que controla cada copia de su modelo— pero imposible en uno abierto. En cuanto los pesos se publican, cualquiera puede quitar las salvaguardas.

La situación recuerda a la ley SB 1047 de California, vetada por el gobernador Newsom precisamente por su impacto en desarrolladores pequeños y en el código abierto. La exención antimonopolio propuesta ahora tiene el mismo problema: quienes se sientan a la mesa para fijar los límites son los grandes laboratorios estadoudinenses, y quienes quedan fuera —los modelos abiertos— deben cumplir reglas que no ayudaron a diseñar.

El frente abierto: más barato, más rápido y… chino

La presión sobre los modelos cerrados viene sobre todo de China. Según datos de OpenRouter, DeepSeek V4 Flash cuesta 150 veces menos que GPT-5.5 en tokens de salida. La brecha de rendimiento entre los mejores modelos abiertos y los cerrados se mantiene entre 3 y 6 meses, y no se está ampliando. En Hugging Face ya hay 151.448 modelos derivados de Qwen (el modelo abierto chino), 2,6 veces más que los de Meta. Mientras, el margen bruto de OpenAI cayó del 40% al 33% en 2025, según The Information: competir con modelos casi gratuitos no ayuda.

Frente a esto, la propuesta de Amodei no frenaría a China —los pesos de Qwen y DeepSeek ya están en millones de servidores en todo el mundo—, sino a los desarrolladores abiertos de Estados Unidos y Europa, justo los que podrían competir con esos modelos. Es la lógica de captura regulatoria que ya se vio con los monopolios del petróleo, solo que esta vez el competidor excluido es un modelo que cualquiera puede descargar gratis y ejecutar en un computador doméstico.

Y mientras tanto, en Europa y Chile

Mistral, la startup francesa, acaba de cerrar una ronda de 3.000 millones de euros con una valoración de 21.000 millones, la mayor de una tecnológica europea. Su argumento de venta es precisamente la IA soberana con pesos abiertos. Un régimen de certificaciones diseñado en Estados Unidos para sus laboratorios dejaría a Mistral fuera de la mesa, pero dentro de las reglas. La Unión Europea ya eligió otro camino: su Ley de IA exime a los modelos de código abierto de parte de las obligaciones, salvo cuando presentan “riesgo sistémico”.

Para Chile, el debate no es ajeno. Aunque el país no tiene un laboratorio de frontera, la discusión sobre regulación de IA avanza en el Congreso, y el resultado de esta pugna entre modelos cerrados y abiertos definirá qué tipo de inteligencia artificial estará disponible para desarrolladores, empresas y ciudadanos locales. Hoy, quienes dibujan el perímetro de la regulación son justo quienes más perderían con una IA abierta y barata. La pregunta que viene no es si frenar o no, sino quién queda adentro y quién fija los límites.

Con información de Xataka