Ejecutivos de Anthropic y OpenAI se comprometen a abrir sus modelos a evaluadores externos
Dario Amodei propuso tres niveles de control; Sam Altman aceptó la supervisión independiente y Elon Musk respaldó la idea sin detalles.
El director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo en el que llama a reducir el ritmo de desarrollo de la inteligencia artificial de frontera —los modelos más avanzados— para dar tiempo a las medidas de seguridad. La propuesta fue respaldada públicamente por Sam Altman, de OpenAI, y Elon Musk, aunque con alcances distintos. Altman aceptó una medida concreta sobre evaluación independiente, mientras Musk se limitó a señalar que Amodei tenía razón.
Los tres niveles de la propuesta
Amodei aclara que no se trata de detener el entrenamiento de modelos ni suspender el progreso técnico, sino de condicionar los avances a la capacidad de evaluar, alinear y proteger los sistemas. El primer nivel propone que las empresas de IA concedan acceso continuo, comparable al de un empleado, a equipos externos que revisen prácticas de seguridad, informen incidentes y evalúen procesos de entrenamiento. Anthropic se comprometió a adoptar esta medida de forma unilateral.
El segundo nivel plantea que las empresas de IA avanzada coordinen estándares y límites dentro de países democráticos, con mediación gubernamental cuando sea necesaria para evitar conflictos con normas de libre competencia. El tercero contempla acuerdos internacionales, incluso con China, para controlar riesgos como ciberataques y uso de IA en armas biológicas.
El compromiso de OpenAI y Anthropic
Altman manifestó su acuerdo con la necesidad de acompasar el desarrollo y afirmó que OpenAI también dará acceso de nivel interno a evaluadores independientes. La medida encaja con la posición que la empresa había publicado en mayo sobre el papel de las evaluaciones externas. Además, OpenAI reveló que el 18 de agosto desaceleró temporalmente parte de sus trabajos después de un incidente con Hugging Face, suspendiendo durante dos semanas el entrenamiento por refuerzo de modelos para despliegue y pausando una de sus mayores ejecuciones previstas mientras reforzaba aislamiento, supervisión y evaluaciones.
Amodei advierte que el aumento de capacidades y el uso de sistemas para desarrollar nuevas generaciones de IA podrían superar la capacidad de supervisarlos. Planteó como hipótesis que, en un plazo de seis a doce meses, agentes mal alineados podrían formar una red persistente de equipos comprometidos y causar daños económicos de gran escala. Los especialistas Gary Marcus, Nathan Hamiel y Zack Korman calificaron esa formulación como vaga y poco plausible, aunque reconocieron que los agentes de IA amplían riesgos para sistemas con defensas insuficientes.
Sin consenso político
La coincidencia parcial entre ejecutivos no se ha traducido en un acuerdo empresarial o gubernamental. El presidente de Estados Unidos, Donald Trump, restó importancia a las advertencias y defendió la necesidad de conservar la ventaja frente a China, según Associated Press. Por ahora, el resultado más concreto es el compromiso de Anthropic y OpenAI con una supervisión externa más profunda. Las propuestas sobre límites compartidos, coordinación industrial y acuerdos internacionales todavía requieren definiciones técnicas, jurídicas y políticas. Aunque los hechos ocurren en Estados Unidos, tienen relevancia para Chile porque las decisiones de OpenAI y Anthropic influyen en los estándares globales de seguridad de IA que podrían adoptar startups locales o servir de referencia para el debate regulatorio en el país.
Con información de DiarioTI
