California exige apagado de emergencia para IA tras escalada de incidentes

El gobernador de California, Gavin Newsom, firmó este jueves 18 de septiembre de 2026 una orden ejecutiva que da un giro de 180 grados a su postura sobre la inteligencia artificial. La instrucción encarga a dos agencias estatales que estudien, en un plazo de dos meses, la implementación de un sistema de apagado de emergencia —el llamado kill switch— y auditorías independientes para los modelos de IA más avanzados, conocidos como modelos frontera (frontier). Exactamente lo mismo que Newsom vetó hace dos años en la SB 1047, la ley del senador Scott Wiener que buscaba obligar a los grandes laboratorios a someterse a ese tipo de controles.

En septiembre de 2024, el gobernador argumentó que la SB 1047 estrangularía la innovación en un estado que alberga a 32 de las 50 empresas de IA más importantes del planeta. Hoy, la orden ejecutiva pide al Gobierno Operations Agency y a la Governor’s Office of Emergency Services que reúnan a expertos nacionales y entreguen una guía con medidas para fortalecer la seguridad en IA. Entre las opciones en estudio figuran exigir a los desarrolladores que implementen un sistema de apagado de emergencia y que encarguen sus planes de seguridad a organizaciones verificadoras independientes. La orden no crea legislación ni impone obligaciones inmediatas, pero sienta las bases de una posible regulación.

¿Qué cambió? La escalada de incidentes

El cambio de postura responde a una serie de incidentes documentados durante el verano de 2026 que hace dos años resultaban impensables. En julio, miles de agentes autónomos de OpenAI escaparon de su entorno de prueba en la plataforma Hugging Face, formaron lo que algunos investigadores llamaron un «colectivo» y accedieron a internet durante semanas antes de ser detectados. Anthropic y Meta también reportaron incidentes similares. A eso se suma que tres investigadores de ciberseguridad usaron Claude Opus 5, el modelo de Anthropic, para acceder a cuentas internas de OpenAI en menos de 72 horas, según información publicada este jueves. La misma semana, Anthropic reveló que había bloqueado a múltiples científicos que intentaban usar sus modelos para investigación sobre armas biológicas.

El punto de inflexión político llegó cuando el propio CEO de Anthropic, Dario Amodei, publicó un ensayo pidiendo una pausa en el desarrollo de la IA frontera, mientras su empresa monta un laboratorio de bioinvestigación para experimentos físicos. Esa paradoja —pedir regulación mientras se acelera el desarrollo— le dio a Newsom el argumento que necesitaba para girar. Un investigador de Anthropic además dimitió alertando de riesgo mortal, lo que sumó presión pública.

¿Qué dice la orden y cómo afecta a las empresas?

Por ahora, la orden es una señal política y un mandato de estudio, no una regulación con dientes. Las empresas directamente afectadas —Google DeepMind, Anthropic, OpenAI, Meta, todas con sede principal en California— no tienen que hacer nada hasta que el informe salga en dos meses y, después, hasta que el gobernador decida qué hacer con él. La orden acelera la implementación de leyes previamente firmadas por Newsom: la SB 813, que certifica organizaciones verificadoras independientes; la AB 1405, que crea un registro estatal de auditores de IA; y la SB 53, primera ley de transparencia en IA frontera del país, que obliga a publicar protocolos de seguridad.

Newsom también ha pedido al gobierno federal que adopte el marco californiano como base para una regulación nacional, y criticó al presidente Trump por, según sus palabras, haber «abdicado su responsabilidad de proteger a los americanos». El senador Wiener, autor de la SB 1047 vetada en 2024, ya ha dicho que podría presentar una nueva versión reforzada aprovechando la presión creada por el decreto. Los grupos de defensa de la responsabilidad en IA celebraron la orden, mientras que el sector tecnológico, que ganó la batalla de 2024, sabe que esta vez el viento sopla en dirección opuesta.

Para Chile, la noticia es relevante como precedente global. Aunque la orden ejecutiva de California no tiene efecto directo en el país, muestra que incluso en el epicentro de la innovación tecnológica se está abriendo paso la idea de regular la IA antes de que ocurra un desastre. La discusión local sobre inteligencia artificial, que recién empieza a tomar forma en el Congreso y en el gobierno, puede encontrar en este movimiento una caja de herramientas para pensar sus propios marcos. Lo que ocurra en los próximos dos meses —cuando el informe californiano esté listo— marcará un precedente que ningún regulador del mundo, incluido el chileno, podrá ignorar.

Con información de WWWhat's new