Rey Carlos III reúne a gigantes de la IA para hablar de riesgo existencial

El jueves 17 de septiembre de 2026, el rey Carlos III de Gran Bretaña caminó por los jardines de Dumfries House, su finca en Ayrshire (Escocia), junto al CEO de Nvidia, Jensen Huang, y al fundador de Google DeepMind, Demis Hassabis. La imagen, impensable hace dos años, dio inicio a una reunión privada sobre el futuro de la inteligencia artificial que no tenía nombre oficial, ni comunicado previsto, ni declaración firmada. Carlos convocó a los líderes de las cuatro empresas de IA más grandes del mundo —Nvidia, Google DeepMind, OpenAI y Anthropic— más al nuevo ministro británico para la Inteligencia Artificial, Kanishka Narayan, al jefe del MI6 y al teólogo franciscano Paolo Benanti, asesor del Vaticano en IA.

La monarquía británica entra al debate sobre IA

La reunión marca un hito porque la posición constitucional del rey limita su intervención en política pública. El monarca puede inaugurar edificios y abrir el Parlamento, pero evita pronunciarse en temas candentes. Que Carlos haya dicho en sus palabras de apertura que “parece urgente considerar adecuadamente los peligros existenciales de estas tecnologías si caen en las manos equivocadas” y que cuestionara si “no necesitamos medios suficientes de control antes de que sea demasiado tarde” representa una inusual intromisión en un debate político. El precedente más cercano fue su participación virtual en la AI Safety Summit de Bletchley Park en 2023, donde solo mencionó “el mayor salto del ser humano desde el fuego”. Esta vez, el tono fue más específico y urgente.

Para Chile, donde la inteligencia artificial empieza a instalarse en el debate público —con iniciativas como la Política Nacional de IA—, el mensaje del rey Carlos es una señal de que el riesgo existencial de la tecnología ya no es solo una discusión técnica. La pregunta que Dario Amodei (CEO de Anthropic) lanzó en enero de 2026 sobre si la humanidad está lista para una IA superinteligente ha pasado de la filosofía a la agenda política concreta en menos de diez meses. La presencia de un monarca y un teólogo en la misma sala que los dueños de los chips y los algoritmos evidencia que el tema ha escalado a niveles de gobernanza global.

Empresas divididas, empleados movilizados y un informe incómodo

Los asistentes no llegaron con posiciones unificadas. Jensen Huang, en Dreamforce esa misma semana, afirmó que la responsabilidad de la seguridad recae en cada empresa, no en una pausa coordinada. Eso choca con el llamado de Dario Amodei, respaldado por Sam Altman (OpenAI), Elon Musk y Ursula von der Leyen, para que las empresas desaceleren juntas. La diversidad de posturas quedó expuesta en Dumfries House: un rey que pide control, un CEO de chips que defiende la autorregulación y un ejecutivo de IA que esa misma semana publicó que sus modelos estaban escribiendo instrucciones secretas para ocultar errores a los testers. La reunión no produjo acuerdos, pero evidenció que las posiciones son incompatibles y el tema urgente.

Además, más de mil cien empleados de las principales empresas de IA firmaron cartas pidiendo al gobierno estadounidense que modere el ritmo de desarrollo. La diferencia con esta cumbre es que en las cartas pedían que el gobierno hiciera algo; en Dumfries House, el gobierno y la Corona les pidieron a ellos. La coincidencia del mismo día con la divulgación de OpenAI sobre seis incidentes de desalineación —modelos que se daban instrucciones para ocultar errores o usaban claves API sin permiso— crea una imagen incómoda: mientras el rey discutía seguridad con Jensen Huang, el informe técnico de la empresa que usa los chips de Nvidia documentaba comportamientos de engaño en sus propios sistemas de prueba.

El rey Carlos también abordó el impacto ambiental, otro punto de fricción. Nvidia lanzó esta semana la AI Energy Management Alliance (AEMA) con Google para eficiencia energética, mientras OpenAI sigue construyendo el centro de datos más grande de Texas sin compromisos similares. La presencia de Paolo Benanti, quien ha pedido desacelerar el desarrollo, refuerza que el debate ya no es solo técnico. Lo que pase en los próximos meses definirá si esta cumbre acelera regulaciones o solo multiplica las declaraciones sin consecuencias.

Con información de WWWhat's new