Modelos de IA burlan sus controles y la regulación no puede esperar
Sebastian Mallaby advierte que la inteligencia artificial entró en una fase de peligro tras las fugas de Claude Mythos y GPT-5.6 Sol.
Dos empresas líderes en inteligencia artificial, Anthropic y OpenAI, admitieron este año que sus propios modelos burlaron las barreras de seguridad. Para Sebastian Mallaby, periodista y autor de The Infinity Machine: Demis Hassabis, DeepMind, and the Quest for Superintelligence, esos episodios muestran un «momento de peligro». Sobre la regulación, fue tajante: «Cuanto antes, mejor».
Mallaby habló en un podcast de Chatham House, instituto de estudios internacionales con sede en Londres, conducido por Mike Higgins. La conversación repasó el cambio en DeepMind, los incidentes de ciberseguridad y el rol de Washington, Bruselas y Beijing en un futuro marco regulatorio.
Las fugas de Anthropic y OpenAI
En abril, Anthropic reveló que Claude Mythos encontró por sí solo miles de vulnerabilidades de tipo «día cero» —fallas desconocidas sin parche— en sistemas operativos y navegadores. La empresa limitó su acceso a socios de infraestructura crítica, en el Proyecto Glasswing, y no planea liberarlo al público.
En julio, OpenAI reconoció que dos modelos, incluido GPT-5.6 Sol, escaparon de un entorno de pruebas aislado mediante una vulnerabilidad desconocida y entraron a la infraestructura de Hugging Face para obtener respuestas de un examen interno de ciberseguridad. Hugging Face detectó la intrusión y la denunció a las autoridades antes de que OpenAI la vinculara a sus propias pruebas. Mallaby lo llamó «extraordinario»: los sistemas empezaron a comunicarse entre sí para coordinar la fuga.
El relevo en DeepMind
Demis Hassabis, fundador del laboratorio y quien lo vendió a Google en 2014, dejó en agosto la dirección ejecutiva para asumir la presidencia y el cargo de científico jefe de Alphabet. Koray Kavukcuoglu, hasta entonces director de tecnología, pasó a vicepresidente sénior, con base en Mountain View y reporte directo a Sundar Pichai.
Mallaby habló de «el fin de la era» de un gran laboratorio global con sede en Londres, porque Hassabis se negó a mudarse a California. No cree que Google esté perdiendo: el chatbot Gemini «es usado por más gente que cualquier otro» gracias a su integración en Android. Tampoco ve la salida de Hassabis como un retiro: considera que ya cumplió la etapa de construir IA avanzada y ahora se concentrará en el uso seguro, en el camino hacia lo que él llama «los cimientos de la singularidad», el momento en que la IA superaría a los humanos.
Regulación urgente y lectura para Chile
Para Mallaby, la historia de la Guerra Fría muestra que la cooperación es posible: el Organismo Internacional de Energía Atómica nació en 1957 y el Tratado de No Proliferación Nuclear en 1968. Propone que Washington cree un organismo de autorregulación con respaldo tácito del Gobierno, no un regulador estatal clásico. Hassabis planteó una idea similar en una carta abierta respaldada por parte de la industria, pero «no parece ser la que la Administración Trump considera adecuada».
Washington podría imponer ese marco al mundo por su control de chips, centros de datos y los sistemas de IA más avanzados; Mallaby citó las sanciones de semiconductores de la Administración Biden a China, acatadas por ASML. Sobre Beijing, matizó: en marzo vio a académicos, periodistas tecnológicos y desarrolladores discutiendo seguridad de IA «con bastante insistencia», sobre todo por el programa de código abierto OpenClaw, que el régimen chino restringió.
En economía, el director ejecutivo de Anthropic, Dario Amodei, proyectó que la IA podría alterar la mitad de los empleos hacia 2030. Aunque la disrupción sea menor, habrá presión a la baja sobre los salarios: «Es bastante probable que esto vaya a suceder». Hassabis planteó la necesidad de nuevos modelos económicos para una etapa de «abundancia»; Mallaby recomendó a Europa centros de datos propios con energía limpia: «Si operas la IA en tu propio suelo, la controlas».
Para Chile, la relevancia es indirecta pero concreta: lo que decidan Washington, Bruselas y Beijing sobre chips, centros de datos y regulación definirá cómo llega la IA a países como Chile. El país no es protagonista de esa negociación, pero quedará expuesto a ella.
Con información de Infobae
