Alerta en la IA: jefe de seguridad da 10% de probabilidad de colapso global
Tras renuncias y advertencias, CEO de Anthropic pide ralentizar la tecnología; la investigadora Inma Martínez respalda pero descarta el fin del mundo
La industria de la inteligencia artificial (IA) vive una semana de alta tensión. Jacob Coxon, investigador de la empresa Anthropic, renunció y publicó un hilo en X donde advierte que la IA «podría matarnos a todos al final de esta década». Poco después, Evan Hubinger, jefe de uno de los equipos de seguridad de la misma compañía, replicó: «Jacob tiene razón», y añadió que desde su punto de vista las probabilidades de un desenlace apocalíptico tipo Terminator rondan el 10%.
Renuncias y voces de alerta en la cúpula de Anthropic
Las declaraciones se viralizaron de inmediato. Días después, Dario Amodei, CEO de Anthropic, publicó un ensayo de 3.000 palabras en el que aboga por frenar el avance de la IA. Amodei confiesa que le asusta que en el próximo año o año y medio los sistemas sean capaces, por sí mismos, de «controlar todo internet» y provocar «cientos de miles de millones de dólares en pérdidas». Elon Musk (SpaceXAI), Demis Hassabis (Google DeepMind) y Sam Altman (OpenAI) se mostraron de acuerdo con el diagnóstico.
La investigadora española Inma Martínez, que asesora a gobiernos como el de España y Reino Unido y al G-7 en regulación de IA, leyó el ensayo de Amodei con alivio. «Está pulsando la tecla correcta», dijo en conversación telefónica con este medio desde Reino Unido. Martínez colabora con el Foro de Davos y recuerda que el pionero Yoshua Bengio ya alertaba el año pasado sobre el riesgo de la IA agéntica —sistemas que pueden lograr objetivos sin supervisión humana constante—. «Ya sabíamos que hay muchos aspectos que se nos van de las manos», agrega.
¿Por qué las empresas frenan? La salida a bolsa como motor
Martínez explica que la decisión de Anthropic y OpenAI de desacelerar no nace de la buena voluntad, sino del cálculo económico. Ambas startups tenían previsto salir a bolsa antes de fin de año, con valoraciones de cientos de miles de millones de euros. «Si dan marcha atrás es porque no quieren arriesgarse a que un enjambre de agentes IA hackee a JP Morgan o a una eléctrica y acaben perdiendo dinero», señala. OpenAI ya ha anunciado que retrasa su oferta pública hasta 2027 para resolver problemas de seguridad. Sobre Anthropic, Martínez opina que su tecnología está «mejor entrenada que la de OpenAI», a quien califica de «punks de la IA».
La experta rechaza de plano las teorías apocalípticas: «No me gusta hablar de tecnología que mata personas, eso es ciencia ficción. La IA no tiene una pistola». Sí advierte, en cambio, que puede causar estragos en infraestructuras críticas: ciberataques a aeropuertos, redes eléctricas o supermercados. «Puede dejar sin dinero, comida o luz», ejemplifica. Y recuerda que ya la plataforma Hugging Face sufrió ataques realizados por agentes de IA.
Estándares industriales, no regulación pesada
Para reducir los riesgos, Martínez apuesta por estándares industriales antes que por una regulación densa. «Si la IA es un producto que se compra y vende, debe cumplir normas, como los coches. El ISO ya certifica compañías para trabajos específicos», plantea. La investigadora considera que el debate sobre la IA agéntica recién comienza, y que países como Chile deben observar atentamente estos movimientos para anticipar sus propias políticas.
Con información de ABC
