Exempleados de IA lanzan alerta: “la tecnología podría matar a todos los humanos”

Una ola de renuncias en las principales empresas de inteligencia artificial (IA) ha encendido las alarmas esta semana. Exempleados de Google DeepMind, Anthropic y OpenAI —incluidos investigadores de seguridad y alineación— han advertido que el desarrollo descontrolado de la IA podría tener consecuencias catastróficas para la humanidad. Las declaraciones, publicadas en redes sociales y columnas de opinión, coinciden en un punto: el tiempo para evitar un desenlace fatal se estaría agotando.

Las advertencias desde dentro

Bilal Chughtai, exinvestigador de seguridad de Inteligencia Artificial General (AGI) en Google DeepMind, afirmó en X que cree “fervientemente que la IA tiene el potencial de matarnos a todos”. Recordó que cuando entró al sector a principios de 2022 los sistemas eran “graciosamente inútiles”, pero en solo cuatro años el ritmo de avance le parece impactante. Ese mismo fin de semana, Josh Engels, también exmiembro del equipo de seguridad de DeepMind, escribió que ahora ve “una probabilidad aterradora” de que la IA cause “un daño inmenso en los próximos cinco años”. Engels renunció para unirse a la organización sin fines de lucro METR, dedicada a evaluar riesgos.

Desde Anthropic, el científico Jacob Coxon hizo pública su salida la semana pasada y aseguró que “quienes están construyendo la IA creen sinceramente que podrían matarnos a todos antes de que acabe la década”. Aunque algunos desde fuera tildan estas afirmaciones de exageración para atraer inversión, Coxon replicó que “no es marketing” y que incluso directivos expresan miedo en privado. Un día después, Joe Benton, exgerente del equipo de Supervisión Escalable de Anthropic, sostuvo que las empresas “están compitiendo por construir máquinas mucho más inteligentes que cualquier ser humano, y puede que no sobrevivamos a esto”. Destacó que la inversión en seguridad es escasa y pidió más transparencia.

La polémica se intensificó cuando Evan Hubinger, un investigador que aún trabaja en Anthropic, respaldó a Coxon: “Realmente creemos con sinceridad que la IA podría matar a todos los humanos. Personalmente, pienso que es >10% dentro de la próxima década”. La frase, dicha por alguien que sigue dentro de la empresa, provocó un fuerte debate. Por su parte, Zoë Hitzig, doctora en economía por Harvard, renunció a OpenAI la semana pasada, justo cuando la compañía comenzó pruebas de publicidad en ChatGPT. En The New York Times expresó su desilusión: “OpenAI parece haber dejado de hacerse las preguntas que yo me uní para ayudar a responder”.

¿Qué significa esto para Chile?

Aunque todos estos hechos ocurren en Estados Unidos, tienen directa relevancia para Chile. La IA ya está transformando el mercado laboral local, con procesos de automatización en retail, banca y servicios. También impacta la educación: universidades chilenas comienzan a integrar herramientas de IA generativa, mientras el debate sobre habilidades del futuro se intensifica. Las advertencias de estos expertos refuerzan la necesidad de que el país desarrolle políticas de regulación, formación y ética tecnológica. No se trata de un problema lejano: los riesgos que ellos señalan afectan a cualquier sociedad que adopte estas tecnologías sin resguardos.

Mientras tanto, Meta lanza una suscripción mensual para funciones avanzadas de IA en Instagram y WhatsApp, mostrando que la industria avanza hacia la monetización masiva. La brecha entre el optimismo comercial y las alertas de los propios constructores de la IA nunca había sido tan evidente. Para Chile, el mensaje es claro: hay que prepararse tanto para aprovechar las oportunidades como para mitigar los peligros que los mismos ingenieros denuncian.

La urgencia de la transparencia

Varios de los renunciantes, como Joe Benton y Josh Engels, se han sumado a organizaciones independientes como METR para realizar evaluaciones de riesgo. “El público debería exigir mucha más transparencia. No podemos dirigir esta tecnología de forma segura sin que más personas puedan ver hacia dónde se dirige”, escribió Benton. En un contexto donde Chile busca posicionarse como hub regional de innovación, estas voces recuerdan que la seguridad y la rendición de cuentas deben ir de la mano con el desarrollo.

Con información de La Nación