¿Puede la IA exterminar a la humanidad? El debate que divide a los expertos
Mientras unos alertan de un 10% de riesgo existencial, otros califican el temor como ‘una farsa total’.
La advertencia de Evan Hubinger, encargado de alineamiento en Anthropic, encendió las alertas: en su cuenta de X afirmó que existe un 10% de probabilidades de que una inteligencia artificial termine con la especie humana. No es la primera voz que habla de un escenario apocalíptico, pero el porcentaje, aunque subjetivo, puso el tema otra vez en la mesa. Sin embargo, no todos están de acuerdo con esa visión.
El cuello de botella no está en el diseño del virus
David Bellamy, investigador del Institute of Foundation Models —los mismos que crearon el modelo K2 Horizon—, respondió al debate desde su experiencia. Es una de las pocas personas que ha entrenado un modelo frontera y también ha diseñado virus personalizados con IA. Para él, la amenaza existencial es “una farsa total”. Su argumento es concreto: diseñar el genoma de un virus con un modelo de lenguaje (LLM) no es el problema; lo difícil es convertirlo en un patógeno real que supere las defensas humanas.
Bellamy explica que la mejora recursiva de la IA funciona bien en programación o matemáticas, donde se pueden probar soluciones millones de veces al instante. Pero la biología no es así: requiere sintetizar material, cultivar células y hacer experimentos en el mundo físico, un proceso limitado por las leyes de la física. Incluso con un laboratorio de más de 100 millones de dólares y todo automatizado, los controles de los proveedores de síntesis genética pondrían freno. Además, la Academia Nacional de Ciencias de Estados Unidos advierte que nuestro conocimiento biológico es limitado: muchos cambios genéticos, en lugar de mejorar un virus, lo perjudican.
Lecciones de la historia: de la Peste Negra a la bomba atómica
La historia recuerda que las pandemias han sido devastadoras, pero nunca han extinto a la humanidad. La Peste Negra mató entre el 30% y el 50% de la población europea en el siglo XIV; la gripe de 1918, entre el 1% y el 5% mundial; y las enfermedades traídas a América causaron hasta un 90% de muertes en algunos pueblos indígenas. Pese a esas cifras, la especie sobrevivió. En el siglo XX, la humanidad resistió dos guerras mundiales y la amenaza nuclear de la Guerra Fría, cuando miles de cabezas nucleares estuvieron a punto de usarse.
Los seres humanos reaccionan: crean vacunas, antibióticos, tratados y sistemas de alerta. No somos indestructibles, claro, y un patógeno diseñado por una IA superior –combinado con ciberataques o sabotajes– podría ser un desafío inédito. Pero hay una diferencia clave entre matar millones y exterminar a toda la especie. Como señala Bellamy, reducir el debate a una simple estimación porcentual ignora las barreras físicas y biológicas reales.
El fantasma del ‘lobo’ en la narrativa de la IA
Este discurso catastrofista no es nuevo. En 2019, OpenAI decidió no publicar de inmediato el GPT-2 completo por miedo a que generara desinformación y suplantaciones a gran escala. Lo liberó por etapas y, meses después, reconoció que no había visto abusos significativos que justificaran mantenerlo cerrado. Hoy, Anthropic repite una narrativa similar, aunque con argumentos más extremos.
Para Chile, donde el debate sobre la regulación de la inteligencia artificial está tomando fuerza, este enfrentamiento entre expertos es relevante. Mientras el gobierno avanza en una política nacional de IA, la pregunta de fondo sigue abierta: ¿estamos ante una amenaza real o ante un nuevo “que viene el lobo” que termina desviando la atención de los riesgos concretos, como los sesgos algorítmicos o la pérdida de empleos? Las estimaciones sobre el fin del mundo por culpa de una máquina siguen siendo, por ahora, enormemente ambiguas.
Con información de Xataka
