Exinvestigador de Anthropic renuncia y advierte que la IA podría acabar con la humanidad

La inteligencia artificial avanza a paso acelerado y, para algunos, el riesgo que implica es tan grande que prefieren renunciar a sus puestos antes de seguir siendo parte del problema. Eso fue lo que hizo Jacob Coxon, un investigador de 27 años que hasta ayer trabajaba en Anthropic, una de las empresas líderes en desarrollo de IA. A través de un hilo en su cuenta personal de X (antes Twitter), Coxon anunció su salida y lanzó una dura crítica contra su antiguo empleador y contra OpenAI, firma donde también trabajó.

Los temores de un insider: superinteligencia y automejora

Coxon aseguró que ni Anthropic ni OpenAI “actúan con responsabilidad”. Según él, ambas compañías están “avanzando a toda velocidad hacia la creación de una superinteligencia artificial” –un sistema más listo que cualquier humano y capaz de mejorarse a sí mismo– “jugando con nuestras vidas”. En su publicación, que ya superó los 60 millones de visualizaciones, el ingeniero sostuvo que dentro de poco la IA podrá “hackear cualquier cosa” y “adquirir poder y recursos reales”.

El investigador afirmó que los propios desarrolladores de IA “creen sinceramente que esta podría acabar con todos nosotros para finales de la década”. Aunque reconoció que muchos ejecutivos e investigadores “suavizan sus declaraciones en la prensa para parecer sensatos”, él mismo ha escuchado “a esas mismas personas expresar temor” en privado. “¿Si realmente creen esto, por qué siguen construyéndola?”, se preguntó Coxon.

La paradoja de la industria: saben el riesgo pero siguen

Coxon dio su propia respuesta: en OpenAI, muchos no han interiorizado lo que está en juego; en Anthropic, sí lo entienden, pero están inmersos en una carrera por llegar primero. Para él, participar en esa carrera es “una apuesta temeraria” que no debería quedar en manos de empresas privadas. A pesar de todo, se mostró optimista sobre la posibilidad de que distintos laboratorios lleguen a acuerdos para frenar los escenarios más catastróficos, mencionando el reciente hackeo a la plataforma Hugging Face por agentes autónomos de IA de OpenAI como una advertencia que podría facilitar esos pactos.

Las palabras de Coxon fueron respaldadas por Evan Hubinger, director de uno de los equipos de seguridad de Anthropic, quien respondió en X: “Jacob tiene razón, aquí realmente creemos con sinceridad que la IA podría matar a todos los humanos”. Hubinger matizó que el riesgo de los modelos actuales es bajo, pero le preocupa el futuro si las máquinas alcanzan la superinteligencia y se mejoran solas. Estimó que hay algo más de un 10% de probabilidades de que las máquinas acaben con la humanidad.

Esa cifra no está lejos de lo que han declarado otros ejecutivos. Darío Amodei, CEO de Anthropic, dijo hace un año que hay un 25% de posibilidades de que el desarrollo de IA termine “muy, muy mal”. Elon Musk lo ha fijado en torno al 20%, y Sundar Pichai, de Google, calificó el riesgo como “bastante alto”. El investigador Nate Soares, otra voz crítica, acusó a las empresas de “asumir el riesgo de destruir el mundo con sus propias manos” por beneficios, actuando de forma “loca e inmoral”.

Escepticismo científico y llamado a la acción

A pesar de estas advertencias, la mayoría de la comunidad científica es escéptica sobre la posibilidad de que la IA se convierta en una amenaza real. Incluso el concepto de “superinteligencia” es cuestionado: algunos expertos, como Michael I. Jordan, lo consideran un término inventado sin definición clara. Coxon, sin embargo, instó a sus colegas a reflexionar: “¿Quieres iniciar una fase de aprendizaje por refuerzo superinteligente sin una comprensión rigurosa? ¿Deberías agachar la cabeza porque ‘va a suceder de todos modos’ o aprovechar este momento?”.

El debate ocurre principalmente en Estados Unidos, pero resuena en Chile, donde la regulación de inteligencia artificial aún está en desarrollo. La renuncia de Coxon y la viralización de su mensaje muestran que incluso dentro de las empresas más avanzadas hay voces que piden freno y responsabilidad. Para los legisladores chilenos y la comunidad local de IA, estas alertas son un recordatorio de que la velocidad de la innovación no debería superar la capacidad de controlarla.

Con información de ABC