Renuncia en Anthropic enciende alerta por una IA que se mejora sola
Jacob Coxon dejó la empresa y advirtió sobre el avance hacia una superinteligencia capaz de automejorarse.
El 8 de septiembre, el investigador británico Jacob Coxon anunció en X su renuncia a Anthropic, donde trabajó tres años en investigación de preentrenamiento. En su mensaje, Coxon sostuvo que tanto OpenAI como Anthropic avanzaban hacia una superinteligencia capaz de mejorarse a sí misma sin asumir una responsabilidad acorde. La advertencia desató una ola de reacciones en la industria tecnológica y reavivó el debate sobre los riesgos existenciales de la inteligencia artificial.
Varios investigadores compararon el momento actual con febrero de 2020, cuando la pandemia de COVID-19 recién comenzaba. Según la revista Time, la analogía apunta a la velocidad con que una amenaza puede transformar al mundo: al principio los cambios parecen graduales, pero luego se aceleran de manera repentina. La duda es si la sociedad podrá responder a tiempo ante sistemas cada vez más avanzados.
Alertas y reacciones en cadena
El mismo día de la renuncia, Evan Hubinger, responsable en Anthropic del área que busca que los sistemas actúen según las intenciones de sus creadores, respaldó públicamente a Coxon. Hubinger escribió que existe una probabilidad superior al 10% de que la IA provoque la muerte de todos los seres humanos en la próxima década.
Durante las 36 horas siguientes, los mensajes de Coxon alcanzaron 153 millones de visualizaciones, según Time. La discusión saltó desde los ámbitos especializados hacia las redes sociales, los medios y la política estadounidense.
El 12 de septiembre, Dario Amodei, cofundador y director ejecutivo de Anthropic, publicó un ensayo de 3.800 palabras en el que planteó que los riesgos crecientes justifican desacelerar el desarrollo de la IA. Amodei advirtió que, en un plazo de entre seis y doce meses, sistemas mal alineados podrían ser capaces de tomar el control de todo internet. No propuso detener de inmediato el entrenamiento de nuevos modelos, pero sugirió que las empresas de países democráticos podrían aceptar una reducción voluntaria del ritmo si contaban con auditorías independientes y estándares compartidos de seguridad.
Después del ensayo, Elon Musk y Sam Altman coincidieron en la necesidad de reducir el ritmo. Altman, director ejecutivo de OpenAI, anunció que su empresa no saldría a bolsa este año por preocupaciones de seguridad.
Posturas encontradas y el factor local
El 14 de septiembre, el presidente de Estados Unidos, Donald Trump, rechazó una desaceleración. En Truth Social escribió que el principal riesgo es que China logre una ventaja tecnológica sobre Estados Unidos y que “el único control o las únicas salvaguardas que necesita la IA son un presidente fuerte e inteligente”. En tanto, el director ejecutivo de Nvidia, Jensen Huang, afirmó que la inteligencia artificial general —el nivel en que la IA iguala o supera la mayoría de las capacidades humanas— ya había llegado.
Geoffrey Irving, exinvestigador sénior de alineación en OpenAI y DeepMind y ex científico jefe del Instituto de Seguridad de IA del Reino Unido, estima en 50% la probabilidad de extinción humana durante la próxima década como consecuencia de la IA. Entre los escenarios que preocupan figura el uso de estos sistemas para crear nuevos patógenos: una IA podría ayudar a desarrollar un agente infeccioso capaz de provocar una pandemia global más grave que la de COVID-19.
En Chile, esta advertencia resuena en el ecosistema local de inteligencia artificial, donde empresas y universidades avanzan en aplicaciones de IA sin una regulación específica que aborde estos riesgos. La discusión sobre la automejora de los sistemas recién comienza a instalarse en los debates públicos, aunque no existe una iniciativa concreta en el Congreso que recoja estas preocupaciones.
Con información de Infobae
