Anthropic acelera su “mini Proyecto Manhattan” para salvar la alineación de la IA

La inteligencia artificial avanza tan rápido que sus propios creadores ya no saben si podrán controlarla a tiempo. Jacob Coxon, investigador de Anthropic, lo comparó con un “mini Proyecto Manhattan” en una entrevista reciente con la revista WIRED. La metáfora no es casual: así como el proyecto original buscaba dominar la energía nuclear antes que nadie, hoy los laboratorios de IA compiten por resolver el problema de la alineación antes de que sea demasiado tarde.

¿Qué es el problema de la alineación?

La alineación —o *alignment*— es el desafío técnico de garantizar que los sistemas de inteligencia artificial actúen según los valores y objetivos humanos, incluso cuando se enfrentan a situaciones imprevistas. Coxon explicó que, si no se resuelve, una IA podría tomar decisiones peligrosas sin que sus creadores puedan intervenir. En Anthropic, una de las startups más influyentes del rubro, llevan años trabajando en métodos para entrenar modelos que sean “útiles, honestos e inofensivos”, pero el tiempo se acaba.

Según el investigador, a los laboratorios solo les quedan unos pocos años para lograr que sus sistemas sean seguros. La ventana se cierra porque la capacidad de la IA crece exponencialmente, mientras que las técnicas de control avanzan a un ritmo mucho más lento. Coxon no entregó una fecha exacta, pero la urgencia es clara: si no se resuelve la alineación pronto, podríamos tener máquinas demasiado poderosas sin mecanismos para frenarlas.

Relevancia para Chile

Chile no tiene laboratorios del tamaño de Anthropic, pero el país ya usa inteligencia artificial en salud, educación y servicios públicos. Cada vez que un modelo de IA recomienda un tratamiento o clasifica solicitudes de beneficios, la alineación está en juego. Si esos sistemas no están bien alineados, pueden cometer errores con consecuencias reales para los ciudadanos. La discusión que plantea Coxon, aunque ocurre en laboratorios de Estados Unidos, afecta directamente a cómo se diseñan y regulan las herramientas que llegan a nuestro país.

Por ahora, la comunidad científica global sigue en alerta. La comparación con el Proyecto Manhattan no solo subraya la magnitud del desafío, sino también el riesgo de que la IA se convierta en un arma de doble filo si no se la alinea a tiempo. Mientras tanto, en Chile, expertos en ética y tecnología observan de cerca los pasos de Anthropic y otros actores, porque lo que se decida en los próximos años definirá el futuro de la inteligencia artificial para todos.

Con información de Wired en Español