IA que se acelera a sí misma: el escenario que Hinton y Bengio piden vigilar

¿Qué pasa cuando la inteligencia artificial empieza a diseñar mejores versiones de sí misma? Para un grupo de investigadores liderado por Geoffrey Hinton y Yoshua Bengio —dos de los nombres más influyentes en el desarrollo de esta tecnología—, la respuesta es un escenario incierto que obliga a preparar mecanismos de supervisión. La advertencia aparece en un documento de trabajo publicado en septiembre de 2026 por el Cambridge Programme on AI Science & Policy (el programa de ciencia y política de IA de la Universidad de Cambridge).

El texto, titulado What if automating AI R&D triggers an intelligence explosion? (¿Y si automatizar la investigación y desarrollo de IA provoca una explosión de inteligencia?), analiza un ciclo en el que los sistemas de IA asumen cada vez más tareas propias de la investigación científica: programación, diseño de experimentos y análisis de resultados. Esos sistemas mejorados podrían luego integrarse al mismo proceso para contribuir al desarrollo de sus sucesores, generando así un avance mucho más rápido que el observado hasta ahora.

El concepto de “explosión de inteligencia”

Los autores denominan «explosión de inteligencia» a la posibilidad de que esta aceleración comprima en meses avances que, al ritmo de referencia, requerirían años. El software ocupa un rol central en el análisis, ya que sus mejoras pueden incorporarse con mayor rapidez que los cambios de hardware, que dependen de fabricación e infraestructura física. Pero el documento no presenta el escenario como inevitable: la evidencia disponible es preliminar, mixta y en algunos casos indirecta.

Entre los obstáculos que podrían frenar esta aceleración se mencionan restricciones de cómputo y de datos, rendimientos decrecientes, tareas difíciles de automatizar y los tiempos de entrenamiento de los modelos. Tampoco se afirma que ya se haya producido: la automatización actual no equivale a una autonomía completa.

Qué dice Anthropic sobre su propio desarrollo

El informe cita un análisis interno de Anthropic, la empresa creadora del asistente Claude, que describe cómo delega una proporción creciente de su desarrollo a sistemas de IA. Sin embargo, la compañía reconoce que todavía no ha alcanzado un sistema capaz de diseñar y desarrollar de forma plenamente autónoma a su sucesor. También distingue entre ejecutar un experimento definido por personas y decidir qué objetivos de investigación merecen perseguirse.

Esas observaciones aportan información valiosa sobre procesos reales en un laboratorio, pero no constituyen una validación independiente de las hipótesis del documento. En otras palabras: la evidencia es interesante, pero no concluyente.

Propuestas para un escenario incierto

Según los autores, una aceleración podría adelantar beneficios científicos y médicos, pero también dejaría menos tiempo para responder a amenazas biológicas, ciberataques, alteraciones laborales o fallos de control. El informe también advierte sobre el riesgo de concentración de poder. Por eso, las recomendaciones se organizan en tres áreas: obtener mayor visibilidad sobre la automatización dentro de los laboratorios, desarrollar mecanismos para orientar y limitar una eventual aceleración, y preparar a las instituciones para sus consecuencias.

Entre las medidas concretas figuran informes estandarizados, evaluaciones independientes y procedimientos de respuesta a incidentes. Son propuestas de los autores, no controles ya adoptados ni evidencia de una pérdida inminente del control humano.

Para Chile, este debate importa: el país ha comenzado a discutir su propia estrategia de IA, y casos como el de Anthropic muestran que la aceleración no es un asunto lejano. Por ahora, la recomendación práctica es seguir de cerca los informes de organismos internacionales y exigir transparencia a las empresas que operan con modelos avanzados. El documento completo está disponible en el sitio del Cambridge Programme on AI Science & Policy, y su lectura es gratuita.

Con información de DiarioTI