Altman advierte que la IA puede salir muy mal y pide reglas comunes

El director ejecutivo de OpenAI, Sam Altman, encendió las alarmas este lunes con una serie de publicaciones en X: según dijo, hay dos formas en que el progreso de la inteligencia artificial (IA) podría salir muy mal. El mensaje llegó poco después de que la compañía descartara una oferta pública inicial este año, un antecedente que da contexto a la advertencia.

Los riesgos según Altman

El primer escenario que preocupa a Altman es que los seres humanos pierdan el control sobre el desarrollo y las decisiones de sistemas cada vez más capaces. «Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas», escribió el ejecutivo.

El segundo peligro que identificó es una concentración excesiva de poder en quienes manejen las tecnologías más avanzadas. Si una IA extraordinariamente poderosa queda en manos de una persona, una empresa o un país, advirtió, podría usarse para imponer una visión del mundo al resto, con resultados «extremadamente distópicos».

Evitar ambos escenarios al mismo tiempo no es sencillo. Altman sostuvo que hay que caminar por un «angosto camino intermedio», porque tanto un país como un laboratorio podrían terminar con demasiado poder. Por eso, pidió que las técnicas de seguridad y las de alineación, es decir, las que buscan que los sistemas sigan los valores humanos, avancen al mismo ritmo o más rápido que las capacidades de los modelos.

Reglas comunes para la IA de frontera

El CEO de OpenAI se mostró a favor de un marco regulatorio federal que establezca «requisitos de seguridad consistentes» para la IA de frontera, es decir, los sistemas más avanzados que existen hoy. También respaldó la idea de que auditores independientes supervisen el funcionamiento de esos modelos desde adentro.

Altman, eso sí, fue claro en que las empresas no deberían esperar a que las leyes existan para actuar. «Damos la bienvenida a un marco federal», dijo, pero remarcó que el primer paso corresponde a las propias compañías. En cuanto al Estado estadounidense, lo ve con un rol clave en la coordinación internacional de las medidas de seguridad.

Un frente común con los rivales

La advertencia de Altman tuvo eco entre sus propios competidores. El sábado, el director ejecutivo de Anthropic, Dario Amodei, propuso bajar el ritmo en el desarrollo de los modelos de frontera para reforzar la seguridad. Altman respaldó públicamente esa postura y anunció que OpenAI permitirá a evaluadores independientes acceder a sus sistemas con un nivel de supervisión similar al de sus empleados.

Poco después se sumó Elon Musk, dueño de xAI, con un mensaje escueto: «Dario tiene razón». La coincidencia entre tres de las figuras más influyentes de la industria resulta inusual en un sector donde la competencia por lanzar modelos cada vez más potentes ha sido la tónica.

OpenAI ya había informado en agosto que desaceleró temporalmente parte del entrenamiento de sus modelos de frontera para reforzar monitoreo, alineación y seguridad. Según Altman, el mundo merece tener la confianza de que las empresas estadounidenses actuarán de manera responsable.

Para Chile, que no tiene laboratorios de IA de frontera, la discusión sirve como señal de hacia dónde podría moverse la regulación global. Los estándares que se debatan en Estados Unidos suelen terminar influyendo en las normas que alcanzan a usuarios y empresas del país.

Con información de La Nación