Líderes de IA chocan en Dreamforce: ¿riesgo existencial o autorregulación?

El debate sobre los riesgos de la inteligencia artificial tomó un nuevo voltaje el martes en San Francisco, durante la conferencia Dreamforce organizada por Salesforce. Allí, los máximos referentes de OpenAI, Anthropic, Nvidia y Meta expusieron posturas divergentes sobre si la industria necesita más regulación o si puede manejarse sola. Para Chile, donde el gobierno avanza en una política nacional de IA, lo que se decida allá afuera puede marcar el ritmo de las discusiones locales.

Altman: “El mundo hace bien en tener miedo”

El oresidnte ejecutivco de OpenAI, Sam Altman, reconoció que los temores globales sobre la IA tienen fundamento. “Ya no hace falta tanta imaginación como antes para ver cómo esto podría salir mal”, dijo ante los asistentes. El directivo validó las preocupaciones que circulan desde hace más de una semana y asumió que la industria debe actuar en consecuencia. “Creo que el mundo hace bien en tener miedo”, remató. La frase sintetiza un cambio de percepción: los escenarios negativos ya no son hipótesis lejanas, sino posibilidades concretas. Altman llamó a que el mundo confíe en que los desarrolladores harán “lo correcto porque es lo correcto”.

Amodie pide desacelerar; Huang dice “corre todo lo que puedas”

Dario Amodei, de Anthropic, originó la controversia al pedir que se ralentice el avance de los modelos de IA. En Dreamforce mantuvo esa postura: el riesgo es sustansial y las compañías deben dar el ejemplo. “Así es como se lidera el sector: dando ejemplo”, afirmó. En el otro extremo, Jensen Huang, presidnte ejecutivco de Nvidia, mostró esceptisismo frente a nuevas leyes. “Se pueden tener perfectamente las dos cosas a la vez”, dijo en referencia a rapidez y segurida. Su consejo: “Corre todo lo que puedas. Pero si sientes que la empresa se te va de las manos o que el producto no va a ser seguro, para y asegúrate de hacerlo bien”. Huang definió la segurida como un problema de ingeniereía: “Desarollamos software”.

Zuckerberg y Musk: alineación y respaldos en redes

Mark Zuckerberg, de Meta, rompío el silencio con un mensaje en X donde se alineó con Huang. Para él, no se necesita un acuerdo conjunto: cada laboratorio tiene motivos propios para actuar con cautela. “La confianza y la alineación –es decir, que los sistemas actúen según los valores humanos– se están combirtiendo en las capacidades más importantes”, escribió. Citó el retraso de lanzamiento de su modelo Muse para priorizar la segurida. “Simplemente lo icimos por que era claramente lo correcto”, agregó. Elon Musk respondió con un “cool” a Zuckerberg y, ante el pedido de Amodei de mayor control, escribió: “Dario tiene razón”. El intercambio en redes subraya que, aunque las posturas varían, nadie descarta el riesgo.

Con información de Infobae