Nadella pone límites a la superinteligencia: “No merece la pena si no está bajo control humano”

El debate sobre cómo regular la inteligencia artificial (IA) avanzada tuvo un nuevo protagonista este fin de semana: Satya Nadella, CEO de Microsoft. En su cuenta de X, el ejecutivo fijó una línea roja para cualquier proyecto que busque la superinteligencia —una IA hipotética que superaría la capacidad cognitiva humana—: debe estar bajo control humano y beneficiar a la humanidad. “Si la IA que creamos no ayuda a la humanidad y no está bajo control humano, no merece la pena llevarla a cabo”, escribió. Sus declaraciones se suman a las de Dario Amodei (Anthropic), Sam Altman (OpenAI) y Elon Musk (SpaceXAI), quienes también pidieron frenar el desarrollo para evitar perder el control de la tecnología. En Chile, donde el gobierno avanza en su propia estrategia nacional de IA, estas voces refuerzan la urgencia de un marco regulatorio que no quede en manos de unos pocos.

Gobernanza inclusiva para la IA

Nadella fue enfático: la gobernanza de la superinteligencia no puede ser decidida solo por los gigantes tecnológicos. Propuso integrar a gobiernos, universidades y a la comunidad científica en las decisiones clave, para garantizar un proceso representativo e inclusivo. “No puede estar controlado por un puñado de entidades”, afirmó. Como respaldo técnico, el CEO de Microsoft mencionó los “evaluadores integrados”, herramientas que verifican de forma continua que los principios de seguridad se cumplan en los modelos de IA. Además, instó a acelerar y difundir los beneficios de la IA para que lleguen a todos los países, comunidades y empresas, y abogó por un ecosistema donde convivan modelos cerrados y de código abierto.

Código de conducta y autonomía empresarial

Otro punto central fue la autonomía de las organizaciones frente a los grandes proveedores. Nadella advirtió que ninguna empresa debería depender de manera permanente de una única plataforma de IA. “Toda organización debería poder crear su propio ciclo de aprendizaje continuo o ‘máquina de escalada’, sin depender de ningún proveedor de modelos en concreto”, dijo. La clave, según él, es que las entidades puedan integrar su propio conocimiento en los modelos y los pesos que controlan, es decir, los parámetros que definen el comportamiento de la IA. Como complemento, Nadella confirmó que Microsoft presentará un Código de Conducta que fundamenta sus modelos de IA, con el objetivo de ofrecer libertad de elección y control efectivo a las organizaciones. Este anuncio llega en un momento en que Chile discute cómo regular la inteligencia artificial sin frenar la innovación ni concentrar el poder tecnológico.

Con información de ABC