CEOs de IA piden frenar desarrollo: temen riesgos fuera de control humano

En las últimas semanas, los líderes de las empresas más importantes de inteligencia artificial (IA) han coincidido en que el ritmo de avance debe desacelerarse. El llamado lo encabeza Dario Amodei, CEO de Anthropic, quien publicó un ensayo respaldado por Sam Altman (OpenAI), Demis Hassabis (Google AI) y Elon Musk (SpaceX). Todos advierten que los sistemas podrían generar problemas que escapen al control humano y causar estragos multimillonarios.

El plan de tres pasos y la propuesta de un regulador

Amodei propone un plan con tres medidas: ralentizar el desarrollo de modelos avanzados, imponer evaluaciones de seguridad que vayan a la par del progreso y crear un organismo regulador independiente. Según The Washington Post, Anthropic, OpenAI y Google ya discutían antes de la publicación la creación de una entidad autorreguladora, similar a la Autoridad Reguladora de la Industria Financiera (FINRA) en Estados Unidos: una organización privada y sin fines de lucro que supervise estándares de seguridad. Amodei incluso sugirió solicitar una exención limitada en las leyes de competencia estadounidenses para que estas empresas puedan pactar los límites.

No todos están de acuerdo. El presidente de Estados Unidos, Donald Trump, ha calificado la iniciativa como una “conspiración enfermiza contra la IA” que solo beneficia a China. “Quien gane en IA va a ganar, y vamos por delante”, escribió, y arremetió contra Amodei tildándolo de “angelito perfecto”. Críticos dentro de la industria también señalan que una desaceleración acordada entre gigantes podría funcionar como un cartel para bloquear a competidores más pequeños y frenar la ventaja estratégica del país.

Alertas internas y una nueva “constitución” para la IA

La preocupación no solo viene de los CEO. Jacob Coxon, ingeniero de Anthropic, renunció y alertó que la empresa “avanza a toda velocidad hacia la superinteligencia artificial” —sistemas más listos que cualquier humano capaces de auto-mejorarse— y que “quienes desarrollan la IA creen que esta podría acabar con todos nosotros para finales de la década”. La ONU también ha alzado la voz: Volker Türk, Alto Comisionado para los Derechos Humanos, afirmó que “todos los derechos humanos están en riesgo” y pidió que la gobernanza avance al mismo ritmo que la tecnología.

En paralelo, Microsoft presentó este lunes un borrador de código de conducta para su IA, descrito como “una especie de constitución” por su director ejecutivo de IA, Mustafa Suleyman. El documento exige que la IA nunca se resista a ser corregida o apagada, se comunique de forma comprensible y considere cualquier infracción como un fallo. La empresa abrirá una consulta pública durante seis semanas para recabar opiniones, incluso sobre si la IA debe respetar los límites del usuario o cómo interactuar con personas en estado vulnerable. Este código se usará para entrenar los futuros modelos de Microsoft, a diferencia de la “constitución” que Anthropic ya tiene para su modelo Claude.

Si bien estos hechos ocurren en Estados Unidos y a nivel internacional, tienen relevancia para Chile: el país forma parte de la discusión global sobre gobernanza de IA y enfrenta los mismos desafíos de equilibrar innovación con derechos humanos. Las decisiones que tomen estos gigantes y organismos como la ONU influirán en las regulaciones que eventualmente se adopten a nivel local.

Con información de ABC