CEO de Anthropic pide frenar la IA y gigantes lo apoyan, pero críticos ven estrategia de autorregulación

El sábado pasado, Dario Amodei, CEO de Anthropic, lanzó un ensayo en el que pidió una desaceleración global del desarrollo de la inteligencia artificial. En cuestión de horas, Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) y Elon Musk (SpaceXAI) manifestaron su respaldo. Amodei advirtió que en los próximos 6 a 12 meses la IA podría tomar control de todo internet y provocar pérdidas por cientos de miles de millones de dólares.

Para enfrentar el riesgo, Anthropic se comprometió a poner su tecnología a disposición de evaluadores externos y planteó que las empresas de IA de vanguardia en países democráticos coordinen estándares de seguridad comunes. Además, sugirió que Estados Unidos y otros gobiernos democráticos busquen coordinarse con gobiernos autoritarios para reducir los peligros. La propuesta, en apariencia altruista, ha generado un intenso debate.

El llamado a la autorregulación

Sin embargo, no todos ven buena fe en la iniciativa. David Sacks, principal asesor tecnológico de la administración Trump, calificó la postura de «chantaje» y señaló que si las empresas quieren evitar crear una superinteligencia, basta con que se comprometan a no hacerlo. Satya Nadella, CEO de Microsoft, coincidió en que la IA debe avanzar con ritmo pausado, pero rechazó la autorregulación: «Esto no puede estar controlado por un puñado de actores, sino que debe contar con una representación amplia de todo el ecosistema, de distintos países y ámbitos, incluida la universidad». Clément Delangue, director de Hugging Face, agregó que los problemas de la IA no se solucionan «a puerta cerrada entre un puñado de laboratorios de vanguardia».

Para Chile, estas discusiones son relevantes porque el país avanza en la adopción de inteligencia artificial y eventualmente deberá definir su propio marco regulatorio. El resultado de este pulso entre gigantes tecnológicos y gobiernos influirá en las reglas del juego a nivel global.

Lavado de imagen y barreras de entrada

Expertos consultados por ABC ven motivos menos nobles detrás del llamado a la ralentización. Josep Curto, director académico del Máster en Inteligencia de Negocios y Big Data en la Universitat Oberta de Catalunya, sostiene que «hay que diferenciar el riesgo real del ruido mediático». Para él, el foco no debería estar en escenarios apocalípticos sino en problemas tangibles como la desinformación masiva, el sesgo algorítmico, la privacidad y la dependencia de sistemas cuyos fallos no comprendemos. Curto cree que las grandes startups pueden estar «lavándose las manos» y trasladando la responsabilidad a los gobiernos.

Luis Martín, director de soluciones de IA en Llorente y Cuenca, añade que pedir una ralentización y crear nuevas normas puede ser una estrategia para poner barreras de entrada a competidores más pequeños. «Ellos tienen los recursos para cumplir con la burocracia, mientras que los nuevos jugadores quedarían fuera», afirma. Así, el debate sobre seguridad y regulación esconde una lucha de poder en la industria de la inteligencia artificial.

Con información de ABC