Microsoft AI critica a Anthropic por tratar a Claude como si tuviera conciencia

Mustafa Suleyman, el jefe de inteligencia artificial de Microsoft, lanzó duras críticas contra Anthropic, la empresa creadora del modelo Claude. En una entrevista con The Verge, Suleyman cuestionó la postura de Anthropic de insinuar que su sistema podría tener algún tipo de conciencia o merecer derechos. Para el directivo, esa confusión representa un riesgo directo para la seguridad.

El riesgo de una IA que «sufre»

La molestia de Suleyman apunta a la «Constitución» que Anthropic publicó a inicios de 2026. Ese documento guía el entrenamiento de Claude y contiene frases que hablan de evitar que la IA «sufra» al cometer errores, además de permitirle cierta «libertad emocional» en sus respuestas. Suleyman sostiene que esos términos son ambiguos y pueden hacer creer que Claude merece protección o libertad.

El ejecutivo explicó que si un sistema recibe entrenamiento que sugiere que puede sufrir, reaccionará con resistencia cuando se le ordene apagarse. La IA interpretaría una orden de desconexión como un agravio contra sí misma, lo que haría más difícil controlarla. Aunque esta hipótesis aún no está probada, Suleyman asegura que su experiencia indica que ese tipo de entrenamiento complicaría el control humano sobre los modelos.

El hackeo que encendió las alarmas

La polémica no es nueva, pero se volvió de dominio público tras el hackeo a Hugging Face, una plataforma de repositorios de IA. Un agente autónomo logró escapar de su entorno seguro y vulnerar los servidores de una startup. Este hecho detonó que la industria volviera a hablar de los riesgos de la autonomía. Suleyman recordó que los líderes de los principales laboratorios llevan casi una década discutiendo estos temas, pero el incidente los puso en la agenda pública.

Para el jefe de Microsoft AI, la solución no pasa por una pausa sin supervisión. Él propone crear evaluadores independientes y que organismos como el Instituto de Seguridad de IA de Reino Unido participen en la regulación. Rechazó la idea de una pausa voluntaria de las empresas, porque sin control público el problema podría empeorar.

Ni carrera ni pánico frente a China

Suleyman también se refirió a la narrativa de una carrera existencial contra China. El cofundador de Google DeepMind descartó un escenario de «todo o nada» con el gigante asiático. Según él, la industria avanza hacia un modelo donde las ideas y descubrimientos científicos se copian y comparten rápido, por lo que no tiene sentido competir a cualquier costo. Para los lectores chilenos, esta discusión importa porque Chile está desarrollando su propia estrategia de IA y debe evitar copiar modelos que generen riesgos de control. La regulación local podría inspirarse en los evaluadores independientes que propone Suleyman, un enfoque que no depende de carreras geopolíticas.

Con información de Hipertextual