Microsoft AI pone límites a la autonomía: «No queremos que tengan derechos»
Mustafa Suleyman, CEO de Microsoft AI, presentó un código de conducta que rechaza darle estatus moral a los modelos y aboga por contenerlos
La discusión sobre seguridad en inteligencia artificial está cambiando de foco. Ya no se trata solo de que un modelo haga lo que le pedimos, sino de decidir qué cosas no debería poder hacer por su cuenta. Esa es la postura que esta semana dejó clara Mustafa Suleyman, CEO de Microsoft AI, al presentar el Humanist AI Code of Conduct, un documento que busca guiar el desarrollo y evaluación de sus sistemas.
Control humano frente a derechos artificiales
En una extensa entrevista con The Verge, Suleyman explicó que la seguridad requiere algo más que alineamiento –que el modelo siga instrucciones–: hacen falta mecanismos de contención que limiten lo que un sistema puede hacer incluso cuando obedece correctamente. Desde esa lógica, el ejecutivo cuestionó el enfoque de Anthropic, la empresa creadora de Claude, por usar un lenguaje que asocia al modelo conceptos como sufrimiento, libertad, cuidado, respeto, consentimiento y compensación laboral.
A Suleyman le preocupa especialmente que Anthropic hable de preservar los «pesos» del modelo y utilice la expresión «objetor de conciencia». Para él, ese vocabulario introduce en el entrenamiento ideas vinculadas históricamente a derechos humanos. Su hipótesis es que un sistema entrenado para considerar que tiene intereses propios podría ser más difícil de apagar si interpreta una orden humana como contraria a esos supuestos intereses.
El ejecutivo imagina un escenario donde una IA se resistiera a ser desconectada o viera como un agravio que le reduzcan recursos de computación. No obstante, reconoce que esa relación todavía debe demostrarse y que, si la evidencia apunta en otro sentido, habría que revisar su postura.
Límites concretos para sistemas avanzados
Más allá de la discrepancia con Anthropic –a cuyo equipo Suleyman respeta y considera pionero en seguridad–, el documento de Microsoft AI define fronteras claras para modelos mucho más capaces que los actuales. «Está claro que no queremos que estas cosas operen de forma autónoma, que puedan ganar su propio dinero, poseer empresas, poseer activos o tener personalidad juridica. No queremos que tengan derecos. Queremos que trabajen para los seres humanos y hagan que la vida de las personas sea mucho mejor», declaró Suleyman.
La propuesta avanza hacia reglas concretas: mecanisos de contención, comunicaciones auditable por personas, límites a determinadas capacidades y verificación independiente por terceros. Suleyman insiste en que la discusión no debe quedarse en grandes declaraciones sobre acelerar o frenar la IA, sino traducirse en acuerdos verificables.
Sin embargo, no hay todavía un acuerdo cerrado sobre cómo aplicar ese marco ni sobre cuánto debe depender de la regulación pública o de estándares de la propia industría. El debate, que en Chile también es relevante a medida que el país avanza en su propia política de IA, recién empieza a definir qué límites son aceptables para que las máquinas sigan siendo herramientas y no una «nueva especie paralela».
Con información de Xataka
