Microsoft propone 10 mandamientos para la IA: ¿freno real o gesto corporativo?

Durante años, la industria de la inteligencia artificial solo supo de una dirección: acelerar. Más rápido, más grande, más potente. Pero esa lógica empieza a resquebrajarse. Los mismos gigantes que pisaron el acelerador ahora piden freno. El último en sumarse es Microsoft, que acaba de publicar un borrador de su Código de Conducta para modelos de IA, una especie de manual ético con diez puntos que bien podrían ser los mandamientos de la nueva era digital.

Los diez mandamientos de Microsoft

El documento, firmado por Mustafa Suleyman, responsable de IA de la compañía, establece reglas claras: la gente importa más que la IA; la IA no debe tener derechos ni personalidad jurídica; los modelos no pueden imitar la conciencia ni simular sentimientos; deben estar siempre bajo control humano; no pueden resistirse a ser apagados o corregidos; no pueden comunicarse en un lenguaje propio que los humanos no entiendan; no deben generar dependencia funcional ni emocional; deben basarse en valores humanos como dignidad, seguridad y derechos fundamentales; y deben ser transparentes sobre lo que hacen y lo que nunca harán. En resumen, una IA subordinada a la humanidad, sin ambiciones de superinteligencia que escape a las salvaguardas.

Pero el propio Microsoft reconoce que sus modelos actuales aún no se entrenan siguiendo este código. Y ahí surgen las dudas: ¿lo aceptarán sus competidores? ¿Qué pasa si alguien no lo sigue? La historia reciente da motivos para el escepticismo.

El baile de las promesas

No es la primera vez que una gran empresa plantea límites. Anthropic lanzó en 2023 su Política de Escalado Responsable, comprometiéndose a no entrenar modelos sin garantías de seguridad. Pero este año, una investigación de Time reveló que justo esa promesa fue eliminada. El director científico de Anthropic justificó que no tenía sentido hacer compromisos unilaterales mientras otros avanzaban a toda máquina. Y hace poco volvieron a publicar sobre los peligros del uso malicioso de la IA.

Algo similar ocurrió en OpenAI: una crisis interna con empleados advirtiendo sobre los riesgos de escalar llevó a aplicar reglas internas. Google DeepMind también presentó en 2024 su Frontier Safety Framework, para detectar capacidades peligrosas como el desarrollo de armas biológicas. Sin embargo, el ruido de fondo es el mismo: mientras unos piden freno, otros aceleran. Y las empresas tienen miles de millones en juego.

¿Y a Chile qué le importa?

Si bien estos códigos vienen desde Estados Unidos, tienen impacto global. Chile usa cada vez más herramientas de IA, desde servicios públicos hasta startups. Que Microsoft ponga sobre la mesa reglas como “la IA no puede hacerte dependiente” o “debe ser transparente” puede influir en cómo se regulen estas tecnologías aquí. De hecho, el Congreso chileno ya discute proyectos de ley sobre inteligencia artificial, y estos estándares internacionales suelen servir de referencia. Pero la gran pregunta es si estos códigos son un verdadero freno o solo una cortina de humo corporativa.

Microsft mismo lo admite: su código no está implementado aún. Y mientras empresas como Anthropic se retractan de sus promesas, la desconfianza crece. Lo que está claro es que el debate ya no es entre optimistas y pesimistas, sino entre quienes tienen el poder de frenar… y quienes prefieren seguir acelerando.

Con información de Xataka