Microsoft pone reglas a la IA en colegios: prohibido entrenar con datos de alumnos

La inteligencia artificial (IA) llegó a las salas de clases, pero sin un marco legal claro. Mientras distritos como Nueva York y Los Ángeles suspendieron herramientas de IA para evaluar riesgos, Microsoft tomó la delantera y acordó diez principios de seguridad y privacidad con la Federación Estadounidense de Profesores (AFT) y su filial neoyorquina UFT. El pacto, bautizado como ‘Norma nacional de seguridad y privacidad en materia de IA’, estará disponible para los colegios de Estados Unidos a partir de noviembre.

Para Chile, donde no existe una regulación específica sobre IA en educación, este acuerdo sienta un precedente global. Aunque ocurre en el extranjero, la falta de legislación local hace que cualquier estándar internacional sirva de referencia para padres, docentes y tomadores de decisiones. Microsoft, encabezada por Satya Nadella, busca calmar el recelo de familias y profesores frente al impacto de la tecnología en menores.

Protección de datos y control escolar

Las reglas son claras: queda prohibido entrenar modelos de IA con información de alumnos o docentes. Los datos personales no podrán venderse ni usarse con fines publicitarios o para desarrollar otros productos. Los estudiantes son los propietarios de su información y solo se recopilará lo estrictamente necesario, un principio llamado minimización de datos desde el diseño.

Además, las decisiones difíciles deberán tener supervisión humana y ser explicables, lo que descarta los llamados ‘compañeros de IA’ autónomos. Los proveedores tendrán que mantener certificaciones, notificar infracciones y subsanarlas. Los datos viajarán cifrados, con acceso controlado, pruebas independientes y planes de respuesta ante incidentes. Las familias recibirán guías claras para dar un consentimiento significativo, y los productos deberán ser accesibles y justos, sin el temido ‘feature creep’ ni dependencia de un solo proveedor.

Un acuerdo ejecutable con auditorías e indemnizaciones

A diferencia de compromisos voluntarios de otras empresas, este acuerdo es exigible. Incluye auditorías independientes de terceros —como certificaciones SOC 2 e ISO— para verificar su cumplimiento. Si algo falla, los colegios pueden cancelar contratos y reclamar indemnizaciones. Brad Smith, presidente de Microsoft, declaró: «Este estándar establece un listón alto para la privacidad infantil y la seguridad de la IA». Y como principio inquebrantable, el documento dice: «En caso de duda, protege al estudiante».

Randi Weingarten, presidenta de la AFT, resumió los tres objetivos del pacto: proteger la privacidad y los datos de los niños, otorgar a los colegios un control real sobre las herramientas de IA, y ofrecer transparencia a los padres. En un país como Chile, donde aún se discute cómo integrar la IA sin exponer a los menores, este modelo podría inspirar políticas locales que pongan al estudiante primero.

Con información de ABC