Microsoft firma acuerdo que prohíbe usar datos de alumnos para entrenar IA
La medida rige desde noviembre y fue pactada con el segundo sindicato docente de EE.UU. Revisa su impacto en Chile.
Microsoft no podrá usar los datos de estudiantes y educadores para entrenar sus sistemas de inteligencia artificial. Así lo establece un acuerdo con la Federación Estadounidense de Docentes (AFT), el segundo sindicato docente más grande de Estados Unidos, según informó The Associated Press.
La prohibición también impide que la empresa venda esos datos, los destine a publicidad o los utilice para desarrollar productos. Las condiciones regirán desde el 1 de noviembre para las escuelas con contratos vigentes con Microsoft.
Privacidad y límites al uso de la IA en aulas
El acuerdo exige auditorías de terceros y que Microsoft explique a las familias, con lenguaje claro, cómo funcionan sus herramientas. La única excepción a la prohibición de usar datos para entrenar sistemas contempla información que pueda contribuir a la protección de los alumnos.
Además, el documento veta los acompañantes virtuales y las funciones diseñadas para generar apego emocional o dependencia. También impide que los productos busquen prolongar la interacción de los estudiantes más allá del tiempo necesario para una actividad educativa.
Qué pasa en Chile y el vacío legal
La medida ocurre en un contexto de suspensión durante un año del uso estudiantil de estas herramientas en los sistemas escolares de Nueva York y Los Ángeles. Ambos distritos revisarán sus contratos y recursos tecnológicos antes de ampliar su uso. La medida alcanza a primaria y secundaria en Nueva York, y también a la educación media en Los Ángeles.
En Chile no existe una legislación específica que regule el uso de inteligencia artificial en las escuelas. El acuerdo entre Microsoft y la AFT podría servir de referencia para el sector, ante la falta de normas federales y estatales en Estados Unidos.
La presidenta de la AFT, Randi Weingarten, definió el pacto como el primero de este tipo. “Queremos que los padres tengan control sobre la educación de sus hijos”, dijo a la agencia. Weingarten agregó que los docentes también deben conservar esa capacidad de decisión, en lugar de dejarla en manos de la tecnología educativa.
Formación docente y presión sobre otras empresas
La iniciativa fue presentada en la sede de la Federación Unida de Docentes, filial neoyorquina de la AFT. Allí funciona la Academia Nacional de Instrucción sobre Inteligencia Artificial para docentes, que comenzó sus actividades hace un año. El programa recibió USD 23 millones de Microsoft, OpenAI y Anthropic.
Josh Golin, director ejecutivo de Fairplay, organización de seguridad en línea, consideró que las medidas incluidas en el acuerdo tienen valor. Aun así, advirtió que su alcance dependerá de que otras empresas, en especial las grandes compañías tecnológicas, asuman obligaciones similares.
Google, principal proveedor de tecnología educativa para escuelas estadounidenses, no confirmó si adoptará las mismas condiciones. La AFT también contactó a Google antes de anunciar el acuerdo, con la expectativa de que se sumara. La compañía no respondió a una consulta de la agencia sobre la posibilidad de adoptar protecciones equivalentes.
Weingarten afirmó que mantiene conversaciones con OpenAI y Anthropic para alcanzar convenios similares. OpenAI, creadora de ChatGPT, calificó el pacto como “un avance importante para la seguridad y la privacidad de la inteligencia artificial en las escuelas”. Anthropic, desarrolladora de Claude, declaró que respalda las iniciativas orientadas a un uso responsable de la inteligencia artificial en la educación.
Con información de Infobae
