Regular solo lo catastrófico no basta: el daño cotidiano de la IA

Durante años, el debate sobre la regulación tecnológica se ha medido con una vara demasiado baja: que un chatbot no incite al suicidio o que una red social dificulte la compra de fentanilo a menores. Son protecciones necesarias, pero insuficientes. Mientras las empresas cumplan esos mínimos, pueden seguir diseñando productos que fomentan la dependencia emocional de jóvenes con amigos simulados o los atrapan en feeds diseñados para mantenerlos desplazándose sin parar. El problema no es solo lo catastrófico, sino el daño insidioso que ocurre a diario.

El costo invisible de la conveniencia

Un tercio de los adolescentes hoy prefiere discutir temas serios con un compañero de inteligencia artificial (IA) antes que con otra persona. Investigadores del MIT detectaron que los jóvenes que usan ChatGPT para escribir ensayos muestran una conectividad cerebral más débil durante la tarea, y que esa “deuda cognitiva” persiste incluso después de terminar. Una cosa es que un producto cumpla requisitos de seguridad; otra muy distinta es que erosione la forma en que pensamos, aprendemos e interactuamos.

Sam Hiner, cofundador de la Young People’s Alliance, coordinó una coalición que logró aprobar leyes sobre compañeros de IA en ocho estados de EE.UU. durante 2026, entre ellas la SB1119 de California. Hiner, graduado en 2025 de la Universidad de Carolina del Norte en Chapel Hill e incluido este año en la lista Forbes 30 Under 30 en Impacto Social, sostiene que las empresas tecnológicas han trabajado activamente para definir el éxito regulatorio solo en torno a los desastres evitables. “Tomar medidas para evitar desastres espectaculares es bueno para los negocios: significa menos demandas y menos presión para una regulación seria”, explica. Enfrentar las consecuencias cotidianas de la dependencia requeriría algo mucho más amenazante para sus ganancias: añadir fricción a los productos o limitar funciones adictivas como los algoritmos de captura de atención.

El libreto que se repite

Este año, Google respaldó proyectos de ley para regular chatbots de IA en varios estados de EE.UU. La legislación exigía protecciones básicas contra contenido sexual y promoción de autolesiones —que las empresas debieron haber implementado de todas formas—, pero con exenciones amplias que podrían dejar fuera a los servicios más populares. Aprobar esas leyes permitió a los legisladores reclamar un triunfo en seguridad, mientras fracasaban iniciativas más fuertes diseñadas para evitar que los niños se volvieran emocionalmente dependientes de la IA. La estrategia funcionó en estados como Nebraska, produciendo una legislación fuertemente influenciada por la industria a costa de proyectos que habrían exigido mayor responsabilidad a las empresas.

El patrón ya se vivió con las redes sociales. A nivel global, los usuarios de internet pasan en promedio más de dos horas al día en estas plataformas, tiempo arrancado a la vida cotidiana y entregado a compañías cuyas ganancias dependen de mantenernos ahí. Los algoritmos de Meta han sido señalados por contribuir al genocidio rohingya en Myanmar, a disturbios antimusulmanes en Sri Lanka y a presuntos llamados a la violencia durante la guerra en Tigray, Etiopía. La IA está extendiendo esa lógica a áreas que las redes sociales solo podían influir desde lejos: ahora escribe nuestros pensamientos y suplanta a las personas a las que antes recurríamos.

Exigir más que la ausencia de desastres

Para Hiner y Emma Leiken, directora ejecutiva de R, la solución no es conformarse con la seguridad como techo. “Deberíamos exigir seguridad como mínimo, sí, y luego exigir considerablemente más”, plantean. Proponen que las empresas tecnológicas y los distritos escolares deban demostrar más allá de toda duda razonable que la IA mejora el aprendizaje y el pensamiento crítico antes de instalarla en las salas de clases. Sugieren prohibir que los compañeros de IA finjan ser conscientes o profesen amor a los usuarios, y someter esos sistemas a escrutinio independiente sobre cómo afectan las relaciones y la capacidad de pensar por uno mismo.

Para Chile, donde el uso de asistentes de IA como ChatGPT es masivo y sin regulación específica, la advertencia es pertinente. Aunque los hechos ocurren en Estados Unidos, el mismo dilema se replica aquí: no hay normas que impidan que un adolescente chileno desarrolle un vínculo dañino con un chatbot o que un estudiante delegue su pensamiento crítico a un algoritmo. La experiencia estadounidense muestra que, si no se amplía la mirada, las empresas seguirán cumpliendo la letra de la ley mientras vacían de contenido la vida cotidiana.

Con información de MIT Technology Review