Common Sense Media ve riesgo inaceptable en ChatGPT para jóvenes

La organización sin fines de lucro Common Sense Media, dedicada a revisar aplicaciones, servicios y entretenimiento con foco en la seguridad de niños y adolescentes, dijo hoy que ChatGPT for Teens, la versión para menores de OpenAI, es un «riesgo inaceptable». La advertencia no es una sanción estatal ni una prohibición de uso. Se trata de una evaluación independiente que busca orientar a familias y establecimientos educacionales.

Common Sense Media no tiene facultades para multar ni para suspender un servicio. Su peso está en la confianza que le otorgan quienes usan sus reseñas para decidir qué aplicaciones instalar o qué contenidos permitir. En lo práctico, la advertencia no bloquea el acceso: la decisión de usar o no la herramienta queda en manos de cada familia o institución.

Qué es ChatGPT for Teens

ChatGPT es un chatbot de inteligencia artificial que conversa con el usuario en lenguaje natural. La versión for Teens fue lanzada en agosto con salvaguardas para menores y está diseñada para que los estudiantes la usen como apoyo en el aprendizaje. Los antecedentes entregados no especifican en qué consisten esas salvaguardas.

El propósito educativo, sin embargo, no fue suficiente para la organización que la evaluó. Su conclusión es que la herramienta, tal como está presentada, implica un riesgo que no debería asumirse para un público adolescente.

Qué implica la clasificación

La expresión «riesgo inaceptable» corresponde a una evaluación de tipo privado, no a una decisión de una autoridad. Common Sense Media publica reseñas de aplicaciones, servicios y entretenimiento, y su foco está puesto en la seguridad de los menores. Esas reseñas sirven como señal para padres, apoderados y colegios, pero no reemplazan una decisión oficial.

En la práctica, una advertencia de este tipo puede influir en la decisión de una familia o de un establecimiento educacional sobre si usar o no la herramienta. La organización, por su parte, no detalla en los materiales conocidos si existen consecuencias concretas más allá de su clasificación.

Los antecedentes conocidos no incluyen una respuesta de OpenAI a esta clasificación. Tampoco precisan si la empresa hará cambios en la versión para menores.

Para el caso chileno, la evaluación no menciona datos locales. No dice si la versión for Teens está disponible en el país, si funciona en español o si tiene algún costo.

Pese a esa falta de información, la advertencia deja un antecedente para el debate sobre regulación de inteligencia artificial en Chile. Plantea que la protección de menores es un criterio central al momento de evaluar productos de IA, especialmente si se piensan para el uso escolar.

Con información de The Verge