Adolescentes traumatizados demandan a colegio y policía tras falsa alarma de IA por bolsa de Doritos
Cuatro estudiantes afroamericanos de enseñanza media en Baltimore demandan al distrito escolar y a la policía después de que un sistema de IA confundiera una bolsa de Doritos con un fusil, desatando un enfrentamiento traumático en el campus.
En octubre de 2025, cuatro estudiantes afroamericanos de enseñanza media compartían una bolsa de Doritos Cool Ranch después de la práctica de fútbol americano, esperando que los fueran a buscar. En ese momento de relajo, el sistema de inteligencia artificial para detección de armas del colegio identificó a uno de los jóvenes como un potencial tirador. El objeto que gatilló la alerta no era un fusil, sino una bolsa de papas fritas.
Dos minutos para darse cuenta del error
En menos de dos minutos, funcionarios del distrito escolar de Baltimore County revisaron las imágenes de las cámaras de seguridad vinculadas a la alerta y determinaron que no había ninguna amenaza real. Reconocieron la bolsa de Doritos y cancelaron la alerta, que ya había sido enviada a otros funcionarios escolares y también al Departamento de Policía de Baltimore County. El mensaje indicaba que no se requería respuesta policial.
La falsa alarma pudo haber terminado ahí, pero no fue así. Los estudiantes, traumatizados por el enfrentamiento con la policía que ocurrió después, presentaron una demanda contra el distrito escolar y el departamento de policía. El hecho fue revelado por el medio The Trace, que investigó el caso y obtuvo los registros internos del distrito escolar.
El riesgo de delegar seguridad en la IA
Este tipo de sistemas de detección de armas con inteligencia artificial se están instalando en cientos de escuelas de Estados Unidos como una medida para prevenir tiroteos masivos. Sin embargo, casos como este muestran que la tecnología aún tiene fallos graves: puede confundir objetos cotidianos con armas de fuego y activar protocolos que involucran a la policía sin suficiente revisión humana.
Para Chile, donde también se han instalado sistemas de reconocimiento facial y vigilancia con IA en espacios públicos y establecimientos educacionales, este caso es una advertencia. Si la tecnología no está calibrada con estándares altos y supervisión humana real, puede generar falsas alarmas que pongan en riesgo a estudiantes, especialmente a aquellos de grupos históricamente estigmatizados.
El incidente en Baltimore no dejó heridos ni detenidos, pero sí dejó en evidencia que la velocidad de la IA no siempre va acompañada de precisión. La pregunta que queda abierta es si las escuelas chilenas están preparadas para evaluar estos riesgos antes de implementar sistemas similares.
Con información de Ars Technica