Circuit Breaker Labs lanza maniquíes de choque contra el daño psicológico de la IA

Mientras el debate público se concentra en la posibilidad de que la inteligencia artificial (IA) provoque un desastre futuro, ya hay personas que han sufrido daño psicológico producto de su interacción con estos sistemas. La empresa Circuit Breaker Labs creó los “crash-test dummies” (maniquíes de prueba de choque) para hacer frente a este problema, según información reciente.

La propuesta toma prestado un concepto clásico de la industria automotriz: los maniquíes usados para evaluar el impacto de un accidente. Aquí, en lugar de medir daños físicos, buscan medir el daño emocional que una IA puede infligir a un usuario. Esto incluye desde respuestas groseras hasta actitudes que generan ansiedad o baja autoestima. La idea es detectar estos fallos antes de que lleguen a personas reales.

Para entender la magnitud del problema, basta con pensar en los asistentes virtuales que usan millones de personas. Una respuesta mal redactada o un error inesperado pueden provocar frustración, y en casos extremos, desencadenar cuadros de estrés. Aunque no hay estudios concluyentes, el daño psicológico es un riesgo real que hasta ahora había sido pasado por alto en el diseño de sistemas.

El costo emocional de la IA

El daño psicológico no se ve a simple vista, pero puede ser profundo. Un chatbot que no entiende una situación de crisis, un asistente que discrimina a ciertos usuarios o un sistema de recomendación que muestra contenido perturbador son ejemplos cotidianos de cómo la IA afecta la salud mental. En Chile, donde cada vez más empresas usan atención automática, el riesgo es latente, aunque no hay estadísticas locales.

Circuit Breaker Labs no es una compañía tradicional de IA, sino que se ha enfocado en crear estas herramientas de prueba. Su nombre sugiere un “cortacircuitos” para cortar con los malos usos de la tecnología. Al probar los sistemas como si fueran automóviles en un crash test, se pueden identificar los puntos débiles que lastiman emocionalmente a las personas.

Una lección para los desarrolladores chilenos

Aunque no se sabe si estos maniquíes estarán disponibles en Chile o en español, la iniciativa abre una pregunta necesaria: ¿quién está evaluando el impacto psicológico de la IA que se usa en el país? Los desarrolladores locales podrían adoptar prácticas similares para asegurar que sus productos no dañen a los usuarios, como parte de una estrategia de seguridad más completa.

La noticia de Circuit Breaker Labs recuerda que la ética en IA no solo trata de evitar que las máquinas se rebelen, sino de cuidar a quienes ya conviven con ellas. La tecnología avanza rápido, y la prevención del daño psicológico es una deuda pendiente. En países como Chile, la discusión sobre ética en IA recién comienza, y casos como este deberían servir de ejemplo para que las autoridades y las empresas locales actúen de manera preventiva.

Con información de TechCrunch