ONU pone el dedo en la llaga: ¿quién responde cuando una IA se equivoca?

La inteligencia artificial avanza a pasos agigantados y cada vez toma más decisiones sin que una persona revise cada paso. Eso abre una pregunta incómoda y sin respuesta clara: si un sistema autónomo comete un error y causa un daño, ¿quién paga el pato? Para la ONU, la respuesta no puede ser la máquina, sino alguien de carne y hueso.

El problema de la autonomía

Volker Türk, Alto Comisionado de las Naciones Unidas para los Derechos Humanos, publicó el 14 de septiembre una carta en la que pone el foco sobre los sistemas capaces de recibir un objetivo, decidir cómo cumplirlo y ejecutar varias acciones por su cuenta. Esa autonomía —que hoy se ve en asistentes virtuales, vehículos autónomos o algoritmos financieros— plantea un dilema jurídico y ético que todavía no se resuelve.

Türk advierte que, si el sistema se equivoca, la responsabilidad no puede recaer en la propia IA. Una máquina no puede rendir cuentas ni ir presa. Por eso, la ONU propone que siempre exista una persona identificable con autoridad para intervenir, modificar o detener el sistema. Esa persona debe estar disponible antes, durante y después de la operación del sistema.

Lo que pide la ONU

El documento de Türk no se queda en el diagnóstico. Plantea controles concretos: evaluaciones de seguridad previas a la puesta en marcha, supervisión independiente, y mecanismos para reportar e investigar incidentes graves. La idea es que las empresas demuestren que tienen las medidas adecuadas para controlar los riesgos y que los gobiernos establezcan reglas claras sobre el desarrollo y uso de estas tecnologías.

Esto no es solo teoría. Cuando un sistema autónomo tiene acceso a servicios o infraestructuras que afectan a otras personas —como procesos financieros, distribución de energía o sistemas de salud— un error deja de ser una respuesta incorrecta en un chat y se convierte en un problema concreto que puede perjudicar a mucha gente.

¿Y Chile qué?

Si bien la carta de Türk es un pronunciamiento global, Chile —como miembro de la ONU y firmante de tratados de derechos humanos— debería mirar con atención estas recomendaciones. Hasta ahora el país no tiene una ley específica sobre inteligencia artificial, aunque el gobierno presentó una Política Nacional de IA en 2021. La discusión que abre la ONU apunta directo al corazón de la regulación futura: no se trata solo de qué tan inteligente es la inteligencia artificial, sino de definir quién responde cuando algo sale mal.

Para el organismo internacional, esa responsabilidad debe estar siempre en manos de las personas. La pregunta ahora es si Chile y el resto del mundo están preparados para responder cuando la máquina se equivoca.

Con información de Enter.co