Expertos proponen que Chile audite la IA para evitar sesgos

Chile avanza lento en la regulación de la inteligencia artificial (IA). Mientras otras economías ya tienen leyes y agencias dedicadas, en el país el tema recién comienza a tomar forma. En ese contexto, un grupo de especialistas propuso reforzar la evaluación de sesgos y riesgos de los sistemas de IA, y traducir los principios éticos de la Unesco en mecanismos concretos de auditoría, responsabilidad y reparación.

De los principios a la práctica

La propuesta parte de una constatación: que los principios éticos por sí solos no bastan. Aunque la Unesco ha definido un marco ético para la IA, Chile aún no cuenta con instrumentos que permitan verificar si los sistemas que se usan en el sector público o en el privado cumplen con esos estándares. La auditoría de la IA —es decir, la revisión sistemática de cómo funcionan los algoritmos, qué datos usan y qué resultados producen— aparece como la herramienta clave para pasar de las palabras a los hechos.

Los especialistas plantean que esa auditoría debe incluir la detección de sesgos, que son errores sistemáticos que llevan a que la IA discrimine a ciertos grupos por razones de género, raza o nivel socioeconómico. Sin una evaluación rigurosa, un sistema de IA puede perpetuar desigualdades existentes o tomar decisiones injustas, por ejemplo, al filtrar currículos o asignar créditos. En Chile, el uso de IA en decisiones públicas —como la asignación de beneficios o la priorización de atenciones— hace urgente contar con mecanismos de control.

Responsabilidad y reparación: el desafío pendiente

Otro punto central es la responsabilidad. Si un sistema de IA causa un daño —como una negación errónea de un beneficio o una recomendación médica equivocada—, debe existir un mecanismo claro para determinar quién responde: el desarrollador, la institución que usa el sistema o el propio algoritmo. Eso implica establecer reglas de rendición de cuentas, pero también vías de reparación para las personas afectadas. Sin esas vías, las personas quedan desprotegidas ante los errores de una tecnología que avanza más rápido que las normas.

La propuesta apunta a que Chile no se quede solo en declaraciones de buenas intenciones. Necesita leyes y procedimientos que permitan exigir explicaciones, corregir fallas y compensar daños. Es un paso que países como la Unión Europea ya están dando con su reglamento de IA, y que en la región aún es incipiente. Para Chile, la urgencia es doble: por un lado, porque el Estado ya usa sistemas de IA en servicios como atención ciudadana o trámites; por otro, porque el país quiere posicionarse como referente tecnológico en América Latina. Sin una regulación sólida, ese liderazgo sería frágil. El llamado de los especialistas es claro: la ética de la IA no puede quedarse en el papel.

Con información de Diario Financiero