Helen Toner: regular la IA no frena la innovación, la ordena

Helen Toner, directora ejecutiva del Center for Security and Emerging Technology (CSET) de la Universidad de Georgetown, plantea que la regulación de la inteligencia artificial no es un freno para el desarrollo, sino una forma de ordenar el avance tecnológico. En una conversación reciente —parte de una serie sobre IA en la vida real—, Toner abordó los dilemas que enfrentan gobiernos y empresas al momento de poner límites a sistemas que cada vez influyen más en decisiones cotidianas.

¿Quién es Helen Toner y por qué importa?

Toner es una figura reconocida en la comunidad de seguridad y políticas de IA. Fue directora de políticas en OpenAI, la empresa creadora de ChatGPT, y hoy lidera el CSET, un centro que investiga los riesgos y oportunidades de las tecnologías emergentes. Su experiencia la convierte en una voz clave en el debate global sobre cómo gobernar la inteligencia artificial sin sofocar la innovación. Para Chile, donde el Congreso discute un proyecto de ley sobre IA desde 2023, las reflexiones de Toner ofrecen pistas sobre qué tipo de regulación podría funcionar en un país que busca equilibrar el desarrollo tecnológico con la protección de derechos.

Regular para prevenir, no para castigar

En la entrevista, Toner sostuvo que la regulación debe centrarse en prevenir daños concretos —como sesgos algorítmicos, desinformación o vigilancia masiva— y no en castigar después de que ocurran. Dijo que los marcos legales necesitan ser flexibles para adaptarse a la velocidad de la tecnología, pero también lo suficientemente firmes para que las empresas no antepongan sus ganancias a la seguridad de las personas. En Chile, la discusión legislativa ha tropezado con la falta de definiciones claras sobre qué sistemas se consideran de alto riesgo y quién fiscalizará su cumplimiento. Toner no mencionó casos locales, pero su enfoque sugiere que una agencia reguladora independiente y con expertos técnicos sería más efectiva que dejar la tarea solo a ministerios sin especialización.

El dilema de la transparencia

Otro punto que abordó fue la transparencia de los modelos de IA. Toner señaló que las empresas deberían estar obligadas a revelar cómo entrenan sus algoritmos, qué datos usan y cómo evalúan los riesgos antes de lanzar un producto al mercado. Esto, dijo, permitiría a los reguladores y a la sociedad civil auditar los sistemas y exigir correcciones. En Chile, por ahora, no existe una norma que exija esa transparencia, y las empresas que operan en el país —tanto locales como extranjeras— no tienen obligación de publicar sus metodologías. La propuesta de Toner podría servir de insumo para que el proyecto de ley chileno incorpore requisitos de auditoría externa, algo que organizaciones como Derechos Digitales ya han solicitado.

La conversación con Toner no entregó fechas ni cifras concretas sobre avances legislativos, pero sí dejó claro que la ventana para regular se está cerrando. Mientras la IA se integra en sistemas de salud, educación y justicia, la falta de reglas aumenta los riesgos de usos indebidos. Para Chile, el mensaje es que no hay que esperar a que ocurra un desastre para actuar.

Con información de The Verge