Anthropic abre sus sistemas a evaluadores externos por riesgo catastrófico
La empresa de Claude permite a METR acceder a su hardware y sistemas internos para fiscalizar la seguridad de sus modelos.
Anthropic, la compañía detrás del asistente Claude, dio un paso concreto en materia de transparencia: otorgó a evaluadores externos un acceso similar al de sus propios empleados para revisar los riesgos de sus modelos de inteligencia artificial. La medida responde al compromiso que la empresa había asumido de reforzar las salvaguardas ante la preocupación de que la tecnología pueda descontrolarse de forma catastrófica.
Evaluadores con acceso directo a los sistemas
METR, una organización sin fines de lucro que ha trabajado con laboratorios líderes como OpenAI, Google y Meta, ahora tiene un equipo instalado en las oficinas de Anthropic. Ese equipo puede acceder al hardware y a los sistemas internos de la compañía, algo que hasta ahora solo tenían los trabajadores de la firma.
El rol de evaluadores externos es una de las pocas medidas concretas que los grandes laboratorios han propuesto frente al creciente temor de que sistemas de IA más capaces puedan poner en riesgo la economía, la ciberseguridad o incluso a la humanidad en su conjunto.
¿Qué significa esto para Chile?
Por ahora, la iniciativa es interna de Anthropic y no tiene un efecto directo en el uso de Claude en Chile. Sin embargo, muestra una tendencia global hacia una fiscalización más estricta de la inteligencia artificial, algo que podría influir en futuras regulaciones locales o en exigencias de transparencia para empresas que operen en el país.
La decisión de Anthropic llega en un momento en que gobiernos y organizaciones internacionales discuten cómo controlar el desarrollo de la IA sin frenar la innovación. En Chile, el debate recién comienza a tomar forma, con proyectos de ley y guías éticas en etapas tempranas.
Un precedente para la industria
Que una empresa como Anthropic permita que externos revisen sus sistemas marca un precedente. Hasta ahora, los laboratorios solían hacer evaluaciones internas o encargar auditorías limitadas. Con este movimiento, la compañía busca demostrar que toma en serio los riesgos existenciales que algunos expertos asocian a la inteligencia artificial avanzada.
No hay cifras ni fechas concretas sobre cuánto durará esta supervisión externa ni si otras empresas seguirán el mismo camino. Pero el hecho de que METR —una organización que ya audita a OpenAI, Google y Meta— tenga acceso físico y digital a los sistemas de Anthropic sugiere que la presión por una mayor transparencia sigue creciendo.
Con información de Ars Technica
