Anthropic propone a METR como supervisor independiente de IA
La firma de Dario Amodei busca que METR evalúe riesgos de modelos avanzados, en medio del debate global sobre control.
El CEO de Anthropic, Dario Amodei, propuso que la organización sin fines de lucro METR (Model Evaluation and Threat Research) tenga un rol central en la supervisión independiente de sistemas de inteligencia artificial. En una carta pública, Amodei pidió mecanismos de control más estrictos para modelos que podrían generar riesgos graves para la sociedad, y sugirió permitir acceso permanente a auditores externos.
¿Qué es METR y de dónde viene?
METR es una organización dedicada a evaluar científicamente capacidades y riesgos de la IA, especialmente aquellos que podrían ser catastróficos. Su trabajo más conocido es medir cuánto tiempo de trabajo humano puede completar un agente de IA de forma autónoma, una métrica clave para sistemas agénticos (aquellos que ejecutan tareas complejas con poca intervención humana).
La organización nació como ARC Evals, un equipo del Alignment Research Center (ARC) dirigido por Paul Christiano, exinvestigador de OpenAI. En 2023 se independizó y su CEO, Beth Barnes, junto a su equipo, incluye exempleados de OpenAI, Anthropic y Google DeepMind.
Financiamiento y críticas a su independencia
METR recaudó 71 millones de dólares en seis meses mediante donaciones de fundaciones como Sijbrandij Foundation, Schmidt Sciences y organizaciones vinculadas al movimiento Effective Altruism. Afirma no aceptar financiación de las empresas cuyos modelos evalúa, aunque recibe acceso a modelos y tokens de OpenAI, Anthropic, Google DeepMind y Meta para realizar pruebas.
Sus vínculos con el ecosistema de grandes compañías han generado críticas. David Sacks, asesor tecnológico de la Administración Trump, cuestionó su independencia por sus conexiones con personal e inversores de Anthropic. También hay acusaciones de que Anthropic y METR buscan una regulación que perjudique a competidores y proyectos de código abierto, aunque no hay pruebas de una estrategia coordinada de captura regulatoria.
Para Chile, este debate es relevante porque el país avanza en su propia política de inteligencia artificial. La pregunta sobre qué organismo puede supervisar modelos de forma independiente será clave cuando se definan regulaciones locales, especialmente frente a sistemas cada vez más capaces que, según algunos investigadores, podrían representar amenazas graves.
Con información de Infobae
