Anthropic detalla cómo construir agentes de IA que trabajan sin supervisión
La guía, publicada el 13 de noviembre, describe una arquitectura para agentes que actúan con los accesos del usuario mientras nadie vigila.
Anthropic, la empresa creadora del modelo Claude, publicó el 13 de noviembre una guía técnica para desarrollar agentes de inteligencia artificial que operan de forma continua, incluso cuando el usuario no está interactuando. El documento, firmado por William Hu, está dirigido a programadores que trabajan sobre la plataforma de Anthropic y describe una arquitectura, no un producto nuevo. Para el público chileno, la guía no tiene aplicación directa por ahora, pero muestra hacia dónde va la industria: agentes que toman decisiones con los permisos del usuario.
Cinco componentes de un agente siempre activo
La guía define a estos agentes como sistemas que conservan su estado entre sesiones y actúan por iniciativa propia, sin esperar una instrucción en cada paso. Sin embargo, el nombre puede engañar: el agente pasa la mayor parte del tiempo inactivo y despierta solo ante eventos concretos. El ciclo básico es el mismo de cualquier agente, pero la infraestructura que lo rodea es distinta.
Anthropic organiza esa infraestructura en cinco piezas. La primera es una bandeja de eventos, generalmente una tabla en una base de datos que recibe avisos de webhooks, tareas programadas y procesos en segundo plano. La empresa recomienda confirmar la recepción de inmediato, descartar duplicados con el identificador de cada fuente y asignar un solo trabajador por bandeja para evitar que dos procesos se pisen. Las revisiones más costosas, como detectar intentos de inyectar instrucciones maliciosas, se postergan hasta la ejecución.
El segundo componente son los temporizadores: seguimientos que el agente se fija a sí mismo, como volver a revisar si el usuario respondió, y tareas recurrentes, como un boletín diario. Un programador revisa cuáles vencen y los convierte en eventos. El tercero es la memoria, un almacén persistente, a menudo un directorio de archivos, con instrucciones del usuario, mensajes enviados y el avance de las tareas. La guía sugiere guardar solo lo que el agente no puede consultar en otra parte y propone un proceso llamado dreaming, que revisa sesiones pasadas para reemplazar entradas obsoletas y detectar patrones.
Permisos: el punto más delicado
El cuarto componente son los permisos, que la propia guía considera el área de mayor riesgo. Como cada ejecución usa los accesos del usuario y ocurre sin supervisión, Anthropic propone tres resguardos. El primero es un proxy de credenciales fuera del entorno del agente: el modelo envía solicitudes sin credenciales y el proxy las agrega después, de modo que el modelo nunca las ve. El segundo es un modo automático en que clasificadores revisan las acciones de mayor riesgo y bloquean las peligrosas. El tercero son las llamadas diferidas: la ejecución se detiene hasta que el usuario apruebe una acción, mientras el agente sigue atendiendo otros eventos. Aun así, la guía sostiene que las decisiones más importantes requieren revisión humana.
El quinto componente es la bandeja de salida, los mensajes que el agente envía al usuario. Para la mayoría de los casos basta una herramienta de envío directa. Sobre los mensajes, el texto advierte que un agente que escribe demasiado se vuelve ruido y uno que escribe poco deja pasar información importante. Recomienda empezar con pocos mensajes, ganarse la atención del usuario con el tiempo y usar evaluaciones para calibrar el volumen.
Costos y límites de la guía
En costos, cada ejecución vuelve a cargar las instrucciones del sistema, las herramientas y la memoria, por lo que la guía aconseja mantener ese contexto liviano y usar la caché de prompts. En sesiones largas propone compactar los mensajes antiguos o abrir una sesión nueva, y advierte que ambas opciones pierden detalle. La guía cita que, en una prueba de programación de largo plazo, Opus 5.5 costó 78% menos por tarea resuelta que Opus 5, frente a 40% menos en cargas habituales. Es una comparación entre modelos, no una medición de la arquitectura descrita.
La guía llega cuando otros laboratorios también apuestan por agentes que trabajan entre conversaciones, como los dots de ChatGPT que OpenAI presentó en octubre. Sin embargo, el propio autor presenta el esquema como la versión más simple y reconoce que los detalles de implementación pueden complicarse. Por ahora, son recomendaciones de diseño sin datos de rendimiento ni casos de clientes.
Con información de DiarioTI