Goodfire lanza monitoreo interno de IA para bajar costos de seguridad
En vez de pagar por una segunda IA que revise todo, la startup monitorea el modelo por dentro y solo alerta si algo es sospechoso.
La seguridad de los agentes de inteligencia artificial es un tema que empieza a preocupar a empresas chilenas que integran estas herramientas. Hasta ahora, la fórmula más común para evitar errores o malos usos era contratar a un segundo modelo de IA para que revisara todo lo que hacía el primero, un proceso caro y lento. La startup Goodfire acaba de presentar una alternativa que promete cambiar las reglas del juego.
En lugar de leer el resultado final, el sistema de Goodfire se “asoma” al interior del modelo mientras trabaja. Revisa cómo se activan sus neuronas y qué patrones internos sigue para tomar decisiones. Solo cuando detecta algo que no calza, pide refuerzos: una IA más grande o un humano. Esto se conoce como “monitoreo internista” o mechanistic interpretability, un enfoque que busca entender el funcionamiento interno de la caja negra en vez de solo observar sus salidas.
La promesa es clara: menos gasto en poder de cómputo y en APIs de terceros. En lugar de pagar por cada transacción que revisa un segundo modelo, solo se paga por el monitoreo interno, que es más liviano, y ocasionalmente por la verificación externa. Para una startup chilena que usa agentes de IA para atención al cliente o automatización, esto podría significar una baja significativa en los costos operativos.
¿Cómo funciona el “vistazo” interno?
Goodfire entrena un monitor que se acopla al modelo de IA. Este monitor aprende a reconocer las señales internas de un comportamiento riesgoso, como generar código malicioso o entregar información errónea. Al estar integrado, es mucho más rápido que esperar a que el agente termine su tarea y luego hacerla revisar.
¿Qué significa esto para Chile?
Aunque Goodfire es una empresa extranjera, su tecnología ataca un problema global: el alto costo de implementar agentes de IA de forma segura. En Chile, donde el ecosistema de startups y la adopción empresarial de IA crece rápido, tener una opción más barata para la seguridad podría acelerar el uso de agentes autónomos en áreas como fintech, logística y servicio al cliente. Por ahora, la herramienta está en fase de lanzamiento y no se ha anunciado disponibilidad específica para la región, pero la tendencia que marca es clara: la seguridad no tiene por qué costar el doble.
La propuesta de Goodfire se suma a un debate más amplio en la industria. Mientras algunos apuestan por modelos más grandes y caros que se autorregulan, otros, como esta startup, buscan eficiencia. Para el usuario final en Chile, la noticia es positiva: la presión por bajar los costos de seguridad significa que las herramientas de IA serán no solo más potentes, sino también más accesibles y confiables.
Con información de TechCrunch
