Anthropic bloquea cinco intentos de usar su IA para fabricar armas biológicas

La empresa de inteligencia artificial Anthropic, responsable del modelo Claude, ha bloqueado varios casos de uso indebido de su tecnología que podrían haber derivado en la creación de armas biológicas. En un informe reciente, la compañía explica que decidió actuar contra determinadas consultas porque no logró determinar si la intención de los investigadores era legítima o maliciosa. Existía la posibilidad de contribuir a patógenos peligrosos, por lo que optaron por restringir el acceso a una amplia gama de consultas de investigación biológica de doble uso, es decir, estudios que pueden tener aplicaciones tanto civiles como militares.

Los cinco casos que generaron alerta

El informe detalla cinco situaciones sospechosas donde Anthropic tuvo que evaluar si un uso biológico determinado era peligroso o no. Por ejemplo, un investigador pasó semanas planificando experimentos de adaptación de la gripe aviar a mamíferos usando Claude. Otro creó un atlas de péptidos de veneno y un sistema de optimización generativa de moléculas dirigidas a objetivos paralizantes y analgésicos. La empresa suspendió las cuentas de estos usuarios e integró los resultados de su investigación en las medidas de seguridad, la aplicación de normativas y los procesos de inteligencia sobre amenazas de su modelo de vanguardia.

Anthropic señala que, aunque las evaluaciones de capacidad son útiles, no pueden demostrar de manera concreta que dicha capacidad llegaría a usarse para desarrollar armas biológicas en el mundo real. Por eso, prefirieron ser cautelosos y bloquear directamente estos casos. La empresa también incorporó los aprendizajes a sus procesos de inteligencia sobre amenazas para prevenir, detectar e interrumpir mejor estas actividades en el futuro.

Un llamado a la regulación global

La empresa espera que compartir estos datos genere un debate dentro de la industria de la IA y con los gobiernos sobre los riesgos biológicos emergentes. Anthropic admite que el mal uso biológico es uno de los riesgos más graves de los modelos de IA de vanguardia. Les preocupa especialmente que estos modelos puedan alcanzar un nivel de capacidad que les permita aumentar la peligrosidad de patógenos existentes o incluso crear otros completamente nuevos. Sin medidas de seguridad adecuadas, subrayan, tales capacidades podrían tener consecuencias catastróficas.

Para Chile, donde la inteligencia artificial avanza en sectores como la salud y la investigación, este caso es una alerta temprana. El país aún define su marco regulatorio para la IA, y experiencias como la de Anthropic muestran la importancia de incluir protocolos de seguridad frente a usos indebidos. El debate global que busca la empresa debería incluir voces locales para anticipar riesgos similares en el entorno chileno. Además, la Ley Marco de Ciberseguridad y otras iniciativas pueden beneficiarse de estos aprendizajes para fortalecer la protección contra amenazas emergentes.

Con información de ABC