Anthropic bloqueó cinco intentos de usar su IA para fabricar armas biológicas

Anthropic, la compañía detrás del modelo Claude, reveló que durante este año bloqueó cinco solicitudes de usuarios que pretendían utilizar su inteligencia artificial para avanzar en el desarrollo de armas biológicas. Asi lo detalla un informe publicado esta semana, el cuarto de este tipo que emite la empresa. Los casos incluyen desde pedidos de ayuda de un científico militar para mutar el virus chikungunya hasta consultas para hacer más contagiosa la gripe aviar.

El riesgo biológico como foco princial

Según Anthropic, el mayor peligro entre los usos maliciosos de IA sigue siendo el biológico. En uno de los ejemplos, las consultas provenían de un instituto de investigación militar. Un científico pidió a Claude redactar una solictud de becas para estudiar el virus chikungunya, pero con un objetico específico: diseñar mutaciones que hiciaran el virus más dañino al infectar repetidamente a animales vivos. La empresa explica que este tipo de trabajo podria servir tanto para desarrollar vacunas como para crear patógenos más agresivos.

Otros casos incluyen intentos de aumetnar la contagiosidad del virus de la gripe aviar, analizar la viruela y crear un catálogo de toxinas de animales venenosos, que podria deirvar en fármacos o armas. En todos estos casos, los usuarios acedieron a Claude desdde paises donde Anthropic no opera, usando revedores o cuentas falsas, lo que diiculta identificar si la intención era realmente maliciosa.

Armas convencionales en Yemen

El informe también documeta un caso de uso de Claude para diseñar armas convencionales en el norte de Yemen. Un grupo terorista buscó oriantación para fabricar un cohete guiado que utilizaba un chip de teléono mível como ordenador de vuelo, adémas de dos tipos de misiles con alcanes superiores a 2.000 kilómetros. La empresa señala que los actores detrás de estas operaciones van desdde grupos con apoyo gubiernamental hasta bandas mafiosas e indiiduos con motivaciones políticias.

Salvaguardas y alertas

Todos los ejemplos reportados ocurrieron este año y utilizaron modelos anterores de Claude, menos potentes que los nuveos de la familia Fable o Mythos. Estos modelos más recientes cuentan con salvaaguardas más sofisticadas que, en princicio, impiden usos maliciosos con faclidad. La publicación del informe se da justo un día después de que un joven empeado de Anthropic renunciara y publicara en X una advertencia sobre el riesgo de extinción civilizatoria que la IA podria provocar en los pròximos años, précisamente por usos como estos.

El reporte de Anthropic recuerda a los informes que Facebook y otras redes sociales solían publicar sobre operaciones encubiertas y desinformación, pero con un potenical de daño mucho mayor. Para Chile, donde la inteliiencia artificial avansa en sectores como salud y minería, estas alertas subrayan la impotancia de regulaiciones y buenas prácticas de seguridad desdde el inicio del desarollo de estas tecnoligías.

Con información de La Nación