Anthropic detecta usos maliciosos de Claude: virus, toxinas y propaganda iraní

La empresa de inteligencia artificial Anthropic, creadora del modelo Claude, identificó una serie de usos maliciosos de su tecnología que van desde investigaciones relacionadas con virus y toxinas hasta campañas de propaganda y operaciones de influencia coordinadas por actores vinculados con Irán. El hallazgo fue hecho público por la misma compañía en las últimas semanas, aunque no se entregaron fechas exactas de los incidentes ni el número de casos detectados.

Investigación sobre armas biológicas y desinformación

Según el reporte de Anthropic, actores malintencionados utilizaron Claude para obtener información sobre la fabricación de virus y toxinas, lo que podría facilitar el desarrollo de armas biológicas. Además, se detectaron campañas de propaganda y operaciones de influencia coordinadas por grupos vinculados a Irán, que aprovecharon las capacidades del modelo de lenguaje para generar contenido engañoso y manipular la opinión pública en distintas regiones.

Estos usos no son aislados: Anthropic señaló que la inteligencia artificial generativa, como Claude, puede ser empleada para redactar textos persuasivos, crear perfiles falsos en redes sociales y automatizar la difusión de desinformación a gran escala. La empresa trabaja en mecanismos de seguridad para evitar estos abusos, pero reconoce que el riesgo persiste mientras la tecnología esté disponible.

¿Qué relevancia tiene esto para Chile?

Si bien los hechos ocurrieron fuera del país y no hay evidencia de que afecten directamente a usuarios chilenos, el caso subraya un desafío global que también toca a Chile. La inteligencia artificial se usa cada vez más en campañas políticas locales, y la capacidad de generar desinformación o interferir en procesos electorales es una preocupación real para la autoridad chilena. La Superintendencia de Electricidad y Combustibles (SEC) y otros organismos locales ya han comenzado a evaluar marcos regulatorios para la IA, pero este tipo de incidentes muestra que la prevención debe ser constante.

Además, la posibilidad de que modelos como Claude sean utilizados para investigar armas biológicas resalta la necesidad de controles éticos y técnicos en el desarrollo de IA. En Chile, centros académicos y empresas tecnológicas trabajan en sistemas de inteligencia artificial, y el caso de Anthropic sirve como advertencia sobre los riesgos de una tecnología que, bien usada, puede mejorar la productividad y la salud, pero mal usada, poner en peligro la seguridad.

Anthropic no detalló las acciones legales o técnicas tomadas contra los responsables, pero afirmó que colabora con autoridades internacionales para mitigar estos usos. Mientras tanto, el debate sobre cómo regular la inteligencia artificial sin frenar la innovación sigue abierto, y Chile no es ajeno a esa discusión.

Con información de Wired en Español