Imágenes sexuales falsas hechas con IA: el problema crece y los filtros fallan

La inteligencia artificial generativa tiene un lado oscuro que no para de crecer. Investigadores de seguridad vienen advirtiendo que una gran cantidad de contenido explícito creado con IA se está difundiendo sin control, mientras los reguladores hacen poco para frenarlo. Un estudio de julio de este año, coescrito por Google y aplicado a usuarios de internet en Estados Unidos, Australia y Reino Unido, confirmó que este material no consentido suele compartirse por mensajes de texto o almacenarse en nubes privadas, donde es más difícil de detectar o denunciar.

Para Chile, la advertencia es relevante porque el acceso a estas herramientas es global y gratuito en muchos casos. Aunque el estudio no incluyó al país, el patrón de distribución por canales cerrados como WhatsApp o Telegram es el mismo que se ve en redes locales. No hay datos específicos para Chile, pero el problema no reconoce fronteras.

La fuente del problema: las herramientas que lo generan

Los investigadores de Google concluyeron que el “punto de intervención más crítico” sigue estando en el origen: las herramientas de IA que se usan para crear las imágenes sexuales falsas. Es decir, en lugar de perseguir el contenido ya distribuido, la prioridad debería ser evitar que se genere. Sin embargo, las pruebas recientes de red teaming —ejercicios en los que se intenta vulnerar la seguridad de un sistema— muestran que algunos de los generadores de imágenes más potentes, como los de Google y OpenAI, están empeorando en el bloqueo de resultados explícitos.

Esto significa que, a medida que los modelos se vuelven más capaces, también están fallando más en filtrar lo que no deberían producir. La ironía es preocupante: más inteligencia artificial, menos control sobre el daño que puede causar.

¿Se puede usar en Chile?

Las herramientas de generación de imágenes como Imagen de Google o DALL-E de OpenAI se pueden usar desde Chile sin costo inicial, aunque con límites de uso. Sin embargo, los filtros de seguridad no son infalibles y, como señala el estudio, pueden estar debilitándose. No hay una versión en español especialmente reforzada para el país, así que el riesgo de generar o recibir este tipo de contenido es el mismo que en cualquier otro lugar.

Por ahora, la recomendación práctica para el usuario chileno es la misma que para cualquier otro: desconfiar de imágenes que parezcan demasiado reales y reportar cualquier contenido no consentido que llegue a sus manos. Pero la solución de fondo, como dice Google, no está en la denuncia tardía, sino en cerrar la llave en la fábrica de imágenes falsas.

Con información de Ars Technica