Consejo de Meta ordena retirar deepfakes y llama ‘inadecuada’ a su política de IA

El Consejo de Supervisión de Meta —el organismo independiente creado por la empresa en 2020— publicó el 17 de septiembre dos resoluciones que ordenan retirar videos de deepfake, contenido generado por inteligencia artificial que simula ser real. En los documentos, el Consejo califica la política actual de IA generativa de Meta como «consistente y fundamentalmente inadecuada» para enfrentar el rápido auge de este tipo de material. Meta tiene 60 días para responder y decidir si implementa las nueve recomendaciones que acompañan las resoluciones.

Dos casos que exponen un vacío sistémico

El primer caso ocurrió en Escocia: en noviembre de 2025, un usuario de Facebook publicó un video deepfake de una concejala del Partido Laborista haciendo comentarios inflamatorios y ofensivos sobre refugiados y agresión sexual que ella nunca pronunció. La concejala, que ha denunciado públicamente la desinformación racista y había reportado amenazas previas, incluida difamación generada por IA, se topó con la respuesta de Meta: la empresa determinó que el contenido no violaba sus normas porque las figuras públicas adultas no están «automáticamente protegidas frente a imágenes manipuladas no deseadas». El Consejo anuló esa decisión y ordenó la retirada.

El segundo caso tiene como protagonista a una joven musulmana en Europa que participó en una campaña de educación sobre salud menstrual. Videos e imágenes manipulados con IA la ridiculizaban —uno la mostraba haciendo ejercicios absurdos y comiendo comida chatarra— y acumularon decenas de millones de visualizaciones en las plataformas de Meta. La empresa cerró automáticamente el primer reporte y la apelación; solo retiró el contenido después de que el Consejo interviniera, determinando que violaba la política de bullying y acoso.

La co-presidenta del Consejo, Pamela San Martin, resumió el patrón: «Desde políticas hasta ciudadanas privadas, los deepfakes generados por IA se usan cada vez más para acosar y silenciar a las mujeres en el discurso público. Estos casos demuestran un patrón más amplio y preocupante en el que las mujeres que participan públicamente en cuestiones de actualidad sufren de forma desproporcionada acoso y desinformación».

Nueve recomendaciones que apuntan al corazón del negocio de Meta

Entre las recomendaciones más significativas están: bajar el umbral para las etiquetas de «IA de Alto Riesgo» más allá de crisis y elecciones; añadir una pantalla de clic-para-ver en lugar de solo una etiqueta; degradar o desmonetizar el contenido marcado; penalizar las cuentas que lo recomparten de forma repetida; publicar datos anuales de etiquetado; y ampliar la definición de «imágenes manipuladas no deseadas» para cubrir deepfakes de personas privadas diciendo o haciendo cosas que nunca dijeron ni hicieron. Si Meta implementara estos cambios, limitaría su propio modelo de negocio en el tratamiento del contenido de IA generativa. El historial del Consejo muestra que Meta acepta la mayoría de las órdenes de retirada de contenido, pero es mucho más selectiva con las recomendaciones sistémicas; se espera que al menos algunas sean rechazadas con argumentos de libertad de expresión o complejidad técnica.

El dilema regulatorio global y lo que significa para Chile

El problema que ilustra el caso de la concejala escocesa es el mismo que aborda el AI Act europeo: desde el 2 de agosto de 2026, esa norma obliga a etiquetar el contenido generado por IA que intente parecer auténtico, bajo multas de hasta el 3% de la facturación global. En el caso de Meta, fue su propia política la que decidió que el deepfake no requería etiqueta. Mientras tanto, el Tribunal Superior Electoral de Brasil intenta definir qué es un deepfake a cinco semanas de las elecciones de octubre de 2026, lo que muestra que el debate que enfrenta el Consejo de Supervisión con Meta es la versión de plataforma privada de una discusión regulatoria que ocurre simultáneamente en la mayoría de las democracias del mundo.

Aunque los casos ocurren fuera de Chile, el dilema es relevante: crear un deepfake convincente ya está al alcance de cualquiera con un portátil y 15 minutos, y la velocidad de creación ha superado a la de detección. Mientras la detección automatizada no avance al mismo ritmo, la línea de defensa son las políticas de las plataformas, que es exactamente lo que el Consejo pide reforzar. En Chile, donde el debate sobre la inteligencia artificial recién comienza a tomar forma, estos episodios ofrecen lecciones concretas sobre los riesgos de una política insuficiente. Meta tiene 60 días para responder; sus decisiones marcarán el rumbo de la moderación de contenido generado por IA a nivel global.

Con información de WWWhat's new