OpenAI aplicará marca de agua a ChatGPT en la UE, no en Chile

OpenAI anunció que aplicará una marca de agua automática a los textos que ChatGPT genere en la Unión Europea. La función se activará por defecto solo en ese bloque; en el resto del mundo estará disponible, pero apagada. La razón, según la compañía, es cumplir con la ley de inteligencia artificial de la UE, que empezó a regir en agosto.

Esa ley obliga a que los contenidos producidos por modelos de IA puedan ser identificados por otra herramienta. La marca de agua es el mecanismo que OpenAI eligió para cumplir con esa exigencia. En Chile, en cambio, no habrá una obligación similar, así que la función no se encenderá automáticamente.

Qué es textGrain

La herramienta se llama textGrain. Es un método propio de OpenAI y la empresa publicó un documento técnico para explicar su funcionamiento. En la práctica, funciona como otras marcas de agua para modelos de lenguaje: introduce patrones en la elección de palabras que pasan desapercibidos para un lector humano y que no cambian de manera relevante la calidad del texto. Para detectarlos se necesita una clave y un detector especializado. No es un sello visible en el texto.

OpenAI no planea abrir ese detector a todo el mundo. Según el anuncio, dará acceso a un grupo limitado de investigadores y organizaciones, y habrá un proceso de solicitud para sumar a otros actores con el tiempo. En los hechos, la verificación no será un servicio abierto para cualquier usuario.

El sistema no es perfecto. Aún no existe una forma completamente efectiva y confiable de marcar contenido de IA. Otros estándares que ya circulan, como SynthID y el proyecto C2PA, se pueden evadir con conocimientos básicos. Es probable que textGrain enfrente problemas similares.

Qué significa para Chile

Para un usuario chileno, lo concreto es que los textos generados con ChatGPT no llevarán esta marca de agua por ahora. La función se ofrecerá en otras regiones, pero vendrá desactivada por defecto fuera de la UE. La regulación europea no rige en Chile, así que este anuncio no crea obligaciones locales.

Aun así, el movimiento de OpenAI es una muestra de cómo la regulación puede empujar cambios concretos en productos que se usan en todo el mundo. La ley de la UE no solo afecta a las empresas europeas. Está determinando el comportamiento de una empresa global. Para Chile, eso es una señal de hacia dónde va la regulación de la inteligencia artificial.

Con información de Ars Technica