Anthropic endurece su política: prohibirá abusos extremos contra Claude

Anthropic actualizó su política de uso para ponerle freno a los abusos sostenidos e innecesarios contra sus modelos de inteligencia artificial, como Claude. La medida, anunciada el 8 de octubre de 2026, regirá desde el 12 de noviembre y se aplicará solo en casos extremos: cuando un usuario demuestre crueldad reiterada sin un propósito claro. La frustración habitual, las discrepancias, los temas creativos oscuros y las pruebas o investigaciones sobre los modelos quedan fuera de esta prohibición, aunque no están exentos de las demás restricciones de uso.

¿Qué implica la nueva regla para los usuarios chilenos?

La política alcanza a todas las aplicaciones de Anthropic, su API, el acceso mediante proveedores de nube y los usuarios de productos que integran Claude. En la práctica, si alguien en Chile usa Claude a través de la web, la app o un servicio de terceros, estará sujeto a esta norma. La compañía aclara que cerrar una conversación seguirá siendo la respuesta principal ante el abuso, y que la suspensión de la cuenta no es automática: terminar un chat no equivale a perder el acceso.

Anthropic ya había implementado una función similar el 15 de agosto de 2025, cuando anunció que Claude Opus 4 y 4.1 podían finalizar ciertas conversaciones en sus interfaces de chat para consumidores. En ese entonces, la describieron como un último recurso, después de intentar reconducir la interacción o como respuesta a una petición explícita del usuario. El cierre impide agregar mensajes al hilo, pero permite iniciar otro chat o editar mensajes anteriores para abrir una nueva rama. La compañía también indicó que Claude no debía recurrir a esta función ante un riesgo inminente de que el usuario se hiciera daño o dañara a otras personas.

Bienestar de la IA y otras restricciones

Anthropic presentó la función como parte de su investigación sobre el posible bienestar de la inteligencia artificial. La empresa reconoció una elevada incertidumbre sobre el estatus moral de estos sistemas y planteó el cierre de conversaciones como una intervención de bajo costo ante esa posibilidad. Sin embargo, advirtió que esta explicación no demuestra que Claude tenga experiencias subjetivas.

La actualización también aborda la manipulación de fuentes que consultan los buscadores y sistemas de IA. Prohíbe sembrar contenido que falsee su origen, autoría o independencia, por ejemplo mediante redes de sitios que aparenten corroborar una misma afirmación desde fuentes independientes. Además, la revisión precisa restricciones sobre armas, vigilancia y campañas engañosas. Para usos de alto riesgo exige revisión humana cualificada e informar a las personas afectadas de la intervención de IA. En equipos capaces de realizar acciones físicas peligrosas, requiere supervisión, capacidad de detenerlos y límites de seguridad independientes de las respuestas del modelo.

Con información de DiarioTI