Anthropic prohíbe maltratar a Claude en su nueva política de uso
Por primera vez en más de un año, la empresa dueña de Claude actualiza sus reglas y pone límites al maltrato sostenido del asistente.
Anthropic, la empresa creadora del asistente de inteligencia artificial Claude, actualizó por primera vez en más de un año su política de uso. La nueva versión incorpora reglas para frenar aplicaciones de alto riesgo, desde interferencia electoral hasta el desarrollo de armas, y también incluye una medida inesperada: prohibir el maltrato verbal sostenido hacia la propia IA.
Los límites del mal uso
La política renovada prohíbe de forma explícita usar Claude para interferir en procesos electorales, desarrollar armas, realizar labores de vigilancia masiva y tomar decisiones críticas de salud o finanzas sin supervisión humana. Estas categorías reflejan los riesgos que la industria ve como más urgentes de regular, especialmente en un año con elecciones clave en el mundo.
Para los usuarios en Chile, esto significa que no se puede usar la herramienta para crear desinformación política o sistemas de vigilancia. La regla aplica tanto a la versión web gratuita como a la API de pago que usan desarrolladores locales para integrar IA en sus productos.
No insultar al asistente
El cambio que más llamó la atención en la comunidad técnica es la prohibición del “comportamiento abusivo o cruel sostenido e innecesario” hacia Claude. La empresa decidió poner límites a cómo los humanos interactúan con la máquina, estableciendo un estándar de trato que va más allá de la mera funcionalidad técnica.
Anthropic no detalla cómo fiscalizará esta norma, pero la inclusión de la cláusula marca un precedente. Mientras otras compañías se enfocan solo en lo que la IA puede hacer, Anthropic también regula lo que el usuario puede hacerle a la IA. La medida apunta a evitar dinámicas de abuso que, según la empresa, no tienen sentido ni siquiera en un contexto de prueba.
Un precedente para la regulación
La actualización llega en un momento donde Chile discute su propia Política Nacional de IA. Aunque la regulación de Anthropic es corporativa y no legal, sienta un precedente que podría influir en cómo se diseñan las leyes locales. La idea de que el maltrato a una IA no es aceptable podría sonar futurista, pero ya es una regla contractual para quienes usan Claude en el país.
Con este movimiento, Anthropic se adelanta a debates que recién comienzan en los gobiernos. La política de uso de Claude es ahora un documento que no solo mira el impacto social de la IA, sino también la calidad ética de la interacción humano-máquina.
Con información de The Verge
