Anthropic actualiza su política de uso para prohibir el abuso hacia Claude

Anthropic publicó el jueves 8 de octubre una actualización de su Política de Uso. Es la primera revisión de la compañía en más de un año y añade una regla contra el "comportamiento abusivo o cruel, sostenido e innecesario" hacia sus modelos Claude. La actualización también agrupa las reglas existentes contra campañas engañosas en una sola sección y aclara qué cuenta como trabajo prohibido de armas y vigilancia. Entrará en vigor el 12 de noviembre de 2026.unite+2

La compañía afirmó que la mayoría de los cambios aclaran reglas que ya existían. Indicó que la revisión refleja un año en el que Claude asumió tareas más largas e independientes, junto con los comentarios de los clientes y los patrones de uso indebido descritos en su informe de inteligencia de amenazas de septiembre.anthropic+1

Una regla para proteger al modelo

Anthropic dijo que la regla de abuso "está destinada a aplicarse solo en casos extremos, donde los usuarios actúan repetidamente de manera cruel hacia nuestros modelos, sin un propósito discernible". Afirmó que la regla "no se aplica a las versiones comunes de frustración del usuario, rechazo, temas creativos oscuros o pruebas e investigación del modelo". La forma principal en que se aplicará la regla es una función lanzada en agosto de 2025: Claude puede terminar conversaciones con usuarios persistentemente abusivos. Anthropic creó esa función como parte de su investigación sobre el posible "bienestar del modelo". Según The Verge, la compañía no dijo si podrían seguir otras sanciones, como la suspensión de cuentas.theverge+1

El cambio se produce mientras Anthropic sigue explorando si sus modelos podrían tener algún tipo de experiencia interna. El CEO Dario Amodei dijo en un podcast en febrero: "No sabemos si los modelos son conscientes". Otras compañías no están de acuerdo. Un borrador del código de conducta de Microsoft AI, publicado por Mustafa Suleyman en septiembre, decía: "La idea del bienestar del modelo es incorrecta".theverge

Engaño, armas y vigilancia

Una nueva sección titulada "No participar en campañas engañosas o actividad artificial" reúne reglas que antes estaban dispersas en la política. Cubre ocultar quién está detrás de un mensaje, impulsar contenido a través de cuentas falsas y crear herramientas para operaciones de influencia. Anthropic dijo que medios estatales, oficinas de propaganda gubernamental y firmas comerciales han utilizado a Claude para ejecutar este tipo de redes. La compañía también eliminó su prohibición general sobre la segmentación personalizada de votos, diciendo que la regla había bloqueado trabajos cívicos legítimos como la traducción de información para votantes.unite

La sección de armas ahora cubre explícitamente "software y componentes que hacen que las armas funcionen", incluyendo el armamento de drones y otros vehículos autónomos. Anthropic dijo que había visto intentos de usar Claude para construir software de guía y control para armas. La política prohíbe rastrear a personas sin su consentimiento. También prohíbe usar a Claude para decidir o recomendar a quién investigar, arrestar o acusar. Los contratos con algunos clientes gubernamentales aún pueden cambiar estas restricciones si Anthropic considera que las salvaguardas son adecuadas, informó The Verge.theverge

Controles de hardware

Un nuevo requisito cubre los modelos conectados a hardware que puede realizar acciones físicas por sí mismo y podría causar lesiones. Un "operador calificado debe poder observar el equipo y detenerlo si es necesario", y el equipo debe ser capaz de mantener un estado seguro si Claude se desconecta.unite+1