Desarrolladores crean herramientas para eliminar la marca de agua de Claude

El esfuerzo de Anthropic por etiquetar el texto generado por su modelo de IA Claude ha encontrado un obstáculo inmediato: los desarrolladores están creando herramientas para eliminar dichas etiquetas y los usuarios están acudiendo a ellas en masa.

La empresa comenzó a insertar una marca de agua estadística en todo el texto generado por Claude el 2 de agosto, con el fin de cumplir con la Ley de IA de la Unión Europea, que exige a los proveedores de IA marcar el contenido sintético de forma legible por máquina. A las pocas horas del anuncio, empezaron a circular herramientas de eliminación de código abierto, atrayendo a miles de usuarios y reavivando el debate sobre si el marcado de texto por IA es técnicamente viable.thenextweb+1

Una solución en cinco horas

Guillaume Meyer, un emprendedor con sede en París, lanzó un proyecto de código abierto llamado Watermarks Remover en GitHub apenas cuatro horas después del anuncio de Anthropic, según WIRED. La herramienta elimina caracteres ocultos y metadatos, y luego reescribe el texto para alterar el patrón estadístico que contiene la marca de agua. Desde entonces, ha atraído más de 14,000 estrellas en GitHub y cuenta con más de 100 colaboradores.wired+1

"Estoy a favor de la atribución de contenido", dijo Meyer a Business Insider, según informó The Next Web. "Estoy en contra de la técnica de marca de agua, y esa es una distinción muy importante". Argumentó que el método "trata la autoría como algo binario", marcando el texto tanto si Claude lo escribió por completo como si solo ayudó a editarlo.thenextweb

Otros desarrolladores siguieron sus pasos. Sabrina Ramonov, educadora en IA, creó un eliminador gratuito basado en navegador, y Ansh Aneja, desarrollador con sede en Tokio, afirmó que su herramienta atrajo a 8,500 usuarios en un solo día. El interés en Google Trends por "eliminador de marcas de agua de IA" aumentó un 60 por ciento respecto a la semana anterior.gizmodo+1

La respuesta de Anthropic

Anthropic ha señalado que la marca de agua se basa en elecciones de palabras de bajo impacto: cuando varias palabras funcionan igual de bien, el modelo favorece una, dejando un rastro estadístico detectable. La empresa afirma que la marca no contiene información de identificación y no puede rastrearse hasta un usuario o conversación específica. En una publicación de blog, declaró que la marca de agua "no dice nada sobre la propiedad o la autoría, y no cambia los derechos del usuario bajo nuestros términos".gizmodo+1

La empresa firmó el código de transparencia de IA de la UE en julio junto con otros 190 signatarios y afirma que aún no puede limitar la marca de agua a los usuarios de la UE, por lo que la función se está implementando a nivel mundial.thenextweb

Una limitación conocida

Los investigadores señalan que los eliminadores exponen una debilidad fundamental. "Siempre habrá formas de eliminar la marca de agua", dijo Thibaud Gloaguen, investigador de ETH Zurich, a Business Insider, según lo citado por The Next Web. La propia Anthropic ha reconocido que una reescritura profunda puede eliminar la marca por completo; momento en el cual, admite la empresa, se vuelve discutible si el texto sigue siendo generado significativamente por IA.thenextweb

El panorama legal ofrece poca disuasión. La Ley de IA de la UE impone deberes de etiquetado a los proveedores, pero no prohíbe expresamente que terceros eliminen las marcas de agua, según Konrad Kollnig, profesor asistente en la Universidad de Maastricht. Anthropic no respondió a las preguntas sobre las herramientas de eliminación.thenextweb