Cómo Anthropic marca los textos generados con Claude
A partir de agosto, todos los modelos nuevos de Claude incorporan un sistema de identificación invisible. Se trata de marcas de agua imperceptibles en el texto combinadas con metadatos firmados en los archivos. El objetivo es cumplir con lo que exige el Reglamento Europeo de Inteligencia Artificial, en concreto el artículo 50, que obliga a que el contenido sintético sea detectable automáticamente.
La medida se implementará en toda la plataforma: desde la API hasta las herramientas construidas sobre Claude, e incluso cuando accedas al modelo a través de servicios de terceros como AWS o Google Cloud. Esto significa que la marca persiste incluso si copias y pegas el texto o realizas pequeñas ediciones sobre él.
Cómo funciona técnicamente
Anthropic utiliza una aproximación doble. Por un lado, inserta marcas de agua estadísticas en la selección de tokens (básicamente, palabras) que genera el modelo. Por otro, incorpora metadatos firmados usando el estándar C2PA, el mismo que usan Adobe, Microsoft y la industria fotográfica. Este estándar permite además detectar si un archivo ha sido manipulado con posterioridad.
No es el único sistema que existe. Google utiliza uno diferente llamado SynthID, que ya han adoptado Apple, OpenAI, Nvidia y otras compañías. La industria está buscando soluciones variadas porque ninguna técnica disponible hoy cumple completamente con los requisitos europeos.
Lo que debes tener en cuenta
Una marca de agua detectada no prueba automáticamente que Claude escribió el contenido. Hay un factor importante: si usas el modelo para traducir, resumir o corregir textos que ya existían, el sistema marcará esa respuesta como sintética aunque partas de contenido previo. Además, la marca desaparece si parafraseas, traduces nuevamente, mezclas con otro contenido o si el fragmento es demasiado corto para incrustar la señal estadística.
En la práctica, esto significa que la ausencia de marca tampoco prueba nada. Un texto sin detectar puede haber sido procesado de varias maneras que eliminan el rastro, o simplemente ser legítimamente humano. La marca es un indicador, no una prueba concluyente.
Anthropic también trabaja en añadir este sistema a modelos anteriores. Bruselas ha dado seis meses a las empresas para actualizar los ya publicados, y en septiembre arrancarán grupos de trabajo con ingenieros de todas las compañías implicadas para intercambiar experiencias sobre la implementación.