Anthropic implementará marcas de agua para el contenido de la IA Claude

Anthropic ha anunciado que aplicará marcas de agua invisibles al texto y las imágenes generadas por su IA Claude para cumplir con la Ley de IA de la Unión Europea. El nuevo sistema utilizará una marca estadística para el texto que permanece presente incluso después de que el contenido sea copiado y pegado. Para archivos como JPG, PNG o SVG, la empresa utilizará metadatos de procedencia firmados basados en el estándar abierto C2PA. Estas medidas se aplican a los modelos lanzados el 2 de agosto o después, mientras que los modelos más antiguos serán actualizados para el 2 de diciembre.

Anthropic señaló varias limitaciones de la tecnología. Las marcas de agua pueden estar ausentes si el texto es muy corto o ha sido editado, parafraseado o traducido intensamente. Además, la empresa aclaró que una marca de agua indica que el texto fue procesado por Claude, pero no confirma que la IA fuera el autor original, ya que los usuarios a menudo utilizan la herramienta para corregir o resumir datos existentes.

Si bien la medida está impulsada por las regulaciones de la UE, Anthropic afirmó que desplegará estas marcas de agua globalmente. La empresa es también signataria de un código de prácticas voluntario de la UE sobre transparencia. Otros actores de la industria como Google y OpenAI han implementado sistemas similares, como SynthID de Google. Un informe señaló que Anthropic aún no ha lanzado una herramienta de detección pública como sugiere el código de buenas prácticas de la UE.