Desarrolladores crean herramientas para evadir las nuevas marcas de agua de texto de IA de Claude
2 fuentes en 2 países · Brasil · Estados Unidos
Quién lo informó
- Tecnoblog
- WIRED
Qué significan los colores
- Izquierda
- Centroizquierda
- Centro
- Centroderecha
- Derecha
- Un bloque rayado indica que el medio está vinculado a un Estado o controlado por él.
La orientación política indica dónde se sitúa el medio dentro de la política de su propio país. Nunca es una posición en una única escala global.
La tendencia política es comparable dentro de un país, no entre países, y por eso la barra agrupa por país primero. Las emisoras de financiación pública no se marcan como vinculadas al Estado.
El propietario de cada medio se indica como dato, y no como un juicio sobre el medio.
Traducido del original en inglés, que se escribió a partir de las fuentes que se enumeran abajo.
Desarrolladores ya han lanzado herramientas diseñadas para eliminar marcas de agua invisibles de texto generado por el modelo de IA de Anthropic, Claude. Poco después de que Anthropic anunciara la implementación de estas marcas de agua para cumplir con la Ley de IA de la Unión Europea, el programador Guillaume Meyer publicó un código que desde entonces ha ganado una tracción significativa en GitHub y X. La herramienta funciona utilizando un modelo de lenguaje extenso independiente para reescribir el texto, intercambiando sinónimos y reorganizando frases para romper los patrones estadísticos utilizados para la detección.
El sistema de marcas de agua de Anthropic se basa en la tecnología SynthID-Text de Google DeepMind. Este método guía la elección de palabras de la IA para crear una firma legible por máquina que permanece indiscernible para los lectores humanos. Mientras que Anthropic afirma que las pruebas internas no muestran una caída en la calidad de los resultados, algunos usuarios expresan preocupación de que el requisito de seguir estos patrones podría degradar la calidad del contenido.
Los críticos de la tecnología, incluido Meyer, argumentan que el sistema es propenso a falsos positivos. Expresan preocupación de que empleadores, universidades o reclutadores podrían usar estos detectores basados en probabilidades como evidencia fáctica para penalizar injustamente a personas que usan IA para ediciones menores o a aquellas que no usan IA en absoluto.
La Ley de IA de la UE requiere que los proveedores etiqueten el contenido sintético o enfrenten multas de hasta el 3 por ciento de la facturación anual. Mientras que aproximadamente 190 organizaciones han firmado un código de prácticas de transparencia, y se espera que las marcas de agua se conviertan en un estándar de la industria para finales de año, las herramientas independientes para eludir estos marcadores siguen siendo legales.
Cómo lo enmarcó cada lado
- Centroizquierda
- La cobertura de centro izquierda enfatizó las motivaciones de los desarrolladores y la posibilidad de consecuencias profesionales injustas resultantes de falsos positivos.
- Centro
- La cobertura con tendencia al centro se centró en la mecánica técnica de la marca de agua y la tendencia más amplia de la industria hacia la regulación de la IA.
Fuentes
100% de las afirmaciones de este artículo se rastrearon hasta los artículos de origen citados arriba.