Desenvolvedores Criam Ferramentas para Burlar Novas Marcas d'Água de Texto da IA Claude
2 fontes em 2 países · Brasil · Estados Unidos
Quem noticiou
- Tecnoblog
- WIRED
O que as cores significam
- Esquerda
- Centro-esquerda
- Centro
- Centro-direita
- Direita
- Um bloco hachurado indica que o veículo é ligado a um Estado ou controlado por ele.
A orientação política indica onde o veículo se situa dentro da política do próprio país. Nunca é uma posição numa única escala global.
A orientação política é comparável dentro de um país, não entre países, e por isso a barra agrupa por país primeiro. Emissoras de financiamento público não são marcadas como ligadas ao Estado.
O proprietário de cada veículo é informado como registro, e não como um julgamento sobre o veículo.
Traduzido do original em inglês, que foi escrito a partir das fontes listadas abaixo.
Desenvolvedores já lançaram ferramentas projetadas para remover marcas d'água invisíveis de textos gerados pelo modelo de IA da Anthropic, o Claude. Pouco depois de a Anthropic anunciar a implementação dessas marcas d'água para cumprir a Lei da IA da União Europeia, o programador Guillaume Meyer publicou um código que, desde então, ganhou tração significativa no GitHub e no X. A ferramenta funciona utilizando um modelo de linguagem grande separado para reescrever o texto, trocando sinônimos e reorganizando frases para quebrar os padrões estatísticos usados para a detecção.
O sistema de marca d'água da Anthropic é baseado na tecnologia SynthID-Text da Google DeepMind. Este método guia a escolha de palavras da IA para criar uma assinatura legível por máquina que permanece indiscernível para leitores humanos. Embora a Anthropic afirme que testes internos não mostram queda na qualidade da saída, alguns usuários expressam preocupação de que a exigência de seguir esses padrões possa degradar a qualidade do conteúdo.
Críticos da tecnologia, incluindo Meyer, argumentam que o sistema é propenso a falsos positivos. Eles expressam preocupação de que empregadores, universidades ou recrutadores possam usar esses detectores baseados em probabilidade como evidência factual para penalizar injustamente indivíduos que usam IA para edições menores ou aqueles que não usam IA de forma alguma.
A Lei da IA da UE exige que os provedores rotulem conteúdo sintético ou enfrentem multas de até 3 por cento do faturamento anual. Embora aproximadamente 190 organizações tenham assinado um código de prática de transparência, e a marca d'água deva se tornar um padrão da indústria até o final do ano, ferramentas independentes para contornar esses marcadores permanecem legais.
Como cada lado enquadrou
- Centro-esquerda
- A cobertura de centro-esquerda enfatizou as motivações dos desenvolvedores e o potencial de consequências profissionais injustas resultantes de falsos positivos.
- Centro
- A cobertura com tendência central focou na mecânica técnica da marca d'água e na tendência mais ampla da indústria em direção à regulamentação da IA.
Fontes
100% das afirmações deste artigo foram rastreadas até as reportagens de origem listadas acima.