Como funciona o sistema de watermarking de texto do Claude

Como funciona o sistema de watermarking de texto do Claude

O watermarking de texto é uma técnica que permite identificar se um trecho de texto foi gerado — ou significativamente editado — pelo Claude, o modelo de linguagem da Anthropic. Este sistema, baseado no método SynthID‑Text publicado pelo Google DeepMind em 2024, tornou-se um componente essencial da estratégia da Anthropic para cumprir o Regulamento da UE sobre Inteligência Artificial (EU AI Act). Ao longo deste artigo, exploraremos o funcionamento interno do watermarking, seu impacto na qualidade das respostas do Claude, as limitações inerentes e como ele se encaixa no contexto regulatório mais amplo.

O princípio básico por trás do watermarking

Os grandes modelos de linguagem, como o Claude, geram texto palavra por palavra, selecionando cada token de uma lista de candidatos baseada no contexto anterior. Em muitos casos, várias palavras são semanticamente equivalentes — por exemplo, após “O tempo hoje estava…”, tanto “nublado” quanto “cinza” são opções plausíveis. Em situações assim, o modelo normalmente resolve a escolha usando um número aleatório.

O watermarking aproveita essas escolhas de baixo risco e de múltiplas opções para codificar um padrão discreto dentro do texto gerado. O padrão é invisível para o leitor humano, mas pode ser detectado por qualquer pessoa que possua a chave criptográfica usada para gerá-lo. Em essência, a aleatoriedade ainda existe, mas a fonte da aleatoriedade muda: em vez de um gerador de números aleatórios independente, o modelo utiliza a chave e algumas palavras anteriores para determinar qual candidato será escolhido. Consequentemente, o texto final ainda parece casual e natural, mas carrega um sinal oculto que pode ser verificado posteriormente.

Como o watermarking é aplicado no Claude

• Seleção de palavras: Sempre que o modelo enfrenta uma escolha entre tokens semanticamente semelhantes, o watermarking influencia a seleção com base na chave.
• Decisores determinísticos: Quando não há dúvida — por exemplo, completar um cálculo matemático (“2 + 2 = 4”) ou fornecer um termo factual obrigatório — o watermarking não é aplicado, pois não há escolha genuína.
• Espaço para comentários: Em trechos de código onde os comentários permitem várias formulações, o watermarking pode ser inserido sem afetar a funcionalidade.
• Processamento de texto editado: Se o Claude revisar um texto escrito por um humano, apenas as palavras editadas pelo modelo estão sujeitas ao watermarking. Se a revisão for leve, pode haver poucos tokens para marcar, reduzindo a detectabilidade.

O processo é totalmente transparente para o usuário final. O modelo ainda gera texto de alta qualidade, criativo e preciso; o único efeito colateral é a inserção de um sinal estatístico que pode ser verificado posteriormente.

Impacto na qualidade do texto

Um equívoco comum é que o watermarking degrada a qualidade do texto gerado. Testes internos da Anthropic, juntamente com o estudo SynthID‑Text do Google DeepMind, demonstraram que não há diferença estatisticamente significativa entre as avaliações de usuários (polegares para cima/polegares para baixo) de saídas com e sem watermarking. Em estudos controlados, avaliadores humanos compararam lado a lado respostas com e sem marca e não conseguiram distinguir diferenças na fluência, relevância ou criatividade.

Por quê? Porque o watermarking só atua em escolhas que são, de outra forma, arbitrárias. A estrutura subjacente do modelo e os pesos do treinamento permanecem inalterados; o watermarking apenas ajusta a fonte do ruído aleatório em um subconjunto de decisões. Consequentemente, o texto continua natural, factualmente preciso e estilisticamente consistente.

Analogia: jogar Monopoly com os dígitos de π

Imagine um jogo de Monopoly onde cada jogador move seu peão um número aleatório de casas baseado no resultado de um dado. Agora suponha que, em vez de rolar um dado, os jogadores usam os dígitos de π: começam em uma posição aleatória no número decimal (digamos, a 1.012.845ª casa decimal, que é 6) e, em seguida, cada movimento subsequente é determinado pelo próximo dígito na sequência. Do ponto de vista de um jogador, o jogo ainda parece aleatório — os resultados são imprevisíveis e a experiência de jogo não muda.

No entanto, se você observar toda a sequência de movimentos após o jogo e conhecer o valor de π, pode determinar se o jogo usou π como fonte de aleatoriedade. Esse jogo está, em um sentido abstrato, “marcado” com π. Da mesma forma, o texto gerado pelo Claude parece normal para o leitor, mas carrega um padrão escondido que pode ser detectado com a chave apropriada.

Por que a Anthropic adotou o watermarking

A Anthropic, juntamente com aproximadamente 190 outras empresas signatárias, aderiu ao Código de Práticas para Transparência do Conteúdo Gerado por IA em julho de 2026. Este código é um componente essencial do EU AI Act, que exige que os provedores de sistemas de IA utilizem métodos confiáveis para “marcar” o texto gerado por IA, a fim de permitir a detecção e a responsabilização.

• Conformidade regulatória: O watermarking fornece uma maneira técnica de atender aos requisitos legais de identificação de conteúdo gerado por IA, ajudando a Anthropic a evitar penalidades e a demonstrar transparência.
• Confiança do usuário: Ao tornar a origem do texto verificável, os usuários podem tomar decisões informadas sobre a confiabilidade do conteúdo, aumentando a confiança no sistema.
• Responsabilização: As autoridades reguladoras e os usuários podem verificar se um texto específico foi produzido pelo Claude, o que é crucial para mitigar deepfakes e desinformação.

A Anthropic implementou o watermarking globalmente no lançamento, pois ainda não há uma maneira robusta de limitá-lo por região. No entanto, a empresa continua avaliando abordagens regionalmente específicas e compartilhará atualizações assim que elas estiverem disponíveis.

Detecção vs. watermarking

É importante distinguir entre detecção baseada em watermarking e as soluções tradicionais de detecção de IA. As ferramentas de detecção de IA analisam pistas linguísticas estatísticas — como a frequência da construção “não é X, é Y” ou o uso incomum da palavra “silenciosamente”. Essas abordagens são indiretas e propensas a falsos positivos/negativos, pois se baseiam em padrões comportamentais da IA em vez de um sinal criptográfico explícito.

O watermarking, por outro lado, é um sistema binário: com a chave correta, você pode calcular a probabilidade de que o texto foi gerado pelo Claude. Esse método é mais robusto porque depende de um algoritmo determinístico em vez de heurísticas estatísticas.

Limitações do sistema de watermarking

Apesar de sua robustez, o watermarking tem fronteiras claras:

• Não é um detector de autoria humana: Ele responde apenas à pergunta “Qual é a probabilidade de o Claude ter escrito este texto?” Não pode confirmar que um texto foi escrito por um humano, nem pode identificar outro modelo de IA (a menos que esse modelo use a mesma chave e o mesmo algoritmo).
• Eficácia reduzida em amostras pequenas: Com poucos tokens, há menos oportunidades de escolha arbitrária, o que enfraquece o sinal estatístico. Quanto maior o trecho, mais confiável é a detecção.
• Áreas factuais ou determinísticas: Em passagens que exigem um termo específico (por exemplo, “A obra mais famosa de Isaac Newton é o Principia…”), não há escolha entre sinônimos, então o watermarking não pode ser aplicado.
• Edição leve: Quando o Claude edita um texto humano — corrigindo gramática, reescrevendo frases — o número de tokens alterados pode ser insuficiente para um watermark detectável, especialmente se o texto original for extenso.
• Não afeta o código funcional: Trechos de código que devem ser exatos (números, nomes de variáveis) não têm espaço para watermarking. Apenas comentários ou trechos não críticos podem ser marcados, sem afetar a execução.

Essas limitações são inerentes a qualquer sistema de marcação baseado em aleatoriedade e são amplamente aceitas na comunidade de IA. A Anthropic continua pesquisando maneiras de expandir a aplicabilidade do watermarking, especialmente em domínios de alta certeza, sem comprometer a qualidade.

Implicações práticas para usuários

Para os usuários do Claude, o watermarking tem várias implicações práticas:

• Transparência: Se você precisar verificar a origem de um trecho de texto (por exemplo, para fins acadêmicos ou editoriais), poderá usar a futura API de detecção de watermarking da Anthropic para obter uma probabilidade de que o Claude contribuiu para esse texto.
• Segurança: O watermarking não expõe dados do usuário ou informações de identificação pessoal. A chave é mantida em sigilo pela Anthropic e não está vinculada a nenhuma conta específica.
• Iteração de conteúdo: Se você editar um texto gerado pelo Claude extensivamente, o watermarking permanecerá presente porque cada nova palavra escolhida pelo modelo ainda carrega a marca. No entanto, uma reescrita completa que substitui cada palavra por uma nova elimina o sinal, pois o novo texto não contém escolhas do Claude.
• Velocidade e custo: O watermarking não adiciona tokens extras nem aumenta significativamente a latência do modelo, portanto, o custo de inferência permanece o mesmo.

Plano de detecção futura e API

A Anthropic está desenvolvendo ativamente uma API de detecção de watermarking que permitirá que desenvolvedores e empresas verifiquem se um determinado texto foi gerado pelo Claude. A API retornará uma probabilidade (por exemplo, “95% de chance de Claude involvement”) junto com medidas de confiança, com base no comprimento do texto e na presença de escolhas arbitrárias.

Ainda estamos refinando os detalhes técnicos — como o formato da carga útil, controles de taxa e garantias de privacidade — mas pretendemos disponibilizar o serviço em breve para parceiros selecionados e, posteriormente, para todos os usuários.

Marcação de arquivos de mídia (C2PA)

Além do watermarking de texto, o Claude também pode incorporar credenciais de conteúdo em arquivos de mídia, como imagens (.png, .jpg, .svg) e PDFs. Esses arquivos contêm uma pequena nota criptograficamente assinada no metadado, indicando que o arquivo foi criado ou processado pelo Claude. Este padrão segue o padrão industrial C2PA (Credential Service Provider), o mesmo usado por fabricantes de câmeras e softwares de edição de fotos para registrar a origem.

Ao contrário do watermarking de texto, a marcação de mídia não altera o conteúdo visual; ela simplesmente registra a proveniência. Ferramentas compatíveis com C2PA podem ler essas credenciais, e a Anthropic fornecerá sua própria ferramenta para verificar arquivos.

Perguntas frequentes e esclarecimentos

1. O watermarking prejudica o desempenho do modelo?
Não. Testes internos mostram impacto negligenciável na velocidade e nenhum aumento no uso de tokens.

2. Ele pode ser removido por um usuário?
Uma edição leve geralmente não remove o watermarking, pois o sinal está espalhado por muitas escolhas. Uma reescrita completa que substitui cada palavra elimina o sinal, mas nesse ponto o texto não pode mais ser considerado gerado pela IA.

3. O watermarking distingue entre “escrito pelo Claude” e “editado pelo Claude”?
Não. Ele só indica a probabilidade de involvement, não a extensão.

4. As traduções são marcadas?
Sim. Como cada token é escolhido pelo modelo, o texto traduzido carrega o watermarking.

5. O watermarking se aplica a todos os modelos Claude?
Inicialmente, ele foi implementado globalmente para os modelos mais recentes. A Anthropic está trabalhando para estender o watermarking para modelos lançados antes de 2 de agosto de 2026, dentro do período de transição exigido pela lei da UE.

6. Como isso difere das ferramentas de detecção de IA?
As ferramentas de detecção de IA dependem de padrões linguísticos estatísticos e são propensas a falsos positivos. O watermarking é criptográfico e verificável, tornando-o mais confiável para fins regulatórios.

7. O watermarking afeta os direitos autorais?
Não. Ele não altera os termos de serviço nem confere ou nega direitos autorais. Simplesmente registra se o Claude participou do processo de criação.

Perspectivas futuras e pesquisa

A Anthropic alocou um programa de bolsas de US$ 5 milhões para financiar pesquisas independentes sobre o impacto do watermarking no bem-estar dos usuários e na saúde do ecossistema da IA. Esses estudos ajudarão a refinar a técnica, tornando-a mais eficaz e menos intrusiva.

A empresa também está atualizando as salvaguardas de biologia do Claude Fable 5 para reduzir falsos positivos, diminuindo as ocorrências de “fallbacks” para usuários que fazem perguntas relacionadas à biologia. Essas melhorias aumentam a confiança dos usuários e reduzem a necessidade de intervenções desnecessárias.

Além disso, a nomeação de Mariano-Florentino (Tino) Cuéllar como primeiro Chief Global Affairs Officer sinaliza o compromisso da Anthropic com a navegação nos cenários regulatórios globais, garantindo que o roadmap de watermarking permaneça alinhado com as evolving exigências legais.

Conclusão

O watermarking de texto do Claude é um mecanismo técnico elegante que atende às exigências regulatórias do EU AI Act, ao mesmo tempo que preserva a alta qualidade e a fluência do texto gerado. Ao aproveitar escolhas arbitrárias e uma chave criptográfica, ele cria um sinal oculto que pode ser detectado com precisão, sem afetar a experiência do usuário. Embora existam limitações — especialmente em trechos pequenos ou factualmente rígidos — o sistema oferece um meio confiável de verificar a origem do conteúdo, aumentando a transparência e a responsabilização na era da IA.

À medida que a Anthropic avança com o lançamento de uma API de detecção de watermarking e continua a expandir suas salvaguardas e pesquisas, o watermarking permanecerá um componente essencial da estratégia de IA responsável da empresa, capacitando usuários, reguladores e desenvolvedores a entender e confiar no conteúdo gerado por IA.

Fonte: Anthropic

Fonte: neuraartificial.com.br