Resumo
- Ferramentas para remover marca d’água em textos gerados pelo Claude começaram a surgir, como a criada por Guillaume Meyer, que já soma mais de 20 mil salvamentos no X e 100 mil colaboradores no GitHub.
- A marca d’água da Anthropic funciona por meio de um padrão estatístico criado durante a escolha de palavras, mas pode ser enfraquecida por alterações no conteúdo.
- A tecnologia de detecção usada pelo Claude, baseada no SynthID-Text do Google DeepMind, pode gerar falsos positivos, o que preocupa desenvolvedores e profissionais.
Poucas horas após a Anthropic detalhar o funcionamento da marca d’água invisível que começará a acompanhar textos gerados e editados pelo Claude, desenvolvedores começaram a publicar ferramentas supostamente capazes de enfraquecer ou remover o sinal.
O primeiro código foi criado pelo programador Guillaume Meyer e rapidamente se espalhou, somando mais de 100 mil colaboradores no GitHub. Ele disse no X que criou o removedor como um teste e que não é contra a identificação de conteúdos, mas “contra a técnica de marca d’água”.
O detector do Claude está sendo implementado na esteira da Lei de Inteligência Artificial da União Europeia, que passou a exigir a sinalização de conteúdos gerados por IA. Cerca de 190 organizações já assinaram o código de conduta. A marcação em textos deve se tornar um padrão no setor até o fim deste ano.
Removedor tenta quebrar padrão do Claude
A marca d’água da Anthropic funciona por meio de um padrão estatístico criado durante a escolha de palavras. Quando o Claude decide entre termos equivalentes, o sistema usa uma chave para orientar parte dessas escolhas e deixar uma assinatura detectável.
A própria empresa ressaltou que alterações mesmo que pequenas podem enfraquecer a marca. É nisso que a ferramenta de Meyer aposta: o texto é reescrito, até mesmo mais de uma vez, com ajuda de outro modelo de linguagem que não usa a mesma marcação.
Outros métodos também surgiram rapidamente com processos parecidos, sempre envolvendo mudanças em sinônimos e na ordem das frases. Como a detecção depende de um padrão, essas alterações podem ser suficientes para reduzir a chance do texto ser classificado como sintético – sim, algo que poderia ser feito com uma simples revisão do conteúdo por um ser humano.
Anthropic usa tecnologia de detecção do Google
A tecnologia adotada pela Anthropic é baseada no SynthID-Text, método publicado pelo Google DeepMind há dois anos. Ele atua nas chamadas “escolhas de baixo risco”: se duas palavras podem ter o mesmo sentido numa frase, a IA escolhe uma delas seguindo uma regra. A ideia é que, para o leitor, o texto continue natural, mas a sequência pode ser identificada por quem tem a chave de verificação.
Modelo não é livre de falsos positivos
A própria Anthropic afirma que a verificação aponta uma probabilidade e não distingue com precisão se um texto é inteiramente gerado por IA ou editado pelo modelo. Mas são exatamente os possíveis “falsos positivos” desse tipo de sistema que preocupam os desenvolvedores e alguns profissionais.
O receio é que escolas, universidades, recrutadores ou clientes passem a usar detectores como um critério factual de avaliação, o que poderia afetar pessoas que usam IA para tarefas pontuais ou não usam.
Da parte dos usuários, outra crítica é que a tecnologia possa diminuir a qualidade do conteúdo gerado pelo Claude, já que o output precisará seguir esse padrão. Na descrição da nova tecnologia, a Anthropic garante que testes internos não apontaram queda.
Desenvolvedores já burlam nova marca d’água de texto do Claude