Claude agora deixa marcas invisíveis no texto

Autoria: Two Minute Papers · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: Claude Is Now Leaving Invisible Fingerprints In Its Text · Canal: Two Minute Papers · 03:47 · Assistir no YouTube

Tópicos: Avaliação e benchmarks de IA, Claude, Ferramentas de desenvolvimento com IA, Modelos locais e open source, Segurança de IA

Resumo

O vídeo apresenta um método de marca d’água textual que favorece discretamente certas palavras durante a geração, criando uma impressão digital detectável por máquinas. Segundo a explicação, a marca pode sobreviver à cópia e a edições leves, mas pode ser removida ao reescrever o texto inteiro. O narrador ressalta que a marca indicaria que Claude escreveu ou editou muito o texto, mas não identificaria quem o escreveu. A transcrição também menciona que apenas organizações elegíveis podem verificar a marca e recomenda sistemas de IA com pesos abertos que possam ser executados pelo próprio usuário. No final, há um anúncio de Weave, um kit de ferramentas para depurar e avaliar aplicações de LLM.

Pontos-chave

Anthropic está implementando uma marca d’água invisível para humanos em textos gerados pelo Claude.
O método dá uma vantagem discreta a algumas palavras possíveis, fazendo com que apareçam um pouco mais frequentemente.
A detecção envolve contar palavras favorecidas; um número elevado delas pode tornar muito improvável que o texto tenha sido escrito por uma pessoa.
As palavras favorecidas podem ser inconspícuas e mudar ao longo do tempo.
O vídeo diz que edições leves não removem a marca, enquanto reescrever o texto inteiro pode removê-la.
A marca indicaria que Claude escreveu ou editou substancialmente o texto, mas não revelaria a identidade do autor.
Segundo o vídeo, apenas algumas organizações elegíveis podem verificar a marca.
O narrador recomenda usar sistemas de IA com pesos abertos e executá-los localmente.
O anúncio final apresenta Weave para acompanhar traces e usar avaliações em aplicações de LLM.

Capítulos

Início	Capítulo	Resumo
00:00	A marca d’água em textos do Claude	O vídeo apresenta a implementação de uma marca d’água textual e explica que ela é invisível para humanos, mas detectável por máquinas.
01:06	Como a impressão digital é criada e detectada	O método favorece certas palavras durante a geração e permite procurar a marca contando quantas palavras favorecidas aparecem no texto.
02:11	Limitações e remoção da marca	O narrador menciona uma possível variante do algoritmo, esclarece o que a marca pode indicar e explica que edições leves não a removem.
03:15	Alternativas e anúncio de Weave	O vídeo recomenda sistemas com pesos abertos e termina com um anúncio de Weave para depurar e avaliar aplicações de LLM.

Citações

É uma impressão digital no texto que é invisível para humanos, mas detectável por máquinas. — 00:32

A probabilidade de isso ter sido feito por humanos pode ser menor do que a de ganhar na loteria. — 01:39

O texto escrito por Claude não pode ser rastreado até você, mas mostra que Claude escreveu tudo ou editou muito o texto. — 02:43

Se você reescrever tudo, trocando cada palavra, sim, pode se livrar dela. — 03:15

Conceitos e entidades

watermarking (conceito): Técnica descrita no vídeo para inserir uma marca detectável em textos gerados por IA sem torná-la visível para as pessoas.
Anthropic (empresa): Empresa que, segundo o vídeo, está implementando a marca d’água nos textos gerados pelo Claude.
Claude (modelo): Assistente de IA cujos textos gerados são o foco da marca d’água discutida no vídeo.
SynthID (ferramenta): Variante que o narrador considera provável que esteja sendo usada, com probabilidades dependentes do contexto e um sistema de torneio.
open-weights LLM (conceito): Modelo de linguagem com pesos abertos, mencionado como alternativa que pode ser executada pelo usuário.
Weights & Biases (empresa): Empresa citada no anúncio final do vídeo.
Weave (ferramenta): Kit de ferramentas apresentado para acompanhar traces, depurar o fluxo de dados e avaliar aplicações de LLM.
Two Minute Papers (empresa): Canal do YouTube que publicou o vídeo.
Károly Zsolnai-Fehér (pessoa): Apresentador identificado no vídeo como Dr. Károly Zsolnai-Fehér.

Tradução completa (pt-BR)

00:00 Imagens podem receber marcas d’água para proteção contra cópia. Agora, veja só. A Claude AI anunciou que vai inserir marcas d’água no texto que você gerar com ela. Desde quando? Quando isso começa? Bem, a Anthropic está implementando isso neste exato momento. Pois é. Não estou falando disso porque concordo com a medida, mas porque acho importante que todos vocês, colegas acadêmicos, saibam disso, para informar o público. Então, este trecho de texto tem marca d’água. Espera, o quê? >> [risos] >> Você pode colocar o seu logotipo numa imagem, mas e no texto? Como colocaria uma marca d’água no texto? Inserindo caracteres ocultos, certo?

00:32 Não. Este artigo descreve uma impressão digital no texto que é invisível para as pessoas, mas detectável por máquinas. Ela até sobrevive a copiar e colar e a algumas edições. Daqui a pouco, vou dizer o que ela não resiste. Ao gerar texto, a IA decide qual deve ser a próxima palavra, e pode haver algumas opções. Aqui, você poderia dizer: “Eu vi

01:06 um cachorro, um filhote, um gato ou uma casa”. Com base no contexto, cada uma dessas palavras recebe uma probabilidade de ser escolhida. Agora, com um algoritmo de impressão digital, ele atribui secretamente uma cor a cada palavra. Algumas são verdes, preferidas; outras são vermelhas, não preferidas. E agora vem um pouco de nepotismo. Uma pequena trapaça, se preferir. Ao escolher a próxima palavra, as verdes recebem um pequeno empurrão para cima. Elas aparecem um pouco mais vezes. Então, veja

01:39 como verificar se há uma marca d’água. Em um trecho de texto, alguém que sabe quais são as palavras vermelhas e verdes simplesmente conta quantas verdes há. Esse método tem uma propriedade matemática segundo a qual, quanto mais palavras verdes você vê, menor fica a probabilidade de o texto ter sido escrito por uma pessoa — extremamente pequena. Encontradas 21 palavras verdes em um parágrafo, de repente, a probabilidade de aquilo ter sido escrito por uma pessoa pode ser menor do que a de ganhar na loteria, muito menor. Note que as palavras verdes podem ser quaisquer palavras, por mais

02:11 discretas que sejam, então você não consegue identificá-las. Quais palavras são verdes também pode mudar com o tempo. Que chato. Esta é a versão simplificada do algoritmo. É provável que estejam usando a variante SynthID, que também tem probabilidades dependentes do contexto e um sistema de torneio. Mas o princípio do algoritmo é o mesmo na maioria dos artigos de pesquisa que li. Algumas palavras são preferidas e recebem uma pequena vantagem durante a geração, criando uma impressão digital única. Agora, há muitas

02:43 ideias equivocadas sobre isso por aí. Primeiro: não é possível rastrear um texto escrito por Claude até você, mas é possível mostrar que Claude escreveu o texto inteiro ou o editou bastante. Não concordo com isso. Estou fazendo este vídeo para que todos saibam. O conhecimento só muda o mundo quando chega às pessoas. Em segundo lugar, alguns dizem: “É só editar algumas palavras que fica tudo resolvido”. Não. Não dá para se livrar disso tão facilmente. Então, dá para se livrar disso? Caros colegas acadêmicos, este é o Two Minute Papers com o Dr. Károly Zsolnai-Fehér. Com uma edição leve

03:15 não. Se você reescrever tudo, trocando cada palavra, sim, dá para se livrar disso. Um LLM de pesos abertos que trabalhe a seu favor também pode ajudar. Certo, então quem pode verificar se há uma marca d’água no texto? Bem, nem você nem eu. Algumas organizações autorizadas podem, mas, por enquanto, é só isso. Então, qual é a solução? Bem, claro: use sistemas de IA gratuitos e de pesos abertos e execute-os você mesmo. Eles trabalham a seu favor, não contra você. Esse [música] é o caminho do

03:47 estudioso. Precisamos de novas ferramentas para a era dos LLMs, e a Weights & Biases agora tem o Weave, um kit de ferramentas leve para iterar com confiança em aplicações de LLM. Use traces para depurar como os dados fluem por cada etapa do seu app e use evals para medir seu progresso. É o melhor. Experimente agora em wnb.me/papers ou clique no link na descrição abaixo.

Transcrição original

[00:00] Images can be watermarked for copy protection. Now, get this. Claude AI announced that they are watermarking the text you generate with it. From when? When does this start? Well, Anthropic is rolling this out right now. Yep. I am not talking about this because I agree with it, but because I think it’s important that all of you fellow scholars know about this to inform the public. So, this piece of text is watermarked. Wait, what? >> [laughter] >> You can watermark an image by putting

[00:32] your logo on it, but text? How would you watermark text? You put hidden characters in it, right? Nope. This paper describes that it is a fingerprint in text that is invisible to humans, but is detectable for machines. It even survives copy-pasting and some editing, too. I’ll tell you what it doesn’t survive in a minute. So, when generating text, the AI decides what the next word should be, and there can be a few candidates. Here, you could say, “I saw

[01:06] a dog, a puppy, a cat, or a house.” Based on context, each of these words gets a probability to be chosen. Now, with a fingerprinting algorithm, it secretly assigns a color to each word. Some are green, preferred, some are red, not preferred. And now comes a little nepotism. A little cheating, if you will. When choosing the next word, the green ones get a little nudge upwards. They will occur slightly more often. So, here’s

[01:39] how to check for a watermark. In a piece of text, someone who knows the red and green words simply counts how many greens you have. This scheme has a mathematical property where, as you see more and more green, the probability of it being real human text is extremely small. Found 21 grains in a paragraph, suddenly the probability of that done by humans can be less than winning the lottery, much smaller. Note that the green words can be anything, no matter

[02:11] how inconspicuous, so you can’t spot them. Which words are green can also change over time. Ouch. This is the simplified version of the algorithm. They are likely using the SynthID variant, which has context-dependent probabilities and a tournament system, too. But the heart of the algorithm is the same in most research papers I read. Some words are preferred and are given a slight edge in the generation, creating a unique fingerprint. Now, there are a

[02:43] lot of misconceptions about this out there. One, Claude-written text cannot be traced back to you, but it shows that Claude wrote the whole thing or heavily edited the text. I don’t agree with this. I am making this video to let everyone know. Knowledge only changes the world when it reaches people. Second, some say, “Just edit a few words and it’s clean.” Nope, you can’t get rid of it so easily. So, can you get rid of it? Dear fellow scholars, this is Two Minute Papers with Dr. Károly Zsolnai-Fehér. With light

[03:15] editing, no. If you rewrite the whole thing, exchanging every word, yes, you can get rid of it. An open-weights LLM that works for you can also help. Okay, so who can check if there is a watermark in the text? Well, not you and not me. Some eligible organizations can, but that’s it for now. So, what is the solution? Well, of course, use free and open-weights AI systems and run them yourself. These work for you, not against you. That [music] is the way of

[03:47] the scholar. We need new tools for the era of LLMs, and weights and biases now has weave a lightweight toolkit to confidently iterate on LLM applications. Use traces to debug how data flows through each step of your app and use evaluations to measure your progress. It is the best. Try it out now at wnb.me/papers or click the link in the description below.