Deixei uma voz de IA aprovar meus e-mails. Três estavam errados.

Autoria: Siraj Raval · Assistir no YouTube

Vídeo de autoria do canal indicado, não da IANIA; todos os direitos pertencem ao criador. Transcrição, resumo e tradução gerados automaticamente; o conteúdo no idioma original é preservado na versão em idioma original.

Idioma original: inglês

Vídeo original: I Let an AI Voice Approve My Emails. 3 Were Wrong. · Canal: Siraj Raval · 07:50 · Assistir no YouTube

Tópicos: Agentes de IA, Automação de tarefas e workflows, Modelos multimodais

Resumo

O criador adiciona uma camada de voz ao agente que lê sua caixa de entrada, redige respostas e sugere mudanças na agenda. Ao aprovar as sugestões apenas ouvindo, ele percebe que a entrega fluida e confiante o fez verificar menos, embora algumas informações estivessem erradas. No fim, 24 aprovações estavam corretas e três não; ele conclui que a voz é útil para narrar, mas não deve aprovar ações. Sua regra passa a ser ler em texto, com os próprios olhos, qualquer coisa que envie, gaste ou agende algo com outra pessoa.

Pontos-chave

O agente já lia e-mails, redigia respostas, sinalizava mensagens que precisavam de intervenção humana e movia itens na agenda.
A camada de voz transforma texto em áudio sem mudar o modelo, as instruções ou as permissões do agente.
A voz funciona em inglês e hindi sem precisar de retreinamento ou de um segundo modelo.
Ouvir respostas com uma entrega calma e confiante levou o criador a parar de conferir o trabalho do agente.
O resultado da sessão foi de 24 aprovações corretas e três erradas.
A voz não causou os erros: ela leu corretamente frases que já estavam erradas.
A fricção de ler o texto ajudava o criador a pensar e a desconfiar das respostas.
A recomendação é usar voz para narrar informações, mas nunca para aprovar ações.
Qualquer ação que envie algo, gaste dinheiro ou agende algo com outra pessoa deve ser conferida em texto.

Capítulos

Início	Capítulo	Resumo
00:00	A regra: aprovar apenas por voz	O criador apresenta o teste: aprovar as ações do agente sem abrir o registro e contar os erros ao fim.
01:34	Como funciona a camada de voz	Ele mostra a integração com Fish Audio S2.1 Pro, que converte texto em áudio e funciona em inglês e hindi.
03:09	A voz muda o nível de confiança	Durante a sessão, o criador percebe que a fala confiante o leva a aprovar informações sem conferi-las.
05:16	Os erros e a contagem final	O áudio estava correto, mas algumas frases não; a contagem revela 24 aprovações corretas e três erradas.
06:48	Voz para narrar, não para aprovar	Ele recomenda conferir em texto qualquer ação que afete outra pessoa e reservar a voz para leitura e narração.

Citações

A única coisa que mudou foi que a informação chegou por voz, e meu padrão de conferência simplesmente desapareceu. — 03:40

A voz fez o trabalho dela. Leu aquela frase perfeitamente. A frase é que estava errada. — 05:16

Ela não me enganou. Tirou a fricção — e, pelo visto, era a fricção que estava pensando por mim. — 06:18

Dê voz ao seu agente para produzir respostas, nunca para aprová-las. — 06:48

Conceitos e entidades

Agent (conceito): Sistema que lê e-mails, redige respostas, sinaliza mensagens e pode mover itens na agenda.
Fish Audio S2.1 Pro (modelo): Modelo de voz usado para converter o texto do agente em áudio e manter a mesma voz entre idiomas.
voice layer (conceito): Camada que transforma em áudio o texto já produzido pelo agente.
Hindi (conceito): Idioma usado no vídeo para demonstrar a leitura em voz alta com a mesma voz da versão em inglês.

Tradução completa (pt-BR)

00:00 Esse fui eu aprovando algo que nunca li. Aquela coisa que vem cuidando da minha caixa de entrada há meses. Dei uma voz a ela esta manhã e, na hora do almoço, já tinha parado de ler o que ela fazia. Ela disse uma frase em voz alta, calma, acolhedora e confiante, e eu respondi: “É, pode enviar.” Não abri o registro, não li uma linha. Então, aqui vai uma regra para hoje: só aprovo por voz. A janela do registro fica fechada. No fim, vou abri-la e vamos contar quanto a voz me custou. Então, são dois números. Ainda não sei nenhum dos dois, e você também não. O agent lê minha

00:30 caixa de entrada. Ele escreve as respostas. Sinaliza as duas ou três mensagens que realmente precisam de uma pessoa e altera coisas na minha agenda sem que eu precise pedir antes. É bom. É realmente bom, e quero que você perceba como isso parece quando está funcionando bem. Esse é o resultado. É nisso que venho confiando. Dei uma olhada nisso. Venho só passando os olhos por isso há meses, e passar os olhos não é conferir. Eu sei disso. Só parece que estou conferindo porque a tela está cheia e parece que alguém fez algum trabalho. Ninguém

01:01 jamais construiu uma relação com o histórico de conversa. Não importa o quão inteligente seja o modelo. Se a única maneira de ele chegar até mim é por uma parede de palavras bem na hora em que estou com as mãos ocupadas, continuo sendo o gargalo, e isso não é culpa do modelo. É só uma maneira ruim de chamar a atenção de alguém. Então, vou acrescentar uma camada. Uma só. Texto entra, áudio sai. Nada mais no agent muda. Mesmo modelo, mesmas instruções, mesmas permissões, tudo igual. Uma voz não deveria mudar o que ele faz. Só

01:34 muda a maneira como eu confiro. Lembre-se disso, porque foi justamente nisso que acabei me enganando. Então, vou gastar 90 segundos explicando como construí a voz; depois, fecho a janela do registro e começamos a contar. O agent funciona. Ele lê minha caixa de entrada, escreve as respostas e sinaliza as duas que precisam de mim. O problema é que ele fala como um arquivo de registro. Quero ouvi-lo. Para a camada de voz, estou usando o modelo S2.1 Pro da Fish Audio. Por um motivo: ele mantém a mesma voz em diferentes idiomas. [música] Metade do meu público está na Índia; quero um agent que consiga alternar entre inglês e hindi sem

02:05 parecer dois robôs diferentes. Toda a integração é uma função: texto entra, áudio sai. Aqui está a chamada e aqui está um ID de voz; aqui está a solicitação. É o agent lendo para mim o e-mail sinalizado. A mesma voz, em hindi. Sem novo treinamento, sem um segundo modelo. Mais duas coisas que conectei à mesma função. Este é o resumo da manhã. Ele me conta o que aconteceu durante a noite enquanto faço café, com a mesma voz. E este narra uma história para dormir. A mesma chamada de API, texto diferente. Esse é o [música] ponto. Quando a camada de voz é uma única função, todo texto que seu agent já produz se torna algo que você pode ouvir.

02:37 Se algum dia quiser desenvolver com a API para desenvolvedores do S2.1 Pro, ela é gratuita até o fim de novembro, sujeita à política de uso justo. Então, você pode começar a testá-la de graça no seu próprio agent. O link está na primeira linha da descrição. Agora ele consegue falar. De volta à construção. Então, foi assim que montei: uma sessão, uma função. Sinceramente, o código é a parte sem graça aqui. O que eu não esperava era como seria conviver com essa coisa. Dei um nome a ela no primeiro dia. Não

03:09 vou dizer qual, porque você me julgaria, e com razão. Comecei a dizer “por favor” e depois pedi desculpas em voz alta ao software por interrompê-lo. E isso é engraçado, até deixar de ser. Olha só. Esse sou eu no mesmo dia em que dei uma voz a ele. Ouça o que ele fez. >> A Elfie Collect voltou com a Salty. Ela não pode aceitar a publicação no X. Precisa de uma inserção no YouTube, e ainda não há nada assinado com a marca. >> Ele não verificou nada. Soou confiante, então eu fiquei confiante. A informação era idêntica: mesmo agent, mesmo rascunho, mesma

03:40 decisão. A única coisa que mudou foi que a informação chegou em uma voz, e todo o meu critério para conferi-la simplesmente desapareceu sem que eu percebesse. Então, vamos descobrir direito o quanto isso é ruim. Uma sessão de trabalho. O agent lê em voz alta o que precisa da minha atenção. Propõe a resposta em voz alta. Propõe a mudança na agenda em voz alta. Respondo sim ou não por voz, rapidamente, como faria se uma pessoa estivesse sentada aqui, e essa janela fica fechada até o fim deste vídeo. Preciso contar que, durante boa parte dessa sessão,

04:12 achei que essa era a melhor experiência que meu sistema já me proporcionou. Não estou na mesa. Ele vai me contando o que tenho pela frente. Muda uma coisa. Cancela outra. Digo sim e não com as mãos ocupadas, e é rápido. Acontece que a interface mais rápida [música] do mundo é aquela em que você nunca precisa ter certeza. Guarde essa sensação, porque, depois de mais algumas aprovações, ele diz algo completamente falso, exatamente com esse tom. Aí chega isto. É uma ameaça que realmente é melhor tratar em hindi, e quero ouvi-la do jeito que eu realmente falaria. Foi nesse momento que deixou de parecer uma demonstração para mim. Não porque seja

04:44 impressionante, embora seja, mas porque foi a primeira vez que a coisa soou como se pertencesse à minha casa, nos dois idiomas que realmente se falam nela. Uma voz só, não um robô em inglês e outro em hindi se revezando. E quero ser sincero sobre o efeito que isso teve em mim, porque não me deixou mais cuidadoso. Mais tarde, durante a sessão, aconteceu isto. Está errado, completamente errado, e só percebi porque, por acaso, sabia a resposta. Agora, quero ser preciso sobre o que falhou, porque é fácil culpar a coisa errada. A voz fez seu

05:16 trabalho. Leu aquela frase perfeitamente. A frase é que estava errada. Isso não é culpa do modelo de fala. Ele nunca teve uma opinião sobre se aquilo era verdade. Mas aqui está a parte que me pegou. Um arquivo de registro parece incerto quando está incerto. Dá para ver as ressalvas. Dá para acompanhar enquanto ele discorda de si mesmo. Uma voz nunca faz isso. A voz é fluida o tempo todo, esteja certa ou não. E foi isso que me pegou, porque passei o dia inteiro tratando a segurança com que soava como [música] prova de que estava certa.

05:46 Não é prova. É só um tom de voz. Certo, vamos contar. 24 certas, três erradas. [música] Então, aí está. Falei em voz alta sobre aqueles dois números nesta manhã, antes de saber quais seriam, e disse que publicaria o que quer que mostrassem. E eu teria percebido cada uma daquelas respostas erradas na hora, se as tivesse lido. Então, meu veredito sincero: minha velocidade aumentou bastante, e meu nível de escrutínio caiu quase na mesma medida. Não me dei conta disso até ver os números na tela. Continuei interpretando aquilo como dois

06:18 resultados, um bom e um ruim, mas não são dois. É o mesmo número visto de duas maneiras. Se algo permite que você decida mais rápido, sobra menos tempo para desconfiar. É isso que significa ser mais rápido. Ele nunca me enganou. Tirou o atrito do processo, e acontece que esse atrito estava pensando por mim. Então, vou manter duas coisas: a voz para as respostas, para ler coisas para mim, para me encontrar quando estou longe da mesa. Essa parte é realmente melhor do que uma tela, e não vou abrir mão dela. E uma regra rígida: qualquer coisa que envie, gaste dinheiro ou marque algo com outra pessoa precisa ser lida por mim em texto, com os meus olhos, antes de ser enviada.

06:48 E vou mantê-lo sob rédea curta, porque essa rédea é a única parte disso tudo que consigo controlar. Se você construir algo assim, e muitos de vocês estão prestes a fazer isso, esta é a lição que quero deixar. [música] Dê uma voz ao seu agent para gerar respostas, nunca para aprovar. A voz é uma ótima narradora e uma péssima auditora. É só isso. Não tenho uma versão mais longa. E, para deixar claro onde

07:19 o ponto crítico é que eu mesmo errei nisso durante uma sessão de trabalho inteira. Isso não é uma afirmação sobre um modelo de fala. O áudio estava impecável. [música] É uma afirmação sobre mim e sobre o efeito que uma fala calma e confiante tem na disposição de uma pessoa para conferir. [música] Cada vez que você acelera, paga por isso em algum lugar. E, quando é uma voz, você ouve o preço sendo pago. Por último, me conte nos comentários: qual é a única coisa que você jamais deixaria uma voz aprovar? Os links estão na primeira linha da descrição, se quiser criar

07:50 uma camada de voz por conta própria. Faça a sua falar e depois leia o trabalho dela.

Transcrição original

[00:00] That was me approving something I never read. That thing that has run my inbox for months. I gave it a voice this morning and by lunch, I’d stopped reading its work. It said one sentence out loud, calm and warm, and sure of itself, and I said, “Yeah, send it.” I didn’t open the log, I didn’t read a line. So, here’s a rule for today. I approve by voice only. The log window stays shut. At the end, I open it and we count what the voice cost me. So, two boxes, I don’t know either number yet, and neither do you. The agent reads my

[00:30] inbox. It drafts the replies. It flags the two or three that actually need a human, and it moves things on my calendar without me asking it first. It’s good. It’s genuinely good, and I want you to notice what it looks like when it’s being good. That’s the output. That’s what I’ve been trusting. I skimmed this. I’ve been skimming it for months, and skimming isn’t checking. I know that. It just feels like checking because the screen’s full and it looks like somebody did some work. Nobody’s

[01:01] ever built a relationship with the scrollback. It doesn’t matter how smart the model is. If the only way it can reach me is a wall of words at the exact moment my hands are full, I’m still the bottleneck, and that’s not the model’s fault. That’s just a bad way of getting hold of somebody. So, I’m adding one layer. One. Text in, audio out. Nothing else about the agent changes. Same model, same instructions, same permissions, same everything. A voice shouldn’t change what it does. It only

[01:34] changes how I check it. Remember that one because that’s the bit I turned out to be wrong about. So, 90 seconds on how I built the voice, then I close the log window and we start counting. So, the agent works. It reads my inbox, drafts the replies, flags the two that need me. The problem is that it talks like a log file. I want to hear it. For the voice layer, I’m using Fish Audio’s S2.1 Pro model. One reason, it holds a voice across languages. [music] My audience is half India an agent that can switch between English and Hindi without

[02:05] sounding like two different robots. The whole integration is one function, text in, audio out. Here’s the call and here’s a voice ID, here’s the request. That’s the agent reading me the flagged email. Same voice, Hindi. No retraining, no second model. Two more things I wired into the same function. This is the morning brief. It reads me what happened overnight while I’m making coffee in the same voice. And this one narrates a bedtime story. Same API call, different text. That’s the [music] point. Once the voice layer is one function, every text

[02:37] your agent already produces becomes something you can listen to. If you ever want to build the S2.1 Pro developer API, it’s free through the end of November subject to the fair use policy. So, you can start testing it on your own agent for free. The link is the first line of the description. Now it can talk. Back to the build. So, that’s the build, one sitting, one function. Honestly, the code is the boring bit here. What I didn’t expect was that what it’s actually like to live with the thing. I gave it a name on day one. I’m

[03:09] not telling you what because you’d judge me and you’d be right. I started saying please, then I apologized to it for interrupting out loud to software. And that’s funny right up until it isn’t. Look at that. That’s me the same day I gave it a voice. Listen to what it did. >> Elfie I collect came back on Salty. She can’t take the X post. She needs a YouTube placement and nothing is signed with the brand yet. >> It didn’t check anything. It sounded sure, so I was sure. The information was identical, same agent, same draft, same

[03:40] decision. The only thing that changed was that it arrived in a voice and my whole standard for checking it just quietly went away. So, let’s find out how bad that is properly. One working session. The agent reads me what needs me out loud. It proposes the reply out loud. It proposes the calendar move out loud. I answer yes or no by voice fast, the way I would if a person were sitting here, and that window stays closed until the end of this video. I have to tell you for a long stretch of that session,

[04:12] this is the best my setup has ever felt. I’m not at the desk. It’s calling my day at me. It moves one thing. It kills another. I’m saying yes and no with my hands full, and it’s fast. Turns out the fastest interface [music] in the world is one where you never have to be sure. Hold that feeling because a few approvals from here, it says something completely false in exactly that tone. Then this comes in. It’s a threat that’s genuinely better handled in Hindi, and I want to hear it the way I’d actually say it. That’s the moment it stopped feeling like a demo to me. Not because it’s

[04:44] impressive, although it is, because it’s the first time the thing sounded like it belonged in my house in both of the languages that are actually spoken in it. One voice, not an English robot and a Hindi robot taking turns. And I want to be honest about what that did to me because it did not make me more careful. Later in the session, this happened. That’s wrong, flatly wrong, and I only caught it because I happen to know the answer. Now, I want to be precise about what just failed because it’s easy to blame the wrong thing. The voice did its

[05:16] job. It read that sentence perfectly. The sentence was just wrong. That’s not the speech model’s fault. It never had an opinion about whether any of it was true. But here’s the part that got me. A log file looks uncertain when it’s uncertain. You can see the hedging. You can watch it argue with itself. A voice never does that. A voice is smooth all the way through whether it’s right or not. And that’s what got me because I’d spent the whole day treating how sure it sounded as [music] proof it was right.

[05:46] It isn’t proof. it’s a tone of voice. All right, let’s count. 24 correct, three wrong. [music] So, there it is. I said those two boxes out loud this morning before I knew what was going in them, and I said I’d publish whatever they said. And every single one of those wrong ones was a thing I would have caught in the moment I read it. So, honest verdict, my speed went up by a lot, and my scrutiny went down by about the same amount, which I didn’t clock at all until those counters were sitting on the screen. I kept reading that as two

[06:18] results, a good one and a bad one, but it’s not two. It’s the same number twice. If something lets you decide faster, you’re getting less time to be suspicious. That’s just what faster means. It never tricked me. It took away the friction, and it turns out the friction was doing my thinking for me. So, two things I’m keeping, the voice for output, for reading things to me, for finding me where when I’m nowhere near the desk, that part is genuinely better than a screen, and I’m not giving it back. And a hard rule, which is that

[06:48] anything that sends, spends, or schedules with another human gets read as text before it goes by me, [music] with my eyes. And I’m keeping it on a short leash because the leash is the only part of this that I control. If you build one of these, and a lot of you are about to, this is the part I take with you. [music] Give your agent a voice for output, never for approval. Voice is a great narrator and a terrible auditor. That’s really it. I don’t have a longer version. And to be clear about where the

[07:19] fault line is, because I got this wrong myself for an entire working session, that’s not a statement about a speech model. The audio was flawless. [music] It’s a statement about me and about what a calm, confident delivery does to a human being’s willingness [music] to check. Every time you go faster, you’re paying for it somewhere. And when it’s a voice, you you hear yourself paying. Last thing, tell me in the comments what’s the one thing you’d never let a voice approve. Links in the first line of the description if you want to build

[07:50] a voice layer yourself. Go make yours talk, then go read its work.